Сотрудники OpenAI, отвечающие за безопасность ИИ, увольняются из компании

Сотрудники OpenAI, отвечающие за то, чтобы искусственный интеллект не вышел из-под контроля, покидают компанию, передает NUR.KZ со ссылкой на Quartz.

Этот материал – часть нашей ежедневной рассылки. Если вы хотите получать свежую рассылку, подписывайтесь на нее здесь и получайте ее, где вам удобно (на почту или в Telegram).

OpenAI создала свою команду Superalignment почти год назад с конечной целью контролировать гипотетические сверхразумные системы искусственного интеллекта и не допускать их восстания против людей.

Естественно, многие были обеспокоены: зачем вообще нужна такая команда? Теперь произошло нечто более тревожное: лидеры команды Илья Суцкевер и Ян Лейке только что покинули OpenAI.

Отставка руководства Superalignment является последней в серии заметных увольнений из компании, некоторые из которых произошли внутри команды Суцкевера и Лейке, занимающейся вопросами безопасности.

Члены команды Superalignment Леопольд Ашенбреннер и Уильям Сондерс в ноябре 2023 года не поддержали Сэма Альтмана, который был отстранен с позиции гендиректора, а потом вернулся на свой пост. Позже стало известно, что Ашенбреннер и Сондерс также покинули компанию.

Безопасность в OpenAI всегда вызывала разногласия. Именно это побудило Дарио и Даниэлу Амодей в 2021 году основать собственную компанию в области искусственного интеллекта Anthropic вместе с девятью другими бывшими сотрудниками OpenAI.

Сообщается, что именно вопросы безопасности стали поводом для разногласий между Сэмом Альтманом и другими членами совета директоров.