OpenAI расформировала команду по безопасности и соблюдению человеческих ценностей в ИИ

Команда, известная под названием «миссионерское выравнивание», была создана в сентябре 2024 года с целью обеспечения того, чтобы ИИ работал в интересах человека в различных сложных ситуациях. В описании вакансии OpenAI указывалось, что группа занималась разработкой методик, позволяющих ИИ эффективно следовать человеческим намерениям в различных контекстах, включая потенциально опасные или критически важные. После расформирования команды её лидер Джош Ачиам получил новую должность главного футуролога, в рамках которой он будет исследовать влияние ИИ и других технологий на будущее человечества. В своем блоге он подчеркнул, что его основная цель — поддерживать миссию OpenAI по созданию искусственного общего интеллекта, полезного для всего человечества.

Другие члены команды, состоящие из шести или семи человек, были переведены на новые позиции внутри компании, где продолжат заниматься схожими вопросами. Представитель OpenAI охарактеризовал эти изменения как стандартную практику в условиях динамичного развития компании. Это не первая реорганизация в OpenAI: в 2023 году была создана команда «супервыравнивания», которая занималась исследованием экзистенциальных угроз от ИИ, но она также была распущена в 2024 году.

Данная реорганизация вызывает вопросы о приоритетах OpenAI на фоне жесткой конкуренции в сфере искусственного интеллекта. Переименование поста руководителя команды безопасности в главного футуролога может выглядеть как ребрендинг, а не как реальное усиление внимания к важным вопросам контроля над ИИ. В 2026 году, когда технологии ИИ стали еще более мощными и распространенными, подобные действия крупных игроков в индустрии требуют внимательного анализа со стороны регуляторов и общества.