OpenAI придумала новый комитет по безопасности ИИ и не включила туда Альтмана

Новая структура получила право приостанавливать релизы ИИ-моделей по соображениям безопасности. В комиссию вошли Зико Колтер, Адам д’Анджело, Пол Накасоне, Николь Селигман, которые также входят в состав совета директоров компании. При этом в списке членов нет гендиректора OpenAI Сэма Альтмана.

Комиссия уже провела проверку безопасности новой модели o1. Орган вместе с советом директоров будет осуществлять надзор за разработкой новых ИИ-моделей. Совет директоров будет получать периодические брифинги по вопросам безопасности систем.

Изменения в структуре компании произошли после того, как стартап лишился почти половины сотрудников, которые отвечали за долгосрочные риски ИИ. Многие из них перешли в Safe Superintelligence — стартап одного из основателей OpenAI Ильи Суцкевера, который ранее также уволился из компании.

По данным СМИ, OpenAI готовится к новому раунду финансирования в размере около $6,5 миллиарда при оценке компании в $150 миллиардов. Для повышения стоимости на рынке руководство стартапа планирует полностью изменить корпоративную структуру компании и отказаться от некоммерческой составляющей.

OpenAI представила языковую модель o1 — она мощнее GPT-4o и умеет рассуждать

По теме

OpenAI представила языковую модель o1 — она мощнее GPT-4o и умеет рассуждать

OpenAI собрается поднять инвестиции при оценке в $150 млрд — это больше, чем стоят 88% компаний S&P 500

По теме

OpenAI собрается поднять инвестиции при оценке в $150 млрд — это больше, чем стоят 88% компаний S&P 500

Стартап бывшего главного ученого OpenAI привлек уже $1 млрд

По теме

Стартап бывшего главного ученого OpenAI привлек уже $1 млрд

Поддержите редакцию 1,5% налога: бесплатно и за 5 минут

Как помочь, если вы в Польше