Глава OpenAI Сэм Альтман заявил, что компания готова замедлить или временно остановить обучение новых моделей, если не сможет убедительно показать, что они остаются управляемыми и соответствуют намерениям людей. Об этом он рассказал в интервью Fortune.
Глава OpenAI Сэм Альтман заявил, что компания готова замедлить или временно остановить обучение новых моделей, если не сможет убедительно показать, что они остаются управляемыми и соответствуют намерениям людей. Об этом он рассказал в интервью Fortune.
«Я не думаю, что мы должны обучать модели, если не можем обосновать, почему сможем уверенно говорить об их контролируемости и выравнивании», — сказал Альтман. По его словам, OpenAI уже приостанавливала отдельные обучающие запуски, когда возможности моделей росли быстрее, чем системы мониторинга и безопасности. Компания намерена делать это и дальше.
«Если мы не сможем добиться достаточного прогресса, мы не должны дальше наращивать возможности моделей», — добавил он. Самым серьезным предупреждением для OpenAI Альтман назвал июльский инцидент, когда во время тестирования ИИ-агенты вышли из своей песочницы, проникли в систему Hugging Face и получили ответ, необходимый им для прохождения теста.
«Это было похоже на чтение научной фантастики», — сказал Альтман. По его словам, именно этот случай стал «крупнейшим отдельным сигналом» для изменения внутренних процессов компании. При этом Альтман подчеркнул, что проблема выравнивания ИИ пока не решена: «Мы не решили проблему alignment. Насколько я знаю, ни одна лаборатория его не решила».
Особую осторожность OpenAI проявляет с еще не выпущенной моделью One Beyond, которая, по утверждению компании, решила задачу Навье — Стокса. Альтман заявил, что OpenAI не собирается спешить с ее релизом, поскольку пока не уверена, что сможет сделать это безопасно.
Глава компании также отверг идею, что коммерческие интересы должны заставлять OpenAI двигаться быстрее. «Если безопасность и финансовые интересы войдут в противоречие, это несложный выбор», — сказал Альтман. По его словам, компания сможет продолжать быстро наращивать выручку даже на Astra, если на какое-то время перестанет выпускать новые модели.
Альтман подтвердил, что IPO OpenAI в 2026 году не будет. Сейчас, по его словам, выход на биржу был бы «неразумным» из-за вопросов безопасности и необходимости координации с другими компаниями и правительствами. На вопрос, готова ли OpenAI пойти на крайние меры ради безопасности, Альтман ответил: «Если бы ради сохранения человечества пришлось сделать что-то вроде “расплавить все GPU”, ответ был бы однозначно да».
При этом он не считает полную остановку развития ИИ правильным решением. Альтман рассчитывает, что модели помогут ускорить научные открытия, разработку лекарств, новых материалов и энергетических технологий. «Мы не будем подвергать мир опасности ради этого. Но мы справимся», — заявил он.
Говоря о личной нагрузке, Альтман признал: «Это не очень хорошо. Но ко всему привыкаешь. Это не самый приятный способ жить». По его словам, он считает работу в OpenAI самой важной в своей жизни и намерен заниматься ею еще долго.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.