Глава OpenAI Сэм Альтман считает, что ради пользы от ИИ обществу придётся принять некоторые риски, связанные с технологией. В интервью POLITICO он рассказал, что его взгляды на регулирование ИИ заметно отличаются от позиции конкурента Anthropic.
Глава OpenAI Сэм Альтман считает, что ради пользы от ИИ обществу придётся принять некоторые риски, связанные с технологией. В интервью POLITICO он рассказал, что его взгляды на регулирование ИИ заметно отличаются от позиции конкурента Anthropic.
«Я думаю, между нами большая разница», — сказал Альтман. На вопрос о том, в чём именно он расходится с главой Anthropic Дарио Амодеи, он ответил, что считает, что «ради пользы этой технологии и возможности людей самим решать, как ей пользоваться, миру придётся смириться с тем, что некоторые плохие вещи будут происходить».
Anthropic продвигает жёсткое регулирование ИИ в индустрии, тогда как OpenAI раньше была сторонницей более мягкого подхода. В последнее время позиции компаний сблизились. OpenAI поддержала призыв Амодеи замедлить разработку самых продвинутых ИИ-моделей, выступила за более строгие требования к безопасности в новых законах отдельных штатов США, а её лоббисты поддержали двухпартийный законопроект Палаты представителей, который обяжет крупнейшие ИИ-компании привлекать независимых специалистов для оценки безопасности.
При этом Альтман всё ещё видит принципиальную разницу во взглядах компаний. Он сказал, что понимает позицию тех, кто считает ИИ столь мощной и опасной технологией, что «одна лаборатория в Сан-Франциско должна владеть ею, следить, чтобы ничего плохого не произошло, и решать, кому и как достанется выгода». Но сам он считает такой подход «совершенно неприемлемым» и выступает за мягкое регулирование.
«Я бы не стал идти на сделки в духе: "Мы гарантируем, что не будет крупных взломов, какого-либо злоупотреблений этой технологией, мошенничества и вообще всех остальных плохих вещей, которые произойдут". Потому что, думаю, люди сделают в разы, на порядки больше хорошего, чем плохого», — сказал Альтман.
При этом глава OpenAI уточнил, что не готов мириться с действительно катастрофическими рисками, например возможной «потерей контроля над ИИ».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.