Главы Nvidia Дженсен Хуанг и Meta Марк Цукерберг выступили против идеи общего замедления развития ИИ. Они считают, что компании сами заинтересованы выпускать безопасные модели и могут снижать темп, когда видят конкретные риски.
Главы Nvidia Дженсен Хуанг и Meta Марк Цукерберг выступили против идеи общего замедления развития ИИ. Они считают, что компании сами заинтересованы выпускать безопасные модели и могут снижать темп, когда видят конкретные риски.
«Безопасность — это инженерная проблема, а не юридическая», — заявил Хуанг на конференции Dreamforce. По его словам, ИИ остается сложной вычислительной системой, которую создают люди, поэтому для нее не нужны отдельные новые законы.
Глава Nvidia считает, что главным ограничителем должен быть рынок: если компания не уверена в безопасности продукта, она не должна его выпускать.
«Рыночные механизмы уже существуют. Нам не нужны новые законы. Нам не нужно новое регулирование», — сказал Хуанг. При этом он допустил паузу, если разработчик почувствует, что ситуация выходит из-под контроля: «Бегите настолько быстро, насколько можете. Но если в какой-то момент компания теряет контроль или продукт может оказаться небезопасным — остановитесь и разберитесь».
Похожую позицию занял Марк Цукерберг. Он заявил, что конкуренция и риск юридической ответственности уже дают ИИ-компаниям достаточно стимулов заниматься безопасностью самостоятельно.
«Доверие и выравнивание быстро становятся важнейшими характеристиками, по которым будут различаться агенты и модели. Любая лаборатория, которая не занимается выравниванием, отстанет», — написал Цукерберг.
В качестве примера он привел Meta: компания ранее отложила выпуск ИИ-агента Muse, чтобы усилить его защиту. «Мы не требовали, чтобы все остальные сделали то же самое. Мы просто сделали это сами, потому что это было правильно и для людей, и для нас», — заявил он.
Позиции Хуанга и Цукерберга отличаются от предложения Дарио Амодея. Глава Anthropic призвал отрасль замедлить темпы улучшения наиболее мощных моделей из-за рисков рекурсивного самоулучшения ИИ. Сэм Альтман и Илон Маск публично поддержали его призыв.
При этом спор идет не только о скорости развития, но и о способе контроля. Амодей предлагает координацию между крупнейшими лабораториями, тогда как Хуанг делает ставку на существующие законы и рынок, а Цукерберг — на ответственность каждой компании и независимое тестирование моделей.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.