Руководители Anthropic, OpenAI и других гигантов индустрии в закрытом режиме прорабатывают сценарии того, что произойдёт после первого масштабного инцидента с участием ИИ, узнал Axios.
Руководители Anthropic, OpenAI и других гигантов индустрии в закрытом режиме прорабатывают сценарии того, что произойдёт после первого масштабного инцидента с участием ИИ, узнал Axios.
Топ-менеджеры и ведущие исследователи считают серьёзную катастрофу неизбежной. Чаще всего в качестве базового сценария рассматривают глобальную кибератаку, в результате которой будут отключены банковские сервисы, доступ к интернету или даже объекты критической инфраструктуры вроде электросетей и водоснабжения.
Первое же реальное проявление катастрофического вреда от ИИ окончательно настроит общественность против технологии и её главных лиц — включая главу Anthropic Дарио Амодеи, гендиректора OpenAI Сэма Альтмана и президента США Дональда Трампа, который сопротивляется регулированию отрасли.
«OpenAI регулярно проводит учения по готовности, где команды разбирают широкий спектр потенциальных сценариев. Мы не считаем эти события неизбежными, но такие тренировки помогают нам подготовиться к самым разным обстоятельствам», — заявил представитель OpenAI. В Anthropic от комментариев отказались.
Виноватых начнут искать сразу же — независимо от того, вырвется ли из лаборатории рой автономных ИИ-агентов или злоумышленники найдут принципиально новый способ применить существующие модели.
Наглядный пример того, на что уже способен один человек с ИИ-инструментами — недавняя атака на финансовый сектор Южной Кореи, где пострадали минимум два крупных банка. По данным кибербезопасников CrowdStrike, хакер из Китая использовал локальные ИИ-модели (включая DeepSeek) для кражи данных десятков тысяч клиентов, а затем через Claude Code выяснял, где именно эти базы проще всего продать.
Инсайдеры отрасли считают, что крупный инцидент произойдёт уже в ближайшие 6-12 месяцев.
В ИИ-компаниях предполагают, что Демократическая партия, укрепив позиции после промежуточных выборов, попытается моментально заблокировать ключевые разработки или ввести широкие ограничения. Но на этом пути они столкнутся с серьёзными препятствиями. Во-первых, пожилые законодатели просто не успевают за развитием ИИ и могут оказаться неспособны адекватно оценить ситуацию. Кроме того, мировая экономика уже тесно переплетена с масштабным строительством ИИ-инфраструктуры. Любая резкая остановка ударит по и без того хрупкому рынку. Наконец, открытые модели уже массово скачаны, и заблокировать их на серверах невозможно. Большинство ИБ-экспертов сходятся во мнении, что защититься от неконтролируемого ИИ можно только с помощью других ИИ-систем.
Среди наиболее радикальных предложений демократов звучат идеи полного бана сверхразума или заморозки разработки продвинутых моделей. Есть и инициативы с двухпартийной поддержкой (и даже одобрением части ИТ-сектора) — например, обязательное внедрение «рубильника» для всех передовых систем. Хотя эксперты сомневаются, что в реальном мире возможно технически «выключить» абсолютно все ИИ-системы.
Аналитики компаний не просто моделируют худшие сценарии, но и пытаются наперегонки просвещать членов Конгресса. Руководители техногигантов понимают, что прямо сейчас провести жёсткие законы через Вашингтон невозможно. Но их главная цель — заранее сформировать тексты законопроектов и правила игры, к которым американские власти неизбежно обратятся сразу после первой крупной катастрофы.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.