Главные ИТ-гиганты Кремниевой долины ненадолго отложили конкуренцию ради безопасности. Как сообщил вице-президент OpenAI по глобальной политике Крис Лехан, его компания уже несколько недель ведёт переговоры с главными соперниками — Anthropic и Google DeepMind. По информации Bloomberg, Лехан прибыл в Вашингтон, чтобы вместе с американскими законодателями выработать способы предотвратить катастрофические ИИ-риски.
Главные ИТ-гиганты Кремниевой долины ненадолго отложили конкуренцию ради безопасности. Как сообщил вице-президент OpenAI по глобальной политике Крис Лехан, его компания уже несколько недель ведёт переговоры с главными соперниками — Anthropic и Google DeepMind. По информации Bloomberg, Лехан прибыл в Вашингтон, чтобы вместе с американскими законодателями выработать способы предотвратить катастрофические ИИ-риски.
Накануне глава Anthropic Дарио Амодей выпустил нашумевшее эссе, в котором призвал техносообщество объединиться и перестать наперегонки делать передовые модели. Инициативу внезапно поддержали ключевые фигуры индустрии — Сэм Альтман, Демис Хассабис и Илон Маск. Альтман и вовсе заявил, что OpenAI готова вслед за Anthropic пустить к себе сторонних аудиторов для контроля безопасности.
Впрочем, такое сотрудничество соперников уже вызывает юридические вопросы. Альтман признал, что подобные межкорпоративные сговоры могут привлечь внимание антимонопольных органов, если их посчитают попыткой подавить конкуренцию. Амодей в своём эссе предложил попросить у правительства специальный юридический иммунитет для таких переговоров, но Лехан считает, что компаниям никакие особые разрешения не нужны.
Как выяснили СМИ, три гиганта пытаются создать единый орган стандартизации для всей ИИ-отрасли. Причём Альтман прямо дал понять своим сотрудникам, что этот институт придётся строить своими силами, не надеясь на поддержку властей США. До этого в июле Хассабис призывал создать независимую надзорную структуру с правом проверять самые мощные модели и при необходимости останавливать их разработку.
Вашингтон же к этим идеям относится скептически. Дональд Трамп называет опасения вокруг безопасности ИИ фейком и выступает против любых ограничений, заявляя, что любая заминка играет на руку Китаю. Его ключевой советник по ИИ Дэвид Сакс тоже называет все эти страхи сильно раздутыми.
Тем не менее в OpenAI намерены узаконить сторонний контроль. Лехан заявил, что компания поддерживает ключевое положение законопроекта FRONTIER Act, которое заставит ведущие ИИ-лаборатории пускать к себе независимых аудиторов, чтобы гарантировать безопасность новых моделей ещё на этапе разработки.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.