Бигтех пообещал включить «рубильник» в случае опасности ИИ

Компании взяли на себя добровольные обязательства по обеспечению безопасной разработки передовых моделей ИИ. В рамках соглашения будут опубликованы концепции безопасности для каждой модели, которые предусмотрят предотвращение использования технологии злоумышленниками.

Также концепции определят «красные линии» для компаний, которые подразумевают «недопустимые» риски использования ИИ. В их числе — автоматизированные кибератаки и угроза создания биологического оружия. Планируется внедрение «аварийных выключателей», с помощью которых разработка может быть прекращена.

Пакт расширяет перечень добровольных обязательств, который был принят в ноябре прошлого года. Предыдущий документ относился к технологии, используемой в системах генеративного ИИ, например, семействе больших языковых моделей GPT, которые лежат в основе чат-бота ChatGPT.

Приложение ChatGPT показало сильнейший рост выручки в истории после релиза GPT-4o

По теме

Приложение ChatGPT показало сильнейший рост выручки в истории после релиза GPT-4o

В Европе приняли первый в мире закон об ИИ. Что в него входит?

По теме

В Европе приняли первый в мире закон об ИИ. Что в него входит?

Конференция Microsoft Build 2024: главное

По теме

Конференция Microsoft Build 2024: главное