Николай Чикишев 22 мая 2024, 16:13

Бигтех пообещал включить «рубильник» в случае опасности ИИ

Microsoft, Amazon, OpenAI и другие крупнейшие компании в ходе AI Seoul Summit 2024 подписали международное соглашение о безопасности ИИ.

Оставить комментарий

Бигтех пообещал включить «рубильник» в случае опасности ИИ

Microsoft, Amazon, OpenAI и другие крупнейшие компании в ходе AI Seoul Summit 2024 подписали международное соглашение о безопасности ИИ.

Компании взяли на себя добровольные обязательства по обеспечению безопасной разработки передовых моделей ИИ. В рамках соглашения будут опубликованы концепции безопасности для каждой модели, которые предусмотрят предотвращение использования технологии злоумышленниками.

Также концепции определят «красные линии» для компаний, которые подразумевают «недопустимые» риски использования ИИ. В их числе — автоматизированные кибератаки и угроза создания биологического оружия. Планируется внедрение «аварийных выключателей», с помощью которых разработка может быть прекращена.

Пакт расширяет перечень добровольных обязательств, который был принят в ноябре прошлого года. Предыдущий документ относился к технологии, используемой в системах генеративного ИИ, например, семействе больших языковых моделей GPT, которые лежат в основе чат-бота ChatGPT.