ИИ нашёл 40 тысяч соединений для летального химоружия за 6 часов

Модель была создана для поиска новых лекарственных средств. Но оказалось, что её можно легко обратить во вред человеку.

В распоряжении учёных имеется множество датасетов с информацией о молекулах и степени их токсичности — обычно их скармливают ИИ для проверки других соединений. Исследователи видоизменили модель, чтобы она не отсеивала токсичные варианты веществ, а наоборот генерировала их.

Многие оказались схожи с известными опасными молекулами, например с веществом нервно-паралитического действия VX — оно не обладает вкусом и запахом, а отравление небольшим количеством вызывает потливость, судороги, паралич диафрагмы и мышц лёгких, вслед за чем наступает смерть. Это одно из самых токсичных веществ из когда-либо искусственно полученных для применения в химическом оружии.

Подробности исследований учёные не раскрывают. Экспериментировать начали для того, чтобы понять, как технологию искусственного интеллекта в этой сфере могут использовать для злых целей.

Учёные говорят, что шокированы тем, насколько прост был эксперимент, и поначалу не хотели публиковать результаты, так как разбирающиеся в ML могут его повторить. Бо́льшая часть использованных ими данных находится в свободном доступе в сети. Причём многие из предложенных ИИ соединений оказались потенциально ещё более опасными, чем VX, то есть летальный исход мог бы наступить при ещё меньших дозах.

Впрочем, авторы отмечают, что даже если найти такие соединения в теории, далее их нужно синтезировать на практике. Что довольно сложно, поскольку компоненты в составе соединений, которые могут стать химоружием, строго регулируются, а их производством занимается ограниченное число компаний.