Технический директор Endgame Хирум Андерсон показал на конференции по кибербезопасности DEF CON, как использование фреймворка Open AI помогает в создании «невидимых» вредоносных программ, сообщает The Register.
По словам специалиста, ключом к успеху при взломе является использование вредоносного кода, который выглядит как обыкновенное ПО. Изменение лишь небольших деталей может обмануть антивирусы и заставить код выполнять нужные хакеру операции.
«Все модели машинного обучения имеют «слепые зоны». В зависимости от уровня знания хакера эти зоны можно использовать для достижения поставленной цели», — сказал Андерсон.
Команда Endgame создала простой и эффективный механизм создания вредоносной программы. Для этого в «нормальном» коде делались небольшие изменения, после чего разработку сканировал антивирус. Постоянно наблюдая за ответами защитного ПО, вредоносный код «эволюционировал», становясь всё менее заметным.
За 15 часов тренировки система прошла более чем 100 тысяч проверок антивирусом. В итоге около 16 процентов примеров вредоносного кода могли пройти сквозь защиту.
Стоит отметить, что важную роль в проекте сыграл фреймворк для работы с искусственным интеллектом от некоммерческой организации Илона Маска OpenAI. Цель организации — «развивать искусственный интеллект так, чтобы от этого выиграло все человечество».
Компания пообещала опубликовать код созданного генератора ПО для того, чтобы каждый мог убедиться в его работоспособности. Очевидно, одними из самых заинтересованных станут производители защитного ПО.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.