Інжынер Microsoft знайшоў уразлівасць у АІ-генератары DALL-E 3. Кампанія запатрабавала замаўчаць
Старшы інжынер па штучным інтэлекце Шэйн Джонс выявіў уразлівасць у генератары выяў, якая дазваляла абыходзіць ахоўныя механізмы нейрасеткі і генераваць незаконны кантэнт.
Джонс вырашыў расказаць пра праблему пасля таго, як у сацсетках сталі з’яўляцца згенераваныя порнавыявы Тэйлар Свіфт. Інжынер заклікаў OpenAI выключыць DALL-E 3 з адкрытага доступу. Меркавана зламыснікі выкарыстоўвалі інструмент Microsoft Designer, які часткова заснаваны на гэтым генератары.
Інжынер сцвярджае, што паведаміў аб праблеме кіраўніцтву яшчэ 1 снежня 2023 года. Тады ж ён атрымаў адказ ад супрацоўніка, які працуе з такімі зваротамі: той заявіў, што праблема не тычыцца ні ўнутранай сеткі Microsoft, ні ўліковых запісаў кліентаў кампаніі, і рэкамендаваў накіраваць зварот у OpenAI. Джонс зрабіў гэта 9 снежня, але так і не атрымаў адказу.
14 снежня Джонс размясціў пост на LinkedIn з заклікам адклікаць DALL-E 3 з рынку. З ім звязаўся начальнік, які перадаў патрабаванне юрыдычнага аддзела Microsoft неадкладна выдаліць публікацыю, а яго абгрунтаванне абяцалі даслаць пазней. Работнік выдаліў публікацыю, але ніякіх паведамленняў ад юрыстаў ён так і не атрымаў.
30 студзеня ён накіраваў лісты двум сенатарам, аднаму кангрэсмену і генпракурору штата Вашынгтон. OpenAI даслала адказ, у якім заявіла, што апісаны Джонсам метад не дазваляе абыходзіць сродкі бяспекі генератара.
Читать на dev.by