Чат-боту Amazon менш за тыдзень, а ён ужо «галюцынуе» і злівае каардынаты дата-цэнтраў кампаніі
На мінулым тыдні воблачнае падраздзяленне Amazon паказала АІ-асістэнта для карпаратыўных задач пад назвай Q. Пакуль ён даступны абмежаванаму колу карыстальнікаў у рэжыме прэв’ю, але ўжо выклікае шэраг пытанняў.
На мінулым тыдні воблачнае падраздзяленне Amazon паказала АІ-асістэнта для карпаратыўных задач пад назвай Q. Пакуль ён даступны абмежаванаму колу карыстальнікаў у рэжыме прэв’ю, але ўжо выклікае шэраг пытанняў.
Праз тры дні пасля рэлізу было заўважана, што ён умее зліваць канфідэнцыйную інфармацыю, напрыклад, лакацыі дата-цэнтраў AWS, звесткі аб непублічных дысконтных праграмах і функцыянале, які яшчэ не выйшаў. Пра гэта з унутраных перапісак супрацоўнікаў даведаліся журналісты тэхнарасылкі Platformer.
Інцыдэнту быў прысвоены досыць высокі ўзровень сур’ёзнасці, а інжынеры займаліся рашэннем праблемы начамі і ў выходныя.
Акрамя таго, бот «моцна галюцынуе», то-бок выдае некарэктную або ілжывую інфармацыю за факты. Таксама ён можа даваць шкодныя парады, напрыклад, юрыдычныя рэкамендацыі або састарэлую інфармацыю пра бяспеку, якая ставіць пад пагрозу акаўнты карыстальнікаў.
Між тым Amazon у каментары Business Insider сказала, што ніякіх праблем з ботам у частцы бяспекі не заўважыла, а ўцечкі канфідэнцыйных даных абвяргае.
а он уже «галлюцинирует» и сливает координаты дата-центров компании
Важно чтобы гендерные и расовые квоты на программистов были соблюдены. Остальное фигня.
И сам же амазон что сказал? Уход инженеров делает компанию только сильнее! Верим в вас, держим кулачки 🤭 , можем танец с бубном сплясать (в составе танцеваной труппы обязательно присутствие женщин, чернокожих и ЛГБТ)
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Важно чтобы гендерные и расовые квоты на программистов были соблюдены. Остальное фигня.
И сам же амазон что сказал? Уход инженеров делает компанию только сильнее! Верим в вас, держим кулачки 🤭 , можем танец с бубном сплясать (в составе танцеваной труппы обязательно присутствие женщин, чернокожих и ЛГБТ)