Дапамажыце dev.by 🤍
Падтрымаць

Чат-боту Amazon менш за тыдзень, а ён ужо «галюцынуе» і злівае каардынаты дата-цэнтраў кампаніі

На мінулым тыдні воблачнае падраздзяленне Amazon паказала АІ-асістэнта для карпаратыўных задач пад назвай Q. Пакуль ён даступны абмежаванаму колу карыстальнікаў у рэжыме прэв’ю, але ўжо выклікае шэраг пытанняў.

1 каментарый
Чат-боту Amazon менш за тыдзень, а ён ужо «галюцынуе» і злівае каардынаты дата-цэнтраў кампаніі

На мінулым тыдні воблачнае падраздзяленне Amazon паказала АІ-асістэнта для карпаратыўных задач пад назвай Q. Пакуль ён даступны абмежаванаму колу карыстальнікаў у рэжыме прэв’ю, але ўжо выклікае шэраг пытанняў.

Праз тры дні пасля рэлізу было заўважана, што ён умее зліваць канфідэнцыйную інфармацыю, напрыклад, лакацыі дата-цэнтраў AWS, звесткі аб непублічных дысконтных праграмах і функцыянале, які яшчэ не выйшаў. Пра гэта з унутраных перапісак супрацоўнікаў даведаліся журналісты тэхнарасылкі Platformer.

Інцыдэнту быў прысвоены досыць высокі ўзровень сур’ёзнасці, а інжынеры займаліся рашэннем праблемы начамі і ў выходныя.

Акрамя таго, бот «моцна галюцынуе», то-бок выдае некарэктную або ілжывую інфармацыю за факты. Таксама ён можа даваць шкодныя парады, напрыклад, юрыдычныя рэкамендацыі або састарэлую інфармацыю пра бяспеку, якая ставіць пад пагрозу акаўнты карыстальнікаў.

Між тым Amazon у каментары Business Insider сказала, што ніякіх праблем з ботам у частцы бяспекі не заўважыла, а ўцечкі канфідэнцыйных даных абвяргае.

Amazon представила ИИ-чат-бота Q для корпоративных задач
Amazon представила ИИ-чат-бота Q для корпоративных задач
По теме
Amazon представила ИИ-чат-бота Q для корпоративных задач
Чатбот Microsoft «похоронил» чатбота Google после того как он «похоронил» сам себя
Чатбот Microsoft «похоронил» чатбота Google после того, как он «похоронил» сам себя
По теме
Чатбот Microsoft «похоронил» чатбота Google после того, как он «похоронил» сам себя
Вице-президент Google предупредил о «галлюцинациях» у чатботов
Вице-президент Google предупредил о «галлюцинациях» у чатботов
По теме
Вице-президент Google предупредил о «галлюцинациях» у чатботов

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

1

а он уже «галлюцинирует» и сливает координаты дата-центров компании

Важно чтобы гендерные и расовые квоты на программистов были соблюдены. Остальное фигня.
И сам же амазон что сказал? Уход инженеров делает компанию только сильнее! Верим в вас, держим кулачки 🤭 , можем танец с бубном сплясать (в составе танцеваной труппы обязательно присутствие женщин, чернокожих и ЛГБТ)