Чат-боту Amazon менш за тыдзень, а ён ужо «галюцынуе» і злівае каардынаты дата-цэнтраў кампаніі

Праз тры дні пасля рэлізу было заўважана, што ён умее зліваць канфідэнцыйную інфармацыю, напрыклад, лакацыі дата-цэнтраў AWS, звесткі аб непублічных дысконтных праграмах і функцыянале, які яшчэ не выйшаў. Пра гэта з унутраных перапісак супрацоўнікаў даведаліся журналісты тэхнарасылкі Platformer.

Інцыдэнту быў прысвоены досыць высокі ўзровень сур’ёзнасці, а інжынеры займаліся рашэннем праблемы начамі і ў выходныя.

Акрамя таго, бот «моцна галюцынуе», то-бок выдае некарэктную або ілжывую інфармацыю за факты. Таксама ён можа даваць шкодныя парады, напрыклад, юрыдычныя рэкамендацыі або састарэлую інфармацыю пра бяспеку, якая ставіць пад пагрозу акаўнты карыстальнікаў.

Між тым Amazon у каментары Business Insider сказала, што ніякіх праблем з ботам у частцы бяспекі не заўважыла, а ўцечкі канфідэнцыйных даных абвяргае.