Support us

Чат-боту Amazon меньше недели, а он уже «галлюцинирует» и сливает координаты дата-центров компании

На прошлой неделе облачное подразделение Amazon представило ИИ-ассистента для корпоративных задач под названием Q. Пока он доступен ограниченному кругу пользователей в режиме превью, но уже вызывает ряд вопросов.

1 комментарий
Чат-боту Amazon меньше недели, а он уже «галлюцинирует» и сливает координаты дата-центров компании

На прошлой неделе облачное подразделение Amazon представило ИИ-ассистента для корпоративных задач под названием Q. Пока он доступен ограниченному кругу пользователей в режиме превью, но уже вызывает ряд вопросов.

Через три дня после релиза было замечено, что он умеет сливать конфиденциальную информацию, например локацию дата-центров AWS, сведения о непубличных дисконтных программах и ещё не вышедшем функционале. Об этом из внутренних переписок сотрудников узнали журналисты технорассылки Platformer.

Инциденту был присвоен достаточно высокий уровень серьёзности, а инженеры занимались решением проблемы по ночам и на выходных.

Кроме того, бот «сильно галлюцинирует», то есть выдаёт некорректную или ложную информацию за факты. Также он может давать вредные советы, например юридические рекомендации или устаревшую информацию о безопасности, которая ставит под угрозу пользовательские аккаунты.

Между тем Amazon в комментарии Business Insider сказала, что никаких проблем с ботом по части безопасности не заметила, а утечки конфиденциальных данных опровергает.

Amazon представила ИИ-чат-бота Q для корпоративных задач
Amazon представила ИИ-чат-бота Q для корпоративных задач
По теме
Amazon представила ИИ-чат-бота Q для корпоративных задач
Чатбот Microsoft «похоронил» чатбота Google после того как он «похоронил» сам себя
Чатбот Microsoft «похоронил» чатбота Google после того, как он «похоронил» сам себя
По теме
Чатбот Microsoft «похоронил» чатбота Google после того, как он «похоронил» сам себя
Вице-президент Google предупредил о «галлюцинациях» у чатботов
Вице-президент Google предупредил о «галлюцинациях» у чатботов
По теме
Вице-президент Google предупредил о «галлюцинациях» у чатботов
Читайте также
15 вещей с Amazon, чтобы прокачать рабочее пространство
15 вещей с Amazon, чтобы прокачать рабочее пространство
15 вещей с Amazon, чтобы прокачать рабочее пространство
Собрали в подборку очевидные и неочевидные вещи с Amazon, которые сделают ваше рабочее пространство удобнее, комфортнее и безопаснее.
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Google, Apple, Microsoft постепенно выносят производство из Китая
Google, Apple, Microsoft постепенно выносят производство из Китая
Google, Apple, Microsoft постепенно выносят производство из Китая
4 комментария
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

1

а он уже «галлюцинирует» и сливает координаты дата-центров компании

Важно чтобы гендерные и расовые квоты на программистов были соблюдены. Остальное фигня.
И сам же амазон что сказал? Уход инженеров делает компанию только сильнее! Верим в вас, держим кулачки 🤭 , можем танец с бубном сплясать (в составе танцеваной труппы обязательно присутствие женщин, чернокожих и ЛГБТ)