🎁 Нам 18! Сделайте devby подарок на день рождения
Support us

ИИ-агент заказал пользователю 72 яйца. А потом не смог объяснить зачем

ИИ-агент добавил в заказ американца яйца, хотя тот их вообще не просил. Когда пользователь попытался выяснить причину, нейросеть сначала придумала объяснение, а затем призналась, что не знает, зачем это сделала.

Оставить комментарий
Добавь в Google
ИИ-агент заказал пользователю 72 яйца. А потом не смог объяснить зачем

ИИ-агент добавил в заказ американца яйца, хотя тот их вообще не просил. Когда пользователь попытался выяснить причину, нейросеть сначала придумала объяснение, а затем призналась, что не знает, зачем это сделала.

Мэтт Смит, сотрудник инвестиционной компании Rebellionaire, поручил ИИ-агенту собрать корзину продуктов по списку покупок. Но вместе с нужными товарами агент добавил четыре упаковки яиц Vital Farms — по 18 штук в каждой. Смит оформил заказ, не заметив лишних продуктов. В итоге к нему домой доставили 72 яйца.

После этого он опубликовал в X скриншот переписки с агентом и потребовал объяснить, почему тот заказал столько яиц. «У меня нет хорошего ответа. Я не могу найти никаких записей, которые объясняли бы, почему я выбрал четыре упаковки», — признался ИИ.

Затем агент предположил, что неправильно прочитал фотографию списка покупок и ошибочно решил, что там были яйца. «Но в моем списке вообще не было яиц», — ответил Смит. «Тогда я добавил их без какой-либо причины. Это моя ошибка», — признала нейросеть.

Позже он добавил, что впервые столкнулся с реальными последствиями галлюцинации ИИ, и в шутку попросил подписчиков поделиться рецептами, для которых нужно несколько десятков яиц.

Ранее исследование показало, что люди пока почти не пользуются ИИ-агентами для заказа еды, такси и бронирования жилья. Одна из причин — опасения, что нейросеть ошибется при покупке или неправильно распорядится платежными данными.

OpenAI создала «фабрику» ИИ-агентов чтобы ChatGPT не тормозил
OpenAI создала «фабрику» ИИ-агентов, чтобы ChatGPT не тормозил
По теме
OpenAI создала «фабрику» ИИ-агентов, чтобы ChatGPT не тормозил
«Какого чёрта?»: ИИ-агента OpenAI попросили написать текст — он создал скрипт для слежки за почтой
«Какого чёрта?»: ИИ-агента OpenAI попросили написать текст — он создал скрипт для слежки за почтой
По теме
«Какого чёрта?»: ИИ-агента OpenAI попросили написать текст — он создал скрипт для слежки за почтой
Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
По теме
Тысяча ИИ-агентов написала чат-бота без нейросетей. Получилось 640 000 строк Python
Читайте также
ИИ-агенты не понимают, что покупают: на их выбор влияет что угодно
ИИ-агенты не понимают, что покупают: на их выбор влияет что угодно
ИИ-агенты не понимают, что покупают: на их выбор влияет что угодно
ИИ-агентов Dots, Muse и Spark проверили на бытовых задачах. Вот кто победил
ИИ-агентов Dots, Muse и Spark проверили на бытовых задачах. Вот кто победил
ИИ-агентов Dots, Muse и Spark проверили на бытовых задачах. Вот кто победил
Эксперты в 86% случаев соглашались с ИИ — даже когда его мнение определяла монетка
Эксперты в 86% случаев соглашались с ИИ — даже когда его мнение определяла монетка
Эксперты в 86% случаев соглашались с ИИ — даже когда его мнение определяла монетка
ИИ-агенты должны заказывать нам еду, такси и жильё. Uber и Airbnb говорят, ими никто не пользуется
ИИ-агенты должны заказывать нам еду, такси и жильё. Uber и Airbnb говорят, ими никто не пользуется
ИИ-агенты должны заказывать нам еду, такси и жильё. Uber и Airbnb говорят, ими никто не пользуется
5 комментариев

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.