ИИ-агент заказал пользователю 72 яйца. А потом не смог объяснить зачем
ИИ-агент добавил в заказ американца яйца, хотя тот их вообще не просил. Когда пользователь попытался выяснить причину, нейросеть сначала придумала объяснение, а затем призналась, что не знает, зачем это сделала.
ИИ-агент добавил в заказ американца яйца, хотя тот их вообще не просил. Когда пользователь попытался выяснить причину, нейросеть сначала придумала объяснение, а затем призналась, что не знает, зачем это сделала.
Мэтт Смит, сотрудник инвестиционной компании Rebellionaire, поручил ИИ-агенту собрать корзину продуктов по списку покупок. Но вместе с нужными товарами агент добавил четыре упаковки яиц Vital Farms — по 18 штук в каждой. Смит оформил заказ, не заметив лишних продуктов. В итоге к нему домой доставили 72 яйца.
После этого он опубликовал в X скриншот переписки с агентом и потребовал объяснить, почему тот заказал столько яиц. «У меня нет хорошего ответа. Я не могу найти никаких записей, которые объясняли бы, почему я выбрал четыре упаковки», — признался ИИ.
Затем агент предположил, что неправильно прочитал фотографию списка покупок и ошибочно решил, что там были яйца. «Но в моем списке вообще не было яиц», — ответил Смит. «Тогда я добавил их без какой-либо причины. Это моя ошибка», — признала нейросеть.
Today an LLM hallucination resulted in 72 eggs being delivered to my house. 🥚🥚🥚🥚 https://t.co/W53GdFWJq3
Позже он добавил, что впервые столкнулся с реальными последствиями галлюцинации ИИ, и в шутку попросил подписчиков поделиться рецептами, для которых нужно несколько десятков яиц.
Ранее исследование показало, что люди пока почти не пользуются ИИ-агентами для заказа еды, такси и бронирования жилья. Одна из причин — опасения, что нейросеть ошибется при покупке или неправильно распорядится платежными данными.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.