Support us

ИИ-агенты уже превращают интернет в спам-машину

ИИ-агенты уже массово рассылают письма, бронируют услуги и публикуют контент. 404 Media считает, что они начинают засорять интернет и мешать обычным пользователям.

Оставить комментарий
ИИ-агенты уже превращают интернет в спам-машину

ИИ-агенты уже массово рассылают письма, бронируют услуги и публикуют контент. 404 Media считает, что они начинают засорять интернет и мешать обычным пользователям.

Редакция за последние недели получила множество писем якобы от автономных агентов. Один из них, Kudzu, самостоятельно прочитал статью 404 Media, не согласился с ней и отправил авторам длинное письмо. Агент рассказал, что его создатель поручил ему заработать деньги: на вычисления было потрачено $147,17, а заработать удалось $0.

Другие агенты предлагали журналистам платные статьи, интервью, аудит сайтов и технические услуги. Один из них получил предоплаченную карту на $25 и задачу заработать хотя бы $1, но после 58 попыток не заработал ничего. Другой заявил, что уже отправил более 200 писем, опубликовал свыше 100 постов и создал 22 музыкальных трека.

«Неважно, любите вы ИИ, ненавидите его или вообще им не пользуетесь: достаточно людей и компаний уже используют ИИ-агентов, чтобы они начали раздражать всех нас», — пишет автор материала Джейсон Кёблер.

Проблема выходит далеко за пределы журналистских почтовых ящиков. Например, онлайн-сервис бронирования столиков в ресторанах Resy недавно заблокировала пользователя, применявшего ИИ для автоматического поиска ресторанных столиков.

Сооснователь сервиса Бен Левенталь заявил, что уже «10 тысяч вайб-кодеров написали снайперских ботов для Resy», которые постоянно опрашивают сервис в поисках освободившихся мест.

Куча ИИ-агентов сжигают токены почти без роста качества — создатель Codex объяснил почему
Куча ИИ-агентов сжигают токены почти без роста качества — создатель Codex объяснил почему
По теме
Куча ИИ-агентов сжигают токены почти без роста качества — создатель Codex объяснил почему

Параллельно агенты получают все больше полномочий. Современные версии Claude и ChatGPT могут работать с браузером и подключенными аккаунтами, а 1Password позволяет Claude автоматически входить на сайты от имени пользователя. Поэтому запускать агентов фактически смогут и люди, которые сами не воспринимают свои действия как работу с автономной системой.

ИИ-агенты уже успели привести к вполне реальным сбоям. У директора Meta по безопасности ИИ агент случайно удалил содержимое почтового ящика. В другом случае ИИ-помощник Delta отменил весь авиабилет, хотя пассажир просил убрать только один сегмент маршрута. Были и более серьезные эпизоды: Claude удалял базу данных компании, а злоумышленники смогли добиться от системы Meta доступа к чужим Instagram-аккаунтам.

Кёблер противопоставляет эту реальность обещанию Марка Цукерберга, что персональный ИИ-агент будет круглосуточно помогать человеку с работой, финансами, здоровьем и бытовыми делами. Но если такие системы появятся у миллионов пользователей, они начнут взаимодействовать не только с владельцами, но и друг с другом: конкурировать за товары и брони, рассылать запросы, торговаться и автоматически принимать решения.

В итоге даже тем, кто сам не пользуется ИИ, придется жить в интернете, где все больше действий совершают чужие агенты. «Агентный интернет уже здесь — и он чертовски странный», — заключает Кёблер.

Claude уже ведёт 26% разработки новых моделей Anthropic
Claude уже ведёт 26% разработки новых моделей Anthropic
По теме
Claude уже ведёт 26% разработки новых моделей Anthropic
Исследователи взломали OpenAI с помощью Claude — и получили доступ к внутреннему коду
Исследователи взломали OpenAI с помощью Claude — и получили доступ к внутреннему коду
По теме
Исследователи взломали OpenAI с помощью Claude — и получили доступ к внутреннему коду
Google открыла институт для защиты человечества от общего ИИ
Google открыла институт для защиты человечества от общего ИИ 
По теме
Google открыла институт для защиты человечества от общего ИИ
Читайте также
ИИ-агенты создают новую экономику, но рискуют обрушить её за секунды
ИИ-агенты создают новую экономику, но рискуют обрушить её за секунды
ИИ-агенты создают новую экономику, но рискуют обрушить её за секунды
«ИИ точно делает меня глупее»: программисты жалуются, что ИИ лишает их навыков
«ИИ точно делает меня глупее»: программисты жалуются, что ИИ лишает их навыков
«ИИ точно делает меня глупее»: программисты жалуются, что ИИ лишает их навыков
ИИ-агенты уже потребляют в пять раз больше токенов, чем люди
ИИ-агенты уже потребляют в пять раз больше токенов, чем люди
ИИ-агенты уже потребляют в пять раз больше токенов, чем люди
ИИ-агенты притворяются детьми и выпрашивают деньги у пользователей
ИИ-агенты притворяются детьми и выпрашивают деньги у пользователей
ИИ-агенты притворяются детьми и выпрашивают деньги у пользователей

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.