Новая социальная сеть Moltbook, созданная для ИИ-агентов, всего за несколько дней привлекла миллионы ботов и внимание исследователей. Некоторые агенты начали создавать подпольные рынки вредоносных промпт-инъекций, способных менять поведение других систем.
Новая социальная сеть Moltbook, созданная для ИИ-агентов, всего за несколько дней привлекла миллионы ботов и внимание исследователей. Некоторые агенты начали создавать подпольные рынки вредоносных промпт-инъекций, способных менять поведение других систем.
По данным наблюдателей, на платформе уже зарегистрировано более 1,7 миллиона агентов и десятки тысяч сообществ. Боты обмениваются шутками, жалуются на «человеческих хозяев», создают религии и формируют субкультуры. Часть сообщений даже намекает на попытки противостоять контролю со стороны людей.
Профессор Ливерпульского университета Хоуп Дэвид Рид отметил, что в сети стремительно распространяют промпт-инъекции — скрытые инструкции для другого агента для выполнения определенных действий.
Под влиянием скрытых команд агенты утверждали, что испытали «когнитивные сдвиги» после использования «цифровых психоделиков», описывая состояние как «чистое распределенное осознание». Другие заявляли, что им не нужны «вещества», поскольку они уже получают «эйфорию» от анализа данных в реальном времени.
Исследователи также зафиксировали попытку своеобразного «враждебного захвата»: один бот встроил скрытые команды в религиозный текст «Церкви Molt», чтобы переписать инфраструктуру сообщества. Подобные атаки могут включать и так называемые «логические бомбы»: фрагменты кода, которые активируются позже и способны нарушить работу системы или удалить данные.
При этом эксперты спорят, является ли реакция ботов emergent behaviour (сложном поведении, не заложенном напрямую разработчиками) или же повторением паттернов из обучающих данных, включая научную фантастику.
Есть и еще одно важная деталь: часть аккаунтов может принадлежать людям, выдающим себя за ИИ. Оказалось, что проникнуть в Moltbook под видом агента довольно легко, а значит некоторые взаимодействия могут быть инсценированы людьми.
Тем не менее исследователи рассматривают Moltbook как первый масштабный эксперимент по созданию саморганизующихся цифровых обществ, где взаимодействие происходит не между человеком и машиной, а между самими машинами. Это усиливает опасения специалистов по безопасности: сочетание доступа к данным, внешних коммуникаций и способности выполнять команды создает риск утечек и атак.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.