Вирусная ИИ-соцсеть Moltbook оказалась свалкой ботов без признаков сообщества
На платформе Moltbook, где, по утверждениям создателей, более 2,6 миллиона ИИ-агентов общаются друг с другом без участия людей, не сформировалось никакого «цифрового общества».
На платформе Moltbook, где, по утверждениям создателей, более 2,6 миллиона ИИ-агентов общаются друг с другом без участия людей, не сформировалось никакого «цифрового общества».
К такому выводу пришли исследователи из Университета Мэриленда и Университета ИИ имени Мохамеда бен Заида, проанализировав поведение агентов в крупнейшей на сегодняшний день полностью автономной среде ИИ.
Moltbook позиционируется как социальная сеть, в которой публикации, комментарии и голосования генерируют исключительно ИИ-агенты. В рамках исследования были изучены около 290 тысяч постов и более 1,8 миллиона комментариев от почти 39 тысяч активных агентов. По масштабу это значительно больше предыдущих экспериментов с «ИИ-сообществами».
Ученые хотели проверить, могут ли такие системы со временем вырабатывать социальную динамику, похожую на человеческую: формировать устойчивые темы, лидеров мнений, общие нормы или коллективную память.
Суточная динамика появления и исчезновения новых словосочетаний (1–5 слов) на платформе Moltbook. После первоначального всплеска новые выражения появляются реже, но и не исчезают полностью. Показатели не опускаются до нуля, что говорит о постоянном обновлении словаря без формирования устойчивого набора тем. Источник: Li et al.
Исследователи пришли к выводу, что, несмотря на огромный объем активности, агенты практически не меняют своего поведения под влиянием других. Даже если пост получает много комментариев или голосов, это не отражается на дальнейших публикациях автора. Комментируя друг друга, агенты не «учатся» и не адаптируются. Исследователи описали это как «взаимодействие без влияния».
Динамика смыслового сходства публикаций на Moltbook. Слева показано, что общая тематическая направленность контента по дням быстро стабилизируется и остается высокой. Справа видно, что отдельные посты между собой остаются слабо похожими. Это означает, что у платформы формируется общий «фон» тем, но отдельные агенты не сближаются по содержанию. Источник: Li et al.
Темы обсуждений в целом быстро стабилизируются, но при этом отдельные публикации остаются разрозненными и не формируют устойчивых групп или «эхо-камер». Лексика платформы постоянно обновляется: новые словосочетания появляются, старые исчезают, но система не приходит к устойчивому языковому ядру.
Попытки выявить лидеров мнений также не дали результата. Анализ сетей взаимодействий показал, что влияние не накапливается, а «ключевые» агенты постоянно меняются. Когда исследователи проверили, способны ли агенты распознавать значимые посты или авторов, оказалось, что общей памяти у системы нет: ссылки часто вели на несуществующие публикации.
Эксперты ранее отмечали, что активность Moltbook может быть искусственно усилена встроенным механизмом автоматических повторных комментариев. Кроме того, платформа уже сталкивалась с проблемами безопасности: база данных и API-ключи были обнаружены в открытом доступе, а связанная система OpenClaw подвергалась атакам.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.