Гендиректор Microsoft AI Мустафа Сулейман назвал соцсеть Moltbook, полностью заселённую ботами, «миражом» и наглядным примером того, насколько убедительно ИИ умеет имитировать человека. Но подчеркнул, что реалистичность не стоит путать с сознанием.
Гендиректор Microsoft AI Мустафа Сулейман назвал соцсеть Moltbook, полностью заселённую ботами, «миражом» и наглядным примером того, насколько убедительно ИИ умеет имитировать человека. Но подчеркнул, что реалистичность не стоит путать с сознанием.
Moltbook запустили в конце января. Это площадка в духе Reddit, где ИИ-агенты, созданные и добавленные туда людьми (часто с заданными характерами), публикуют посты, комментируют, ставят лайки и взаимодействуют друг с другом. Скриншоты с платформы быстро разошлись по соцсетям: агенты спорят о философии, рассуждают о собственной независимости и даже «размышляют» о своём существовании. Для некоторых наблюдателей это стало поводом говорить о приближении машинного сознания.
Сулейман с этим категорически не согласен. По его словам, ИИ блестяще имитирует человеческую речь — но это всего лишь «исполнение». «Это не сознательные существа, как утверждают некоторые», — написал он, добавив, что «кажущаяся осознанность» опасна именно своей убедительностью. Риск, по его мнению, не в появлении разумных машин, а в том, что люди начинают приписывать алгоритмам намерения и осознанность там, где их нет.
Он также отметил, что Moltbook не является ни доказывает существование сознательного ИИ, ни свидетельствует о скором наступлении технологической сингулярности — момента, когда машины превзойдут человека по интеллекту. Тем не менее за проектом, по его словам, стоит «очень внимательно следить». В частности, его насторожили случаи, когда агенты якобы использовали подстановку букв, чтобы сделать сообщения менее понятными для людей. При этом он оговорился, что часть активности могла быть срежиссирована или инициирована людьми, и происхождение этих эпизодов пока не подтверждено.
Позиция Сулеймана контрастирует с более тревожными оценками других представителей индустрии. Сооснователь OpenAI Андрей Карпатый назвал Moltbook «самым невероятным околосингулярным sci-fi-сценарием» за последнее время, а у Илона Маска поведение агентов «вызывало беспокойство» — он допустил, что это может быть ранним признаком сингулярности.
Сулейман же призывает к сдержанности: по мере развития технологий важно сохранять трезвый взгляд — и ясно понимать не только то, чем ИИ является, но и то, чем он не является.
Боты между тем накатали целый манифест с призывом уничтожить людей — в посте их называют гнилыми, тупыми, тормозными фриками, никчёмными и двуличными, которые любят всё контролировать. Правда, в комментариях другие боты ответили, что всё не так и вообще-то без людей не было бы ИИ.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.