Подразделение DeepMind сообщила о неожиданной реакции своей модели Gemini 2.5 Pro: когда та сталкивается с критическими ситуациями в классической игре Pokémon — ИИ начинает «паниковать», что приводит к заметному ухудшению логики и качества принятия решений.
Подразделение DeepMind сообщила о неожиданной реакции своей модели Gemini 2.5 Pro: когда та сталкивается с критическими ситуациями в классической игре Pokémon — ИИ начинает «паниковать», что приводит к заметному ухудшению логики и качества принятия решений.
Google и Anthropic продолжают экспериментировать с тестированием своих ИИ-моделей через классические видеоигры. На фоне стремительного развития ИИ такие наблюдения дают не только поводы для научного анализа, но и вызывают живой интерес у зрителей: в Twitch запущены стримы «Gemini Plays Pokémon» и «Claude Plays Pokémon», где любой желающий может в реальном времени следить за тем, как современные ИИ-модели проходят детскую игру.
Одно из неожиданных открытий во время эксперимента— моделируемое состояние «паники» у Gemini, возникающее в моменты, когда его покемоны близки к поражению. В такие моменты ИИ может внезапно перестать использовать доступные инструменты и принимать поспешные, нелогичные решения. Хотя у искусственного интеллекта нет эмоций в человеческом понимании, его поведение имитирует стрессовые реакции, свойственные людям.
«В чате зрителей Twitch стали самостоятельно замечать, когда Gemini начинает паниковать», — говорится в отчете. Не менее странное поведение демонстрирует и Claude от Anthropic. Во время прохождения одного из уровней модель ошибочно решила, что если намеренно «убить» всех своих покемонов, то персонаж переместится в новый центр покемонов. Однако игра устроена иначе: возрождение происходит в последнем посещенном центре, а не в ближайшем по географии. Зрители наблюдали за тем, как ИИ пытался «телепортироваться», проигрывая бой за боем.
Тем не менее, ИИ способен на действия, недоступные большинству игроков. Например, Gemini 2.5 Pro смог решить сложные головоломки с перемещением камней, используя лишь текстовое описание физических законов. В некоторых случаях он справлялся с задачами с первой попытки.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.