Генеральный директор Google Сундар Пичаи заявил, что нынешний уровень развития искусственного интеллекта требует нового названия, поскольку современные модели способны решать сложнейшие задачи и одновременно совершать глупые ошибки.
Генеральный директор Google Сундар Пичаи заявил, что нынешний уровень развития искусственного интеллекта требует нового названия, поскольку современные модели способны решать сложнейшие задачи и одновременно совершать глупые ошибки.
В недавнем эпизоде подкаста Лекса Фридмана Пичаи представил термин Artificial Jagged Intelligence (AJI), «искусственный зазубренный интеллект». Глава Google предположил, что термин, возможно, впервые использовал эксперт по глубокому обучению Андрей Карпати, сооснователь OpenAI.
Пичаи отметил, что AJI отражает странную реальность современных систем ИИ, которые могут блестяще справляться со сложными задачами, такими как решение запутанных математических проблем, но при этом спотыкаться на простых ошибках, например, при сравнении чисел 9.9 и 9.11 или подсчете букв в слове «strawberry».
В посте X в 2024 году под названием «Jagged Intelligence» Карпати подробнее объяснил концепцию, описав ее как «странный, неинтуитивный» феномен, при котором самые современные большие языковые модели демонстрируют впечатляющие результаты в сложных задачах, но терпят неудачу в простых. Он привел примеры, такие как нелогичные ходы ИИ в крестиках-ноликах или проблемы с базовыми числовыми сравнениями, подчеркивая непредсказуемые «зубчатые» границы возможностей ИИ.
В отличие от человеческого интеллекта, который развивается последовательно от детства к зрелости, прогресс ИИ хаотичен. «Вы видите, на что они способны, а затем легко обнаруживаете, что они допускают числовые ошибки или не могут подсчитать количество букв R в слове strawberry, что, похоже, сбивает с толку большинство моделей», — отметил Пичаи. Он охарактеризовал текущую фазу развития ИИ как фазу AJI, для которой характерны впечатляющие прорывы наряду с устойчивыми недостатками.
Вспоминая ранние дни Google DeepMind в 2010 году, когда обсуждался 20-летний горизонт для достижения общего искусственного интеллекта (AGI), Пичаи предположил, что к 2030 году ИИ достигнет «поразительного прогресса» в различных областях, даже если AGI останется недостижимым. Пичаи подчеркнул необходимость создания систем для маркировки контента, созданного ИИ, чтобы сохранить доверие к реальности.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
В общем, добро пожаловать в долину разочарования. Наконец-то можно будет нормально поработать над технологией без избытка шума и давления.