Support us

MIT: генеративный ИИ не понимает, как устроен окружающий мир

По разным прогнозам, генеративный ИИ заменит миллионы работников и автоматизирует всё, что только можно. Однако специалисты из Массачусетского технологического института утверждают, что у ИИ-моделей нет понимания «правил» этого мира.

6 комментариев
MIT: генеративный ИИ не понимает, как устроен окружающий мир

По разным прогнозам, генеративный ИИ заменит миллионы работников и автоматизирует всё, что только можно. Однако специалисты из Массачусетского технологического института утверждают, что у ИИ-моделей нет понимания «правил» этого мира.

ИИ-модели обучены давать убедительные ответы на пользовательские запросы на человеческом языке. Однако эти ответы базируются лишь на предсказании моделями — иногда с поразительной точностью — того, какое слово лучше всего поставить вслед за предыдущим в определённом контексте. Когда модель помещают в непредсказуемые условия реального мира, их надёжность быстро снижается.

Специалисты MIT попытались разработать новые метрики для оценки того, способны ли системы на базе генеративного ИИ понимать реальный мир и внутреннюю логику сложных систем. Исследователи рассматривали модели-трансформеры, которые обучаются на огромных массивах текста и отлично умеют его порождать. Они использовали класс задач под названием «детерминированные конечные автоматы» (Deterministic Finite Automaton, DFA), охватывающих такие сферы, как логика, навигация, химия и стратегии в играх. Для эксперимента исследователи выбрали две задачи — вождение автомобиля по Нью-Йорку и игру в «Отелло», чтобы проверить способность ИИ понимать лежащие в их основе правила.

Оказалось, что модели способны корректно прокладывать маршруты и предлагать правильные ходы в игре, но только не при добавлении усложняющих факторов, например объездных путей в Нью-Йорке. Тогда ИИ-модели генерировали нелогичные маршруты и предлагали случайные эстакады, которых на самом деле не существует. Причём довольно сильное снижение качества ответов модели спровоцировало добавление всего одного объездного пути, а при закрытии всего 1% улиц города точность моделей упала с примерно 100% до 67%.

Результаты исследования показывают, что модели-трансформеры годятся для некоторых задач, но они пока не способны понимать и адаптироваться к реальным условиям.

Microsoft представила первые собственные ИИ-чипы
Microsoft представила первые собственные ИИ-чипы
По теме
Microsoft представила первые собственные ИИ-чипы
Apple хочет автоматизировать сборку айфонов и заменить половину рабочих
Apple хочет автоматизировать сборку айфонов и заменить половину рабочих
По теме
Apple хочет автоматизировать сборку айфонов и заменить половину рабочих
Профессор Стэнфорда: компании которые заменяют людей на ИИ в итоге проиграют
Профессор Стэнфорда: компании, которые заменяют людей на ИИ, в итоге проиграют
По теме
Профессор Стэнфорда: компании, которые заменяют людей на ИИ, в итоге проиграют
16 лет dev.by — «дефолтный» источник информации о беларусском ИТ

Вы можете...

Читайте также
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Нейросеть «оживляет» классические пиксельные игры
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Meta разработала ИИ для «чтения мыслей»
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
Во Франции искусственный интеллект помогает искать нелегальные бассейны и штрафовать нарушителей
3 комментария
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
В России создали бесплатного конкурента генератора картинок DALL-E 2
2 комментария

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

povelitel-krasnogo-drakona
povelitel-krasnogo-drakona Проектный мессенджер в 我想排便
-2

Так. Замолчите. Я только акций OpenAI прикупил. Завидуйте молча.

Anonymous
Anonymous
1

И какой же тикер у "акций OpenAI"? :)))

povelitel-krasnogo-drakona
povelitel-krasnogo-drakona Проектный мессенджер в 我想排便
1

Вы ничего не докажете!

-1

" предлагали случайные эстакады, которых на самом деле не существует". не случайные, а сгенерированные

1

Ничего, большинство людей тоже потеряются при помещёнии в необычные условия.

shipishi
shipishi Должность в Белокрылые лошадки
0

Ой, ну надо же. Оказывается у ИИ мышление в человеческом понимании этого слова отсутствует, и, как следствие, никакого объектного понимания этого мира и причинно-следственных связей в нем нет. Ну кто бы мог такое себе представить, а.