ИИ заставляет людей думать, что они умнее, чем есть на самом деле

В исследовании приняли участие около 500 человек. Одной группе предлагалось решить логические задачи из теста LSAT (вступительный экзамен в американские юридические школы) самостоятельно, другой — с помощью ChatGPT.

После каждого задания участники оценивали собственную успешность. Несмотря на то, что пользователи ИИ действительно показывали лучшие результаты, их самооценка оказалась еще выше — то есть они переоценивали эффект от использования модели.

Авторы называют этот феномен «обратным эффектом Даннинга–Крюгера»: обычно люди с низкими результатами переоценивают себя, а с высокими — недооценивают. Но при использовании ChatGPT картина меняется — чем выше уровень «грамотности в области ИИ», тем сильнее иллюзия компетентности.

«Мы ожидали, что люди, хорошо разбирающиеся в ИИ, будут точнее оценивать свои результаты. Но оказалось наоборот — чем больше они знают, тем больше переоценивают себя», — объяснил профессор Робин Вельш.

Авторы отмечают, что большинство участников использовали ChatGPT поверхностно: просто вводили вопрос один раз и принимали ответ без проверки. Это явление они называют «когнитивной разгрузкой»: когда человек полностью перекладывает процесс мышления на ИИ.

«Такая стратегия мешает развивать метакогницию — осознание собственных мыслительных процессов. Мы не учимся замечать и исправлять ошибки, потому что не взаимодействуем с системой глубже», — добавила аспирантка Даниэла да Силва Фернандес.

Ученые предлагают встраивать в интерфейсы ИИ механизмы, которые стимулируют пользователя объяснять собственные рассуждения и критически оценивать полученные ответы. Это, по их мнению, поможет развить навыки рефлексии и повысить качество взаимодействия с искусственным интеллектом.