Учёные сравнили распространение ChatGPT и других ИИ с «когнитивной эпидемией»
Международная группа исследователей предложила математическую модель, которая описывает распространение больших языковых моделей по аналогии с эпидемией.
Международная группа исследователей предложила математическую модель, которая описывает распространение больших языковых моделей по аналогии с эпидемией.
Международная группа исследователей предложила математическую модель, которая описывает распространение больших языковых моделей по аналогии с эпидемией.
По расчетам авторов, массовое использование ChatGPT, Claude и других LLM при определенных условиях может пройти «точку перелома», после которой люди начинают все чаще перекладывать умственные задачи на ИИ, а вернуться к самостоятельной работе становится сложнее.
Исследователи разделили людей на три условные группы: тех, кто почти не использует LLM; обычных пользователей, которые обращаются к ИИ, но продолжают самостоятельно читать, писать, рассуждать и проверять информацию; и зависимых пользователей, для которых модель становится основным способом выполнять когнитивные задачи. Переходы между этими состояниями авторы описали уравнениями, похожими на модели распространения инфекций.
Главная идея модели заключается в эффекте самоускорения. Люди начинают пользоваться ИИ вслед за коллегами, однокурсниками и организациями, которые внедряют такие инструменты. Чем распространеннее становится привычка передавать ИИ часть умственной работы, тем слабее может становиться среда, в которой постоянно практикуются самостоятельное письмо, проверка фактов и решение задач. Это, в свою очередь, делает дальнейшее использование ИИ еще привлекательнее.

Расчеты показывают, что такой процесс необязательно развивается плавно. При определенном сочетании параметров небольшое увеличение распространенности LLM может привести к резкому переходу от преимущественно самостоятельной работы к массовому «когнитивному аутсорсингу». После этого простого сокращения использования ИИ до прежнего уровня может быть недостаточно: модель демонстрирует эффект технологической «фиксации», при котором для возврата требуется более сильное изменение условий.
Авторы отдельно подчеркивают, что снижение когнитивных способностей в их расчетах — иллюстративное допущение модели. Также ученые проводят различие между ИИ как «опорой» и как «заменой» мышления. В первом случае человек использует модель как помощника, самостоятельно проверяет ее аргументы и решает задачу вместе с ней. Во втором ИИ берет на себя само рассуждение, оценку информации и формулирование результата. Именно второй вариант исследователи связывают с риском устойчивой зависимости.
Для защиты от такого сценария ученые предлагают «когнитивную иммунизацию». Речь не идет об отказе от ИИ: они предлагают сохранять задачи, которые люди выполняют без моделей, периодически отключаться от ИИ, проверять его ответы, поддерживать навыки самостоятельного письма и решения задач и строить обучение так, чтобы ChatGPT помогал человеку рассуждать, а не выполнял всю работу вместо него.



Релоцировались? Теперь вы можете комментировать без верификации аккаунта.