Support us

Учёные сравнили распространение ChatGPT и других ИИ с «когнитивной эпидемией»

Международная группа исследователей предложила математическую модель, которая описывает распространение больших языковых моделей по аналогии с эпидемией.

Оставить комментарий
Учёные сравнили распространение ChatGPT и других ИИ с «когнитивной эпидемией»

Международная группа исследователей предложила математическую модель, которая описывает распространение больших языковых моделей по аналогии с эпидемией.

По расчетам авторов, массовое использование ChatGPT, Claude и других LLM при определенных условиях может пройти «точку перелома», после которой люди начинают все чаще перекладывать умственные задачи на ИИ, а вернуться к самостоятельной работе становится сложнее.

Исследователи разделили людей на три условные группы: тех, кто почти не использует LLM; обычных пользователей, которые обращаются к ИИ, но продолжают самостоятельно читать, писать, рассуждать и проверять информацию; и зависимых пользователей, для которых модель становится основным способом выполнять когнитивные задачи. Переходы между этими состояниями авторы описали уравнениями, похожими на модели распространения инфекций.

Главная идея модели заключается в эффекте самоускорения. Люди начинают пользоваться ИИ вслед за коллегами, однокурсниками и организациями, которые внедряют такие инструменты. Чем распространеннее становится привычка передавать ИИ часть умственной работы, тем слабее может становиться среда, в которой постоянно практикуются самостоятельное письмо, проверка фактов и решение задач. Это, в свою очередь, делает дальнейшее использование ИИ еще привлекательнее.

Google представила атлас генома: ИИ рассчитал 9 млрд изменений ДНК человека
Google представила атлас генома: ИИ рассчитал 9 млрд изменений ДНК человека
По теме
Google представила атлас генома: ИИ рассчитал 9 млрд изменений ДНК человека

Расчеты показывают, что такой процесс необязательно развивается плавно. При определенном сочетании параметров небольшое увеличение распространенности LLM может привести к резкому переходу от преимущественно самостоятельной работы к массовому «когнитивному аутсорсингу». После этого простого сокращения использования ИИ до прежнего уровня может быть недостаточно: модель демонстрирует эффект технологической «фиксации», при котором для возврата требуется более сильное изменение условий.

Авторы отдельно подчеркивают, что снижение когнитивных способностей в их расчетах — иллюстративное допущение модели. Также ученые проводят различие между ИИ как «опорой» и как «заменой» мышления. В первом случае человек использует модель как помощника, самостоятельно проверяет ее аргументы и решает задачу вместе с ней. Во втором ИИ берет на себя само рассуждение, оценку информации и формулирование результата. Именно второй вариант исследователи связывают с риском устойчивой зависимости.

Для защиты от такого сценария ученые предлагают «когнитивную иммунизацию». Речь не идет об отказе от ИИ: они предлагают сохранять задачи, которые люди выполняют без моделей, периодически отключаться от ИИ, проверять его ответы, поддерживать навыки самостоятельного письма и решения задач и строить обучение так, чтобы ChatGPT помогал человеку рассуждать, а не выполнял всю работу вместо него.

«Скандал тысячелетия»: ИИ OpenAI решил задачу над которой бились 90 лет — математики заподозрили плагиат
«Скандал тысячелетия»: ИИ OpenAI решил задачу, над которой бились 90 лет — математики заподозрили плагиат
По теме
«Скандал тысячелетия»: ИИ OpenAI решил задачу, над которой бились 90 лет — математики заподозрили плагиат
OpenAI выпустила ChatGPT для банков: чат-бот сам ищет данные и проводит анализ
OpenAI выпустила ChatGPT для банков: чат-бот сам ищет данные и проводит анализ
По теме
OpenAI выпустила ChatGPT для банков: чат-бот сам ищет данные и проводит анализ
Исследователи нашли следы ИИ-агентов OpenAI ещё на 12 сайтах
Исследователи нашли следы ИИ-агентов OpenAI ещё на 12 сайтах
По теме
Исследователи нашли следы ИИ-агентов OpenAI ещё на 12 сайтах
Читайте также
ИИ заставляет людей думать, что они умнее, чем есть на самом деле
ИИ заставляет людей думать, что они умнее, чем есть на самом деле
ИИ заставляет людей думать, что они умнее, чем есть на самом деле
ИИ может ускорить 94% задач, но на практике используется лишь в 33%
ИИ может ускорить 94% задач, но на практике используется лишь в 33%
ИИ может ускорить 94% задач, но на практике используется лишь в 33%
1 комментарий
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
Лягушка в кипятке: учёные предупредили о «накопительном» вреде ИИ для мозга
ChatGPT и Claude учат людей говорить как чат-боты
ChatGPT и Claude учат людей говорить как чат-боты
ChatGPT и Claude учат людей говорить как чат-боты

Хотите сообщить важную новость? Свяжитесь с редакцией через страницу контактов

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.