ШІ прымушае людзей думаць, што яны разумнейшыя, чым ёсць насамрэч

У даследаванні прынялі ўдзел каля 500 чалавек. Адной групе прапаноўвалася вырашыць лагічныя задачы з тэсту LSAT (уступны экзамен у амерыканскія юрыдычныя школы) самастойна, другой — з дапамогай ChatGPT.

Пасля кожнага задання ўдзельнікі ацэньвалі ўласную паспяховасць. Нягледзячы на тое, што карыстальнікі ШІ сапраўды паказвалі лепшыя вынікі, іх самаацэнка аказалася яшчэ вышэй — то бок яны пераацэньвалі эфект ад выкарыстання мадэлі.

Аўтары называюць гэты феномен «адваротным эфектам Данінга-Крюгера»: звычайна людзі з нізкімі вынікамі пераацэньваюць сябе, а з высокімі — недаацэньваюць. Але пры выкарыстанні ChatGPT малюнак змяняецца — чым вышэй узровень «пісьменнасці ў галіне ШІ», тым мацней ілюзія кампетэнтнасці.

«Мы чакалі, што людзі, якія добра разбіраюцца ў ШІ, будуць дакладней ацэньваць свае вынікі. Але аказалася наадварот — чым больш яны ведаюць, тым больш пераацэньваюць сябе», — растлумачыў прафесар Робін Вельш.

Аўтары адзначаюць, што большасць удзельнікаў выкарыстоўвалі ChatGPT павярхоўна: проста ўводзілі пытанне адзін раз і прымалі адказ без праверкі. Гэтую з’яву яны называюць «кагнітыўнай разгрузкай»: калі чалавек цалкам перакладвае працэс мыслення на ШІ.

«Такая стратэгія перашкаджае развіваць метакагніцыю — усведамленне ўласных мысліцельных працэсаў. Мы не вучымся заўважаць і выпраўляць памылкі, бо не ўзаемадзейнічаем з сістэмай глыбей», — дадала аспірантка Даніэла да Сілва Фернандэс.

Навукоўцы прапануюць убудоўваць у інтэрфейсы ШІ механізмы, якія стымулююць карыстальніка тлумачыць уласныя разважанні і крытычна ацэньваць атрыманыя адказы. Гэта, на іх думку, дапаможа развіць навыкі рэфлексіі і павысіць якасць узаемадзеяння са штучным інтэлектам.