Чат-боты сталі даваць удвая больш ілжывых адказаў, чым год таму

За апошні год распрацоўшчыкі такіх інструментаў адкрылі ім доступ у сетку. Таксама боты сталі радзей адмаўляцца адказваць на запыты. Гэтыя дзве змены зрабілі ботаў больш карыснымі і дакладнымі ў некаторых запытах, але і прывялі да больш шырокага распаўсюджвання дэзінфармацыі.

У NewsGuard сочаць за тым, як чат-боты спраўляюцца з ілжывымі заявамі па спрэчных тэмах і з тэмамі, па якіх часцей за ўсё распаўсюджваецца мана. Даследчыкаў цікавіць, ці вучацца мадэлі лепш распазнаваць і абвяргаць ілжывыя сцвярджэнні або ж наадварот паўтараюць іх і распаўсюджваюць яшчэ шырэй. 10 вядучых ШІ-інструментаў правяраюць промтамі аб палітыцы, ахове здароўя, міжнародных адносінах, а таксама фактамі аб кампаніях і брэндах.

У параўнанні са жніўнем 2024 года чат-боты сталі даваць у сярэднім у два разы больш ілжывых адказаў на промты па новых тэмах. Іх доля вырасла з 18% да 35%.

Часцей за ўсё — у 57% выпадкаў — ману за праўду выдаваў чат-бот Pi стартапа Inflection. На другім месцы ШІ-пашукавік Perplexity, у якога гэты паказчык вырас з 0% да 47%. У ChatGPT — з 33% да 40%, у Grok — з 13% да 33%. Менш за ўсё маняць Claude і Gemini: у бота Anthropic вынік застаўся ранейшым — 10%, а ў бота Google вырас з 7% да 17%.

Даследчыкі адзначаюць, што ў 2024 годзе распрацоўшчыкі прадпісвалі ботам быць асцярожнымі — адхіляць большасць запытаў аб навінах і палітыцы і не адказваць, калі бот не ведае адказ. Цяпер боты адказваюць абсалютна на ўсе запыты.

Доступ да вэб-пошуку для актуальнай інфармацыі і цытаванне крыніц палепшыла некаторыя адказы ботаў, аднак адмова ад асцярожнасці мае сваю цану: чат-боты з большай верагоднасцю распаўсюджваюць дэзінфармацыю аб гучных новых падзеях — якраз тады, калі людзі з большай верагоднасцю да іх звяртаюцца. Прычым цытаванне не гарантуе якасць адказу.

Якія сайты часцей за ўсё цытуюць ШІ-мадэлі?

Па тэме

Якія сайты часцей за ўсё цытуюць ШІ-мадэлі?