Николай Чикишев 26 ліпеня 2023, 13:29

OpenAI адключыла дэтэктар АІ-тэкстаў — ён працаваў дрэнна

Кампанія прыпыніла працу інструмента, які адрозніваў тэкст, згенераваны АІ, ад напісанага чалавекам.

Прычынай адключэння стала «нізкая дакладнасць» спрацоўвання алгарытмаў. Цяпер OpenAI вывучае больш эфектыўныя метады класіфікацыі матэрыялаў. Таксама кампанія вырашыла распрацаваць аналагічны інструмент для выяўлення створаных АІ аўдыя — і візуальных матэрыялаў.

Платформа для аналізу тэкстаў выйшла сёлета ў студзені. Кампанія разам з навукоўцамі Стэнфардскага і Джорджтаўнскага ўніверсітэтаў апублікавала артыкул, у якім прааналізавала рызыку дэзынфармацыйных кампаній, якія праводзяцца з дапамогай АІ.

Аўтары артыкула адзначылі, што моўныя мадэлі зрабілі вялікі крок наперад, а створаны імі тэкст цяжка адрозніць ад напісанага чалавекам. У выніку цяпер амаль немагчыма штосьці зрабіць для прадухілення такіх інцыдэнтаў.

Распрацаваны OpenAI інструмент мусіў вырашыць гэтую праблему. Аднак у яго былі абмежаваныя магчымасці і нізкая дакладнасць: ён патрабаваў уручную ўвесці тэкст даўжынёй ад тысячы знакаў, каб ацаніць яго.

Інструмент паспяхова залічваў 26% узораў да «верагодна напісаных АІ» і ў 9% выпадкаў прысвойваў гэтую ж ацэнку тэкстам, напісаным чалавекам. Кампанія не рэкамендавала выкарыстоўваць сістэму як «асноўны інструмент прыняцця рашэнняў» і адключыла 20 ліпеня.