У сеціве плодзіцца кантэнт, спароджаны штучным інтэлектам. Эксперты ў галіне машыннага навучання лічаць, што ў далейшым АІ-алгарытмы, якія трэніраваліся на ім, а не на аўтэнтычным матэрыяле, будуць выдаваць усё менш якасныя вынікі.
У сеціве плодзіцца кантэнт, спароджаны штучным інтэлектам. Эксперты ў галіне машыннага навучання лічаць, што ў далейшым АІ-алгарытмы, якія трэніраваліся на ім, а не на аўтэнтычным матэрыяле, будуць выдаваць усё менш якасныя вынікі.
У маі брытанска-канадская група навукоўцаў апублікавала працу на тэму таго, што будзе, калі некалькі пакаленняў АІ-сістэм трэніраваць на кантэнце, згенераваным падобнымі да іх сістэмамі.
Адзін з суаўтараў даследавання — навуковец і прафесар Кембрыджскага ўніверсітэта Рос Андэрсан — адзначае, што тэкст будзе станавіцца смеццем. Напрыклад, у адным выпадку АІ-сістэма 9 пакалення, навучаная на матэрыяле пра сярэднявечную архітэктуру, выдавала штосьці невыразнае пра зайцоў. Да такой дэградацыі мадэляў (model collapse) схільныя і генератары выяў.
Вялікія моўныя мадэлі накшталт тых, што ў аснове ChatGPT, трэніраваліся на велізарных масівах даных з інтэрнэту, якія да нядаўняга часу ў большасці сваёй былі створаны людзьмі. Але па меры распаўсюджвання АІ-інструментаў сеціва запаўняюць вынікі іх «працы» і трапляюць у трэніровачныя датасэты новых мадэляў.
Гэта значыць, што паступова іх якасць і дакладнасць будуць падаць, а верагоднасць памылак і бязглуздзіцы — узрастаць. Тым больш што АІ не ўмее адрозніваць праўду ад выдумкі і пачынае няправільна тлумачыць тое, што лічыць праўдзівым, кажуць навукоўцы.
Для прыкладу Андэрсан узяў Моцарта і яго менш знакамітага сучасніка, італьянскага кампазітара Антоніа Сальеры. Калі навучыць мадэль на працах Моцарта, то атрымаецца падобна, але без іскры таленту аўстрыйца — умоўна гэта Сальеры. Калі на музыцы Сальеры навучыць новую мадэль і так — яшчэ некалькі пакаленняў, то іх гучанне будзе ўсё больш аддаляцца ад арыгінала.
Паводле слоў навукоўцаў, праблема звязаная з успрыманнем АІ верагоднасці — з часам менш верагодныя падзеі з’яўляюцца ў выніках мадэляў усё радзей, і гэта абмяжоўвае тое, што АІ наступнага пакалення будзе лічыць верагодным.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Ну да, согласен. А перед этим заведут ещё блоги и инстаграмы, и уже там и будут генерировать мусор.