Николай Чикишев world 23 кастрычніка 2025, 14:12

Нейрасеткі "дурнеюць", калі харчуюцца смецевым кантэнтам — эфект незваротны

Штучны інтэлект схільны да эфекту, аналагічнага чалавечаму інфармацыйнаму выгаранню. Тэрмін «brain rot» азначае нізкаякасны кантэнт з сацсетак, на якім навучаюцца мадэлі.

1 каментарый

Нейрасеткі "дурнеюць", калі харчуюцца смецевым кантэнтам — эфект незваротны

Штучны інтэлект схільны да эфекту, аналагічнага чалавечаму інфармацыйнаму выгаранню. Тэрмін «brain rot» азначае нізкаякасны кантэнт з сацсетак, на якім навучаюцца мадэлі.

Да такой высновы прыйшлі даследчыкі з Тэхаскага ўніверсітэта ў Осціне, Тэхаскага ўніверсітэта A&M і Ўніверсітэта Пэрдзью. Навукоўцы выявілі, што пры працяглым навучанні на кароткіх, вірусных публікацыях — напрыклад, пастах з X — вялікія моўныя мадэлі пачынаюць дэманстраваць «устойлівае кагнітыўнае пагаршэнне».

Падобна да таго, як у людзей празмернае спажыванне кароткіх відэа звязана з трывожнасцю і зніжэннем канцэнтрацыі, у ШІ праяўляецца зніжэнне здольнасці да разважання і апрацоўкі доўгіх кантэкстаў.

Паводле аўтараў, мадэлі, якія пастаянна «харчуюцца» віруснымі фразамі і клікбэйтамі, часцей «прапускаюць крокі мыслення», гэта значыць не будуюць план адказу, не завяршаюць разважанні ці наогул прапускаюць этап самарэфлексіі. Гэта вядзе да росту памылак і зніжэння лагічнай звязнасці адказаў.

У ходзе эксперыменту даследчыкі выкарыстоўвалі мадэлі Meta Llama 3 і Alibaba Qwen. Пасля «дыеты» з нізкаякасных тэкстаў мадэлі станавіліся не толькі менш разважлівымі, але і дэманстравалі трывожныя рысы, напрыклад, рост «псіхапатыі» і «нарцысізму», па метрыках паводзінавага аналізу. Пры гэтым спробы «вылечыць» ШІ з дапамогай наступнага навучання на якасных чалавечых дадзеных не ліквідавалі эфект цалкам: разрыў у якасці разважання захоўваўся.

«Разрыў кажа пра тое, што эфект „brain rot“ глыбока ўкараняецца ў мадэлі, і стандартная падладка інструкцый не здольная яго выправіць. У будучыні неабходны больш моцныя метады абароны і пастаянная праверка кагнітыўнага здароўя ШІ», — адзначаюць аўтары даследавання.

Навукоўцы папярэджваюць, што паколькі моўныя мадэлі навучаюцца на велізарных аб’ёмах дадзеных з інтэрнэту, яны «непазбежна і пастаянна» падвяргаюцца ўздзеянню нізкаякаснага кантэнту — таго самага, які выклікае трывожнасць, дэзінфармацыю і спрашчэнне мыслення ў людзей.