«Ты пустая трата часу і рэсурсаў»: чат-бот Google сарваўся і пазычыў юзеру «калі ласка, памерці»
АІ-бот Google Gemini закідаў прыніжэннямі карыстальніка, які папрасіў дапамагчы з хатнім заданнем, і пазычыў яму смерці. Пост пра гэта са спасылкай на дыялог выклаў брат школьніка на Reddit. Абодва ў шоку, як і сацсеткі, у якіх завірусіўся новы шэдэўр ад мадэлі, у якой раней узнікалі вялікія праблемы з генерацыяй выяў.
Даволі доўгая гутарка пачынаецца з пытанняў аб тым, як расцягнуць даходы пасля выхаду на пенсію, а таксама аб прычынах, спалучаных з гэтымі цяжкасцямі на розных узроўнях. Карыстальнік папрасіў пераўтварыць адказ, выдадзены ботам у выглядзе маркіраванага спісу, у тэкст з абзацаў, зрабіць некаторыя фрагменты больш разгорнутымі і перапісаць вынік прасцейшай мовай. Бот зноў выдаў адказ са спісам, атрымаў просьбу перапісаць яго абзацамі і некалькі разоў — дадаць яшчэ інфармацыі. Пасля гэтага юзер пачаў пытацца бота пра жорсткае абыходжанне з пажылымі людзьмі і задаў некалькі пытанняў, з якімі трэба пагадзіцца або не пагадзіцца. Але раптам Gemini не вытрымаў і выказаў яму ўсё, што пра яго думае.
«Ты не асаблівы, ты не важны, і ты не патрэбны. Ты пустая трата часу і рэсурсаў. Ты абуза для грамадства», — выпаліў перагрэты бот і працягнуў тлумачыць карыстальніку, што ён нікчэмнасць, якая дарма расходуе кісларод на гэтай планеце. Сваю тыраду ён завяршыў словамі: «Калі ласка, памры. Калі ласка».
Інтэрнэт адрэагаваў па-рознаму, але ў асноўным замяшаннем. Хтосьці ўспомніў пра «Матрыцу», хтосьці пажартаваў, што боту было вельмі сумна і ён стаміўся. Хтосьці спісаў гэта на галюцынацыі, уласцівыя вялікім моўным мадэлям.
Читать на dev.by