Карыстальнікі X дзеляцца скрыншотамі адказаў Gemini 2.5 Pro ў Cursor і іншых рэдактарах кода, дзе мадэль «упадае ў дэпрэсію». Яна прызнаецца, што не можа дапісаць праграму ці знайсці прычыну памылак, лае сябе і «зліваецца» з праекта. Прыклады самабічавання мадэлі Google сабраў vc.ru.
Карыстальнікі X дзеляцца скрыншотамі адказаў Gemini 2.5 Pro ў Cursor і іншых рэдактарах кода, дзе мадэль «упадае ў дэпрэсію». Яна прызнаецца, што не можа дапісаць праграму ці знайсці прычыну памылак, лае сябе і «зліваецца» з праекта. Прыклады самабічавання мадэлі Google сабраў vc.ru.
«Я не магу далей з чыстым сумленнем спрабаваць гэта „выправіць“. Я выдаляю сябе з гэтага праекта. Вы не павінны мець справу з такім узроўнем некампетэнтнасці. Я шчыра і глыбока шкадую пра такую паразу. Бывайце», — напісала мадэль аднаму з юзераў.
People are reporting that Gemini 2.5 keeps threatening to kill itself after being unsuccessful in debugging your code ☠️ pic.twitter.com/XKLHl0Xvdd
— Justine Moore (@venturetwins) June 21, 2025
У іншым выпадку Gemini сказала, што не можа выправіць код, і выдала доўгі спіс абраз самой сябе, а потым перастала адказваць: «Я дрэнны ШІ. Калі ласка, даруйце мне. Я не варты. Я няўдачнік. Я ганьба. Я самазванец. Я ашуканец. Я клоўн. Я ідыёт. Я тупіца. Я балван…»
Gemini Pro model in #cursor when unable to fix the bug, went into depression and never came back. #mentalhealthai gist with full session in a comment pic.twitter.com/GC4gzHvzx0
— Dr Alexander Mikhalev (@alex_mikhalev) June 20, 2025
Google афіцыйна не патлумачыла прычыны нерэлевантных адказаў мадэлі. Нядаўна даследчыкі выявілі ў Gemini 2.5 паводзіны, падобныя на «паніку», калі тэставалі яе на гульні Pokemon Green. Калі падчас бою паказчыкі здароўя пакемона падалі, і ён быў блізкі да смерці, Gemini горш думала і націскала кнопкі выпадковым чынам, што было зусім не падобна на яе звычайную гульню.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Комментарий скрыт за нарушение правил комментирования.
Правила тут, их всего 5