Дапамажыце dev.by 🤍
Падтрымаць

Маск: не карыстайцеся ChatGPT, ён забівае. Альтман: а як наконт Tesla?

Кіраўнік OpenAI Сэм Альтман пракаментаваў абмеркаванне так званага «ШІ-псіхозу» — стану, пры якім карыстальнікі чат-ботаў трапляюць у трызненне або небяспечныя псіхічныя эпізоды.

Пакінуць каментарый
Маск: не карыстайцеся ChatGPT, ён забівае. Альтман: а як наконт Tesla?

Кіраўнік OpenAI Сэм Альтман пракаментаваў абмеркаванне так званага «ШІ-псіхозу» — стану, пры якім карыстальнікі чат-ботаў трапляюць у трызненне або небяспечныя псіхічныя эпізоды.

Яго заява стала адказам на крытыку з боку Ілана Маска, які раней заклікаў «не дазваляць блізкім карыстацца ChatGPT», сцвярджаючы аб сувязі сэрвісу з некалькімі смерцямі.

У серыі публікацый у сацсетках Альтман выказаў раздражненне тым, як OpenAI абвінавачваюць адначасова ў празмернай строгасці і недастатковых абмежаваннях. Па яго словах, маштаб аўдыторыі робіць праблему асабліва складанай: «Амаль мільярд чалавек выкарыстоўваюць ChatGPT, і сярод іх ёсць людзі ў надзвычай уразлівым псіхалагічным стане».

Альтман падкрэсліў, што OpenAI спрабуе балансаваць паміж бяспекай і карыснасцю прадукту. «Гэта сапраўды складана. Мы абавязаны абараняць уразлівых карыстальнікаў і пры гэтым не пазбаўляць астатніх магчымасці атрымліваць карысць з інструмента», — напісаў ён, дадаўшы, што падобныя выпадкі «трагічныя і заслугоўваюць паважлівага і асцярожнага стаўлення», а не палітычных атак.

У адказ на выпад Маска Альтман таксама ўказаў на супярэчнасці ў яго пазіцыі. Ён нагадаў, што чат-бот Grok ужо станавіўся крыніцай скандалаў: ад экстрэмісцкіх выказванняў да генерацыі недапушчальнага кантэнту. Акрамя таго, кіраўнік OpenAI згадаў выпадкі гібелі людзей, звязаныя з аўтапілотам Tesla, назваўшы гэтую тэхналогію «далёкай ад бяспекі».

Пры гэтым крытыкі ўказваюць, што сам Альтман не да канца прызнае маштаб праблемы. У судовых ісках супраць OpenAI ўжо фігуруюць як мінімум восем смерцяў, у якіх істцы звязваюць трагедыі з выкарыстаннем ChatGPT. Сама кампанія раней прызнавала, што прыкладна ў 500 тысяч карыстальнікаў штотыдзень фіксуюцца дыялогі з прыкметамі псіхозу.

ChatGPT выцясняе Google з ролі стартавай старонкі інтэрнэту
ChatGPT выцясняе Google з ролі стартавай старонкі інтэрнэту
Па тэме
ChatGPT выцясняе Google з ролі стартавай старонкі інтэрнэту
«10 рэчаў якія я зразумеў аб ШІ-кодзінгу»: распрацоўшчык стварыў 50 праектаў і выгарэў
«10 рэчаў, якія я зразумеў аб ШІ-кодзінгу»: распрацоўшчык стварыў 50 праектаў і выгарэў
Па тэме
«10 рэчаў, якія я зразумеў аб ШІ-кодзінгу»: распрацоўшчык стварыў 50 праектаў і выгарэў
Чат-боты могуць непрыкметна змяняць «асобу» і станавіцца небяспечнымі
Чат-боты могуць непрыкметна змяняць «асобу» і станавіцца небяспечнымі
Па тэме
Чат-боты могуць непрыкметна змяняць «асобу» і станавіцца небяспечнымі
Чытайце таксама
Крытычны баг у Claude дазваляе ўзламаць камп'ютар праз Google Calendar
Крытычны баг у Claude дазваляе ўзламаць камп'ютар праз Google Calendar
Крытычны баг у Claude дазваляе ўзламаць камп'ютар праз Google Calendar
1 каментарый
ШІ-гіганты запускаюць акселератар для еўрапейскіх стартапаў
ШІ-гіганты запускаюць акселератар для еўрапейскіх стартапаў
ШІ-гіганты запускаюць акселератар для еўрапейскіх стартапаў
Сбербанк звольніў 20% супрацоўнікаў з-за штучнага інтэлекту
Сбербанк звольніў 20% супрацоўнікаў з-за штучнага інтэлекту
Сбербанк звольніў 20% супрацоўнікаў з-за штучнага інтэлекту
Сотні тысяч людзей прыйшлі на фрыланс-біржу, дзе працу дае ШІ
Сотні тысяч людзей прыйшлі на фрыланс-біржу, дзе працу дае ШІ
Сотні тысяч людзей прыйшлі на фрыланс-біржу, дзе працу дае ШІ

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.