OpenAI дагэтуль не пачала навучаць GPT-5 праз боязь небяспечнасці мадэлі

Кампанія прыпыніла працу над новай версіяй моўнай мадэлі, бо распрацоўшчыкі занепакоеныя патэнцыяльнымі пагрозамі нейрасетак.

4 каментарыя

«Нам трэба будзе зрабіць масу працы, перш ніж запусцім гэтую мадэль. Мы прапрацоўваем новыя ідэі, якія, як мы думаем, для гэтага патрэбныя, але да запуску мы пакуль не наблізіліся», — расказаў кіраўнік OpenAI Сэм Альтман. Раней тысячы экспертаў і прадстаўнікоў індустрыі, у тым ліку Ілан Маск і Стыў Возняк, падпісалі адкрыты ліст з заклікам да ўсіх лабараторый як мінімум на паўгода прыпыніць навучанне сістэм, магутнейшых за GPT-4.

Альтман заўважыў, што ў лісце «адсутнічае большасць тэхнічных нюансаў наконт таго, дзе нам трэба зрабіць паўзу». Аднак OpenAI так і не пачала навучання новай мадэлі і не плануе гэтага рабіць нейкі час. Бізнэсовец адкінуў некаторыя засцярогі ў дачыненні да патэнцыйных пагроз АІ. Альтман нагадаў, што OpenAI сама здольная правесці ацэнку рызык з прыцягненнем экспертаў. Раней ён выступіў за дзяржрэгуляванне для буйных гульцоў індустрыі.

OpenAI прапанавала спосаб змагацца з «галюцынацыямі» ChatGPT
Па тэме
OpenAI прапанавала спосаб змагацца з «галюцынацыямі» ChatGPT
OpenAI выпусціла праграму ChatGPT для iOS
Па тэме
OpenAI выпусціла праграму ChatGPT для iOS
Кіраўнік OpenAI прапанаваў стварыць агенцтва кантролю АІ і выдаваць ліцэнзіі
Па тэме
Кіраўнік OpenAI прапанаваў стварыць агенцтва кантролю АІ і выдаваць ліцэнзіі

Читать на dev.by