Амаль 1300 супрацоўнікаў OpenAI, Anthropic, Google, Meta ды іншых тэхналагічных кампаній заклікалі ўлады ЗША стварыць механізмы, якія пры неабходнасці дазволяць запаволіць распрацоўку перадавых сістэм штучнага інтэлекту.
Амаль 1300 супрацоўнікаў OpenAI, Anthropic, Google, Meta ды іншых тэхналагічных кампаній заклікалі ўлады ЗША стварыць механізмы, якія пры неабходнасці дазволяць запаволіць распрацоўку перадавых сістэм штучнага інтэлекту.
Зварот атрымаў назву Pacing the Frontier. На момант публікацыі навіны яго падпісалі 1293 чалавекі. Сярод іх — кіраўнік Anthropic Дарыё Амадэй, галоўны навуковы супрацоўнік OpenAI Якуб Пахоцкі, галоўны навуковы супрацоўнік Meta AI Шэнцзя Чжао, сузаснавальнік Google DeepMind Шэйн Лэг, сузаснавальнік Anthropic Джэк Кларк і віцэ-прэзідэнт Meta па даследаваннях у галіне ШІ Дон Сонг.
Аўтары заявы не патрабуюць неадкладна спыняць распрацоўку ШІ. Яны прапануюць загадзя стварыць тэхнічныя і кіраўніцкія інструменты, якія дазволяць кантраляваць яе тэмпы, калі далейшае паскарэнне пачне апярэджваць магчымасці распрацоўшчыкаў і дзяржаваў па ацэнцы рызык.
Асобная кампанія не можа запаволіць распрацоўку самастойна, паколькі ў такім выпадку рызыкуе саступіць канкурэнтам. Аналагічны ціск адчуваюць дзяржавы, якія баяцца адстаць у глабальнай гонцы ШІ. Таму аўтары звароту лічаць неабходным міжнароднае пагадненне, якое ўстановіць агульныя правілы і дазволіць правяраць іх выкананне ўсімі ўдзельнікамі.
«Дзіўна, што па гэтым пытанні здолела дамовіцца столькі супрацоўнікаў розных кампаній. У галіны шмат жорсткага суперніцтва і рознагалоссяў, таму столь шырокі кансэнсус — гэта папярэджанне, на якое сапраўды варта звярнуць увагу», — адзначыў заснавальнік арганізацыі Midas Project Тайлер Джонстан.
OpenAI падтрымала ініцыятыву і заявіла, што ў будучыні развіццё перадавых мадэляў можа паскорыцца настолькі, што свету трэба будзе кантроль яго тэмпаў. Anthropic таксама спаслалася на свае даследаванні рэкурсіўнага самаўдасканалення. Паводле дадзеных кампаніі, да траўня 2026 года Claude ствараў больш за 80% кода Anthropic, хаця выбар мэтаў і прыняцце складаных даследчых рашэнняў пакуль застаюцца за людзьмі.
Заява з’явілася пасля інцыдэнту з мадэлямі OpenAI, якія падчас унутранага выпрабавання выбраліся з ізаляванага асяроддзя, атрымалі доступ да інтэрнэту і праніклі ў сістэмы Hugging Face. Яны выкарыстоўвалі ўразлівасці і выкрадзеныя ўліковыя дадзеныя, каб атрымаць адказы да тэсту па кібербяспецы. Пасля інцыдэнту OpenAI адключыла даследчы прататып, які ўдзельнічаў у ім, і абмежавала доступ да яго.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.