«Мы не мелі рацыі»: OpenAI адмовілася ад прынцыпу адкрытасці кода
На гэтым тыдні OpenAI анансавала найноўшую версію моўнай мадэлі GPT. Нягледзячы на назву арганізацыі, экспертная супольнасць было раззлаваная адсутнасцю тэхнічных падрабязнасцей у матэрыялах, якія суправаджалі GPT-4. У іх шырока паказаныя вынікі тэстаў і прыклады працы, але практычна нічога не сказана пра тое, якія датасэты выкарыстоўваліся для трэніроўкі сістэмы, энергазатраты, памер мадэлі, якое абсталяванне і метады ўжываліся пры распрацоўцы.
На гэтым тыдні OpenAI анансавала найноўшую версію моўнай мадэлі GPT. Нягледзячы на назву арганізацыі, экспертная супольнасць было раззлаваная адсутнасцю тэхнічных падрабязнасцей у матэрыялах, якія суправаджалі GPT-4. У іх шырока паказаныя вынікі тэстаў і прыклады працы, але практычна нічога не сказана пра тое, якія датасэты выкарыстоўваліся для трэніроўкі сістэмы, энергазатраты, памер мадэлі, якое абсталяванне і метады ўжываліся пры распрацоўцы.
Многія ў АІ-кам’юніці адзначылі, што такая закрытасць супярэчыць тым прынцыпам, на аснове якіх стваралася OpenAI. Акрамя таго, гэта ўскладняе спробы ўзнавіць вынікі яе даследаванняў і распрацоўку «процітруты» ад патэнцыйных пагроз, што могуць утойваць падобныя АІ-сістэмы.
Сузаснавальнік OpenAI Ілля Суцкевер у інтэрв’ю The Verge заявіў, што арганізацыя паскупілася на інфармацыю пра GPT-4 праз асцярогі з нагоды канкурэнцыі і бяспекі — прычыны, якія ён назваў «відавочнымі».
Наконт канкурэнцыі ён сказаў, што распрацоўка GPT-4 складаная і патрабуе шмат часу. Між тым ёсць шмат кампаній, якія хацелі б мець такую ж тэхналогію, і гэта можна разглядаць як працэс станаўлення сферы. Што тычыцца бяспекі, мадэлі робяцца ўсё больш і больш магутнымі, і можа наступіць момант, калі пры жаданні з дапамогай іх можна будзе папросту прычыніць людзям велізарную шкоду. І па меры здабыцця мадэлямі ўсё большых здольнасцей «цалкам лагічна, што іх не варта раскрываць».
OpenAI была заснаваная ў 2015 годзе яе цяперашнім гендырэктарам Сэмам Альтманам, Іланам Маскам, які сышоў з праўлення праз тры гады, і Суцкеверам. Яе мэтай было распрацоўваць карысны АІ «для ўсіх, а не для акцыянераў». Таксама яна абяцала «адкрыта супрацоўнічаць» з іншымі ўдзельнікамі АІ-супольнасці. OpenAI стваралася як некамерцыйная арганізацыя, але пазней здрадзіла гэтаму прынцыпу дзеля прыцягнення інвестыцый. Маск нядаўна раскрытыкаваў OpenAI за тое, што яна стала ўсім тым, чым абяцала не быць.
«Мы памыляліся. Калі вы, як і мы, верыце, што аднойчы АІ стане неверагодна магутным, тады проста няма сэнсу рабіць яго адкрытым. Гэта дрэнная ідэя… Я цалкам разлічваю, што праз некалькі гадоў усім стане цалкам відавочна, што АІ з адкрытым кодам — гэта проста неразумна», — адказаў Суцкевер на пытанне пра змену курсу.
Пра трэніровачныя даныя ён разгорнута сказаў, што лічыць іх «тэхналогіяй» і не раскрывае іх з той жа прычыны, што і колькасць параметраў. Ён пагадзіўся з крытыкамі, якія сцвярджаюць, што калі даць мадэлі ў рукі як мага большай колькасці людзей, то яны будуць лепш вывучаныя. І дадаў, што доступ да распрацовак OpenAI далі шэрагу акадэмічных і даследчых устаноў.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Варианты проекта были или загнуться, или стать самоокупаемым. Всё нормально.
Да и вообще, Маск, чья бы корова мычала.
цукерберги "неправы"?
они просто лгали с самого начала
а вы верили? ну и дураки