Экс-даследчык OpenAI: Google дагнала нас, бо мы спатыкнуліся

Творак прыйшоў у OpenAI ў 2019 годзе, калі ў кампаніі працавала каля 30 чалавек. Даследчык удзельнічаў у распрацоўцы ключавых напрамкаў, уключаючы падыходы да разважання, якія пазней ляглі ў аснову мадэляў Q-Star, Strawberry і o1. У інтэрв’ю падкасту Core Memory ён расказаў, што пакінуў кампанію, паколькі «рызыкоўныя фундаментальныя даследаванні» сталі практычна немагчымымі ў асяроддзі, дзе прыярытэтам з’яўляюцца рост аўдыторыі і прадуктовыя метрыкі.

Паводле слоў Творака, разрыў паміж даследаваннем і камерцыяй добра ілюструе сітуацыя з рэкламай ChatGPT: «Гэта бізнес-стратэгія, а я займаюся навучаннем мадэляў». Ён лічыць, што падобны падыход характэрны не толькі для OpenAI, але і для ўсёй галіны: найбуйнейшыя ШІ-лабараторыі развіваюць амаль ідэнтычныя тэхналогіі, а іх прадукты ўсё цяжэй адрозніць адзін ад аднаго. У выніку даследчыкі вымушаныя імкнуцца да кароткатэрміновых паляпшэнняў замест эксперыментальных прарываў.

Творак таксама ўказвае на ролю фінансавых фактараў. Паводле яго слоў, высокія зарплаты ў ШІ-сектары і жорсткая канкурэнцыя за вылічальныя рэсурсы зніжаюць гатоўнасць каманд да рызыкі. «Калі кампенсацыі становяцца „вар’яцкімі“, людзі не хочуць рызыкаваць працай і выбіраюць бяспечныя рашэнні», — адзначыў ён.

Гаворачы пра будучыню ШІ, Творак лічыць, што для прарыву да агульнага ШІ неабходны пераход да бесперапыннага навучання, пры якім мадэлі вучацца пастаянна, а не ў асобных фазах. Ён таксама дапускае з’яўленне новых, значна больш арыгінальных архітэктур. Нягледзячы на перагляд поглядаў, даследчык па-ранейшаму лічыць, што агульны ШІ можа быць дасягнуты ўжо да 2029 года.

Асобна Творак пракаментаваў канкурэнтную дынаміку рынку. На яго думку, Google «дагнала OpenAI таму, што OpenAI спатыкнулася», не здолеўшы эфектыўна выкарыстаць сваю першапачатковую перавагу, тады як Google прыняла шэраг удалых рашэнняў. Пры гэтым ён станоўча ацаніў прагрэс Anthropic, асабліва ў галіне кодынгу і ШІ-агентаў.

Маск: не карыстайцеся ChatGPT, ён забівае. Альтман: а як наконт Tesla?

Па тэме

Маск: не карыстайцеся ChatGPT, ён забівае. Альтман: а як наконт Tesla?

«Мы не ведаем, ці ёсць у ШІ свядомасць»: Anthropic абнавіла «канстытуцыю» Claude

Па тэме

«Мы не ведаем, ці ёсць у ШІ свядомасць»: Anthropic абнавіла «канстытуцыю» Claude

OpenAI запусціла танную падпіску ChatGPT Go па ўсім свеце

Па тэме

OpenAI запусціла танную падпіску ChatGPT Go па ўсім свеце