Николай Чикишев 12 лістапада 2024, 12:40

OpenAI не хапае рэсурсаў для распрацоўкі новых АІ-мадэляў

Новая мадэль Orion не дэманструе значнага прагрэсу ў параўнанні з GPT-4. Кампаніі не хапае рэсурсаў і магутнасцяў для чарговага якаснага рыўка.

1 каментарый

OpenAI не хапае рэсурсаў для распрацоўкі новых АІ-мадэляў

Новая мадэль Orion не дэманструе значнага прагрэсу ў параўнанні з GPT-4. Кампаніі не хапае рэсурсаў і магутнасцяў для чарговага якаснага рыўка.

Распрацоўка новых АІ-мадэляў у OpenAI запаволілася праз недахоп даных для навучання, паведамляе выданне The Information са спасылкай на тэсціроўшчыкаў кампаніі. Новая моўная мадэль пад кодавай назвай Orion, паводле іх слоў, пераўзыходзіць папярэднія мадэлі OpenAI, але прагрэс не так уражвае, як пры пераходзе ад GPT-3 да GPT-4.

Orion прайшоў толькі 20% этапаў навучання, але ўжо па некаторых паказчыках набліжаецца да GPT-4. Аднак прадукцыйнасць мадэлі ў задачах, звязаных з напісаннем кода, застаецца ніжэйшай, чым у папярэднікаў. OpenAI называе недахоп даных для далейшага навучання асноўнай праблемай.

Для вырашэння гэтай праблемы кампанія стварыла спецыяльную каманду, якая вывучае альтэрнатыўныя падыходы да развіцця мадэлі. У прыватнасці, разглядаецца выкарыстанне сінтэтычных даных, генераваных іншымі АІ, што можа кампенсаваць дэфіцыт якасных тэкстаў. Выданне адзначае, што для навучання Orion выкарыстоўваюцца даныя, згенераваныя іншай мадэллю — o1.

Раней The Verge паведамляла, што OpenAI плануе выпусціць Orion у снежні гэтага года, але, у адрозненне ад GPT-4o і o1, новая мадэль не будзе даступная па падпісцы ChatGPT. У першую чаргу доступ да Orion атрымаюць кампаніі-партнёры. У кампаніі абверглі гэтую інфармацыю, заявіўшы, што сёлета ніякіх рэлізаў новых мадэляў не плануецца.