Распрацоўка GPT-4 запатрабавала велізарных высілкаў. Але цяпер, маючы GPT-4.5, OpenAI магла б аднавіць GPT-4 з нуля прасцей і з куды меншай камандай. Пра гэта ішла гаворка ў нядаўнім падкасце кампаніі.
Распрацоўка GPT-4 запатрабавала велізарных высілкаў. Але цяпер, маючы GPT-4.5, OpenAI магла б аднавіць GPT-4 з нуля прасцей і з куды меншай камандай. Пра гэта ішла гаворка ў нядаўнім падкасце кампаніі.
Гендырэктар Сэм Альтман адзначыў, што ў стварэнні GPT-4 ўдзельнічалі «сотні людзей, практычна увесь рэсурс OpenAI». Але як толькі мадэль перастае быць перадавой, праца з ёй становіцца прасцейшай. Ён спытаў трох ключавых інжынераў, што стаяць за GPT-4.5, колькі людзей цяпер спатрэбілася б, каб з нуля навучыць яе папярэдніцу.
Алекс Пейна, які кіраваў папярэднім навучаннем GPT-4.5, сказаў, што гэта можна зрабіць з камандай усяго з 5–10 чалавек. «Мы навучылі GPT-4o — мадэль узроўню GPT-4, выкарыстоўваючы шмат з таго, што з’явілася ў рамках даследаванняў GPT-4.5. І сам працэс заняў значна менш людзей», — адзначыў ён.
З ім пагадзіўся даследчык Дэніэл Селсам, які адказвае за эфектыўнасць дадзеных і алгарытмы: «Як толькі хтосьці ўжо зрабіў гэта — усё робіцца ў разы прасцей. Сам факт, што нешта магчыма, — гэта як чыт-код».
У лютым OpenAI прадставіла GPT-4.5 — сваю найбуйнейшую і наймацнейшую мадэль. Альтман апісваў яе як «першую мадэль, у размове з якой адчуваецца, быццам маеш справу з удумлівым чалавекам». GPT-4.5 у 10 разоў маштабней за папярэднія пакаленні, і яе рэліз стаў паваротным момантам для кампаніі.
Акрамя таго, Альтман заявіў, што OpenAI больш не абмежаваная вылічальнымі магутнасцямі, то-бок цяпер «жалеза» не стрымлівае развіццё новых мадэляў. Раней недахоп GPU і інфраструктуры быў галоўным бар’ерам. Гэтую праблему вырашаюць не толькі ўнутраныя інвестыцыі OpenAI, але і велізарныя ўкладанні тэхналагічных гігантаў: у 2025 годзе Microsoft, Google, Amazon і Meta плануюць выдаткаваць на ШІ-інфраструктуру $320 млрд.
Аднак іншым фактарам, які стрымлівае развіццё, з’яўляецца доступ да дадзеных. Нават пры бясконцых вылічальных рэсурсах аб’ём даступнай інфармацыі расце павольна. Каб рухацца далей, OpenAI робіць стаўку на павышэнне эфектыўнасці працы з дадзенымі і новыя алгарытмы, здольныя здабываць больш ведаў з таго ж самага аб’ёму.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.