Праграміст Meta Алі Хамі сказаў уголас тое, пра што маўчыць большасць ягоных калег: праз шалёны тэмп ШІ-распрацоўкі ён адпраўляе ў прадакшн код, які не разумее цалкам.
Праграміст Meta Алі Хамі сказаў уголас тое, пра што маўчыць большасць ягоных калег: праз шалёны тэмп ШІ-распрацоўкі ён адпраўляе ў прадакшн код, які не разумее цалкам.
У сваім пасце ў LinkedIn Хамі напісаў, што за ўсю кар’еру «яшчэ ніколі не адчуваў сябе так няўтульна ў сваёй справе», бо распрацоўка цяпер «адчуваецца як нейкая „чорная скрыня"». ШІ-інструменты настолькі паскорылі працэс напісання софту, што скрупулёзна правяраць кожны радок заняло б вечнасць. У выніку інжынер бачыць архітэктуру сістэмы толькі на верхнім узроўні, але ўжо не можа адказаць за кожную дэталь унутры.
«Гэта супярэчыць самой сутнасці таго, што значыць быць софтверным інжынерам. Я прывык разумець, што стварую, а цяпер спрабую разабрацца, якога ўзроўню разумення наогул дастаткова, каб са спакойнай сумленнасцю рухацца далей?» — напісаў Хамі, спытаўшы ў калег, ці адчувае хтось тое ж самае.
Мяркуючы па статыстыцы галіны, у такім жа становішчы апынулася вялікая частка ІТ-індустрыі, адзначае The State of AI.
Сваім адкрыццём Хамі падзяліўся на фоне ціску Meta на супрацоўнікаў, ад якіх патрабуюць генераваць усё больш кода з дапамогай нейрасетак. Напрыклад, мэта на першае паўгоддзе ў падраздзяленні, якое адказвае за Facebook, WhatsApp і Messenger: 65% інжынераў павінны пісаць больш за 75% свайго кода з дапамогай ШІ. У групе Scalable Machine Learning планка яшчэ вышэй: ад 50% да 80% ШІ-кода. Распрацоўшчыкам неабходна адлюстроўваць выкарыстанне нейрасетак у самаацэнках эфектыўнасці.
Пры гэтым Meta — далёка не выключэнне. Паводле свежага даследавання State of Code ад кампаніі Sonar, якое ахапіла больш за 1100 распрацоўшчыкаў, 42% кода ў рэпазіторыях ужо пішацца нейрасеткамі або з іх дапамогай, а да 2027 года гэты паказчык вырасце да 65%. Калі мадэль за некалькі хвілін выдае тое, на што раней сыходзіў цэлы дзень, менавіта чалавек, які правярае код радок за радком, становіцца самым павольным звяном ланцуга.
Парадокс сітуацыі ў тым, што распрацоўшчыкі не давяраюць ШІ-коду «на ўсе сто», але ўсё роўна яго выпускаюць. Паводле дадзеных Sonar, 96% інжынераў не ўпэўнены ў якасці згенераванага кода, але толькі 48% заўсёды вычытваюць яго перад камітам. Аналітыкі AWS называюць разрыў, які ўзнік, «доўгам верыфікацыі» (verification debt).
Апытанне Stack Overflow сярод 30 тысяч распрацоўшчыкаў паказала падобную карціну: людзі гатовы давяраць ШІ толькі тады, калі могуць асабіста праверыць вынік, і ўсяго 6,6% рэспандэнтаў даверылі б нейрасетцы прыняць сапраўды важнае рашэнне.
Даследчыкі і аўтары называюць гэтую праблему «доўгам разумення» (comprehension debt). У адрозненне ад класічнага тэхнічнага доўгу, ён не праяўляецца ў выглядзе зацягнутых зборак або нестабільных модуляў. Індыкатары на панэлях кіравання могуць гарэць зялёным, а тэсты — праходзіць ідэальна, пакуль рэальнае разуменне ўласнай сістэмы ў каманды няўхільна імкнецца да нуля. «Рахунак» за гэты доўг звычайна прылятае пазней — падчас маштабнага збою, глыбокага рэфактарынгу або калі з кампаніі сыходзіць адзіны чалавек, які хаця б прыкладна памятае, як усё ўладкавана.
Гэта пацвярджаюць і лічбы: у эксперыменце Anthropic распрацоўшчыкі, якія спадзяваліся на ШІ, здалі наступны тэст на разуменне напісанага кода на 17% горш за кантрольную групу і паказалі самыя слабыя вынікі ў адладцы багаў.
Скептыкі на гэта пярэчаць, што праграмаванне заўсёды будавалася на даверы да чужых абстракцый. Ніхто ў Meta не чытае ядро Linux, код кампілятара або тысячы вонкавых залежнасцяў перад зборкай праекта. ШІ — папросту яшчэ адзін узровень абстракцыі, а цяперашняя трывога праграмістаў нагадвае страх іх папярэднікаў перад з’яўленнем першых кампілятараў.
Аднак аналогія не зусім дакладная, лічыць The State of AI. Кампілятар паводзіць сябе пэўна і прадказальна, строга пратэставаны і падтрымліваецца інжынерамі, якія ведаюць яго ва ўсіх дэталях. Бібліятэка іншага распрацоўшчыка мае празрысты спіс змяненняў. Што датычыць кода ад ШІ-агента — як толькі распрацоўшчык яго ўхваляе, ён становіцца адзіным аўтарам і адказным за гэты код незалежна ад таго, здатны ён растлумачыць, як той працуе ці не.
Адзінага стандарту, колькі менавіта кода трэба разумець для бяспечнага рэліза, у ІТ-сферы няма. Але кампаніі ўжо выпрацоўваюць новыя правілы гульні.
Некаторыя каманды пачалі суадносіць узровень праверкі са ступенню рызыкі: унутраны скрыпт можна выпусціць на падставе базавых тэстаў і кропкавага кантролю, а вось код плацёжнага сервісу па-ранейшаму патрабуе поўнага вычытвання кожнай галіны. Іншыя звяртаюцца да строгіх аўтаматызаваных тэстаў і спецыфікацый — якасны набор тэстаў хутчэй і надзейней дапаможа знайсці баг, чым паспешны прагляд тысячы згенераваных радкоў.
Нарэшце, мяняецца і сама культура працы з ШІ-памочнікамі. Эксперымент Anthropic паказаў, што інжынеры, якія не проста слепа прымаюць змяненні, а прымушаюць нейрасетку тлумачыць логіку і аргументаваць выбар канкрэтных рашэнняў, разумеюць архітэктуру на тым жа высокім узроўні, што і раней.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.