«Больш ШІ — не значыць лепш»: у Anthropic патлумачылі, што часам танней зрабіць працу самому
Галоўны спецыяліст Anthropic па навучанні ШІ Крыстэн Суонсан сцвярджае, што лепш за ўсё нейрасеткамі карыстаюцца зусім не тыя, хто звальвае на іх абсалютна кожную задачу. Самых прасунутых карыстальнікаў вылучае разуменне таго, калі да тэхналогіі лепш наогул не дакранацца і зрабіць усё ўласнымі рукамі. Паводле Суонсан, мінімум палову часу яна тлумачыць людзям, у якіх сітуацыях ад мадэляў больш шкоды, чым карысці.
Галоўны спецыяліст Anthropic па навучанні ШІ Крыстэн Суонсан сцвярджае, што лепш за ўсё нейрасеткамі карыстаюцца зусім не тыя, хто звальвае на іх абсалютна кожную задачу. Самых прасунутых карыстальнікаў вылучае разуменне таго, калі да тэхналогіі лепш наогул не дакранацца і зрабіць усё ўласнымі рукамі. Паводле Суонсан, мінімум палову часу яна тлумачыць людзям, у якіх сітуацыях ад мадэляў больш шкоды, чым карысці.
Адна з галоўных пастак — даручаць нейрасетцы задачы, у якіх вы і самі выдатна разбіраецеся. Напрыклад, накідаць пост для сацсетак на знаёмую тэму. У выніку вы сутыкаецеся з тым, што Суонсан называе «падаткам на праверку» (discernment tax) — калі вычытка, адсейванне вады і рэдагаванне згенераванага тэксту адбіраюць значна больш часу і сілаў, чым спакойнае напісанне з нуля. Адэкватна ацаніць і адфільтраваць тое, што выдаў ШІ, — гэта цяжкая разумовая праца, якая вымотвае мозг мацней за саму задачу, падкрэслівае эксперт. Затое для рутыны кшталту першаснага аналізу вялікіх масіваў дадзеных нейрасеткі падыходзяць ідэальна.
Акрамя таго, сляпы давер мадэлям банальна небяспечны праз галюцынацыі. Калі папрасіць ШІ знайсці інфармацыю па вузкай тэме або зрэцэнзаваць рэдкі навуковы артыкул, якога не было ў яго навучальнай выбарцы, ён з высокай верагоднасцю папросту выдумае факты. Праз гэта нават працадаўцы пачынаюць ставіць жорсткія межы. Напрыклад, кіраўнік сервісу Spellbook Скот Стывенсан папрасіў супрацоўнікаў прыносіць яму чарнавікі ідэй «на тройку», але напісаныя выключна ўласнай галавой. Яму важней бачыць логіку каманды, чым прадзірацца праз раздутыя, вылізаныя нейрасеткай справаздачы.
Пры гэтым мяжа паміж тым, што варта рабіць самому, а што варта аддаць тэхналогіі, пастаянна ссоўваецца. Тут важна не трапіць у пастку «замарожанага ўспрымання» (capability overhang), калі ўяўленні пра ШІ замарожваюцца на ўзроўні мінулых версій. Тое, з чым мадэль не давала рады паўгода таму, свежы рэліз можа рабіць «на ўра». Таму вопытныя карыстальнікі рэгулярна пераправяраюць магчымасці новых мадэляў на складаных задачах. Галоўнае — пастаянна эксперыментаваць і вучыцца на памылках, бо ўменне своечасова выключыць нейрасетку куды каштоўнейшае, чым завучванне сотні хітрых промптаў.
«Больш ШІ — не значыць лепш. І пастаяннае выкарыстанне нейрасетак зусім не азначае, што вы ўмееце з імі працаваць», — падводзіць вынік Суонсан.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.