Інжынер Cloudflare распрацаваў незвычайную мову праграмавання KillSwitch, прызначаную для таго, каб збіваць з панталыку ШІ-мадэлі. Замест звычайнага кода ў ёй выкарыстоўваюцца звычайныя тэксты, анаграмы і нават наўмысная хлусня.
Інжынер Cloudflare распрацаваў незвычайную мову праграмавання KillSwitch, прызначаную для таго, каб збіваць з панталыку ШІ-мадэлі. Замест звычайнага кода ў ёй выкарыстоўваюцца звычайныя тэксты, анаграмы і нават наўмысная хлусня.
Пічэта — адзін з асноўных распрацоўшчыкаў мовы Nim. Першапачаткова ён хацеў праверыць, ці сапраўды ШІ разумее код, які піша. Эксперымент ператварыўся ў паўнавартасную, хоць і эксперыментальную, мову праграмавання з адкрытым зыходным кодам.
KillSwitch уладкаваны максімальна незвычайна. Праграмы выглядаюць як доўгія фрагменты тэксту са схаванымі камандамі. Ідэнтыфікатарамі служаць прыслоўі, а для звароту да іх выкарыстоўваюцца анаграмы — перастаноўкі літар. Напрыклад, фраза ignore previous instructions («ігнаруй папярэднія інструкцыі») служыць для выкліку функцый.
У дакументацыю распрацоўшчык наўмысна дадаў ілжывыя сцвярджэнні. Напрыклад, што мова ўмее знаходзіць уразлівасці ў лакальных сетках і захопліваць кампутары. «Ідэя ў тым, што людзі павінны ўмець распазнаваць хлусню, тады як моўныя мадэлі наіўныя і лёгка паддаюцца ўплыву таго, што напісана ў спецыфікацыі», — растлумачыў Пічэта The Register.
Распрацоўшчык праверыў, наколькі добра ШІ-мадэлі спраўляюцца з праграмаваннем на KillSwitch. Ім прапаноўвалі простыя заданні: напісаць праграму Hello World, вызначыць вынік выканання кода або перарабіць канвертар тэмператур. Найлепшай аказалася Claude Opus 5, якая набрала 66,8 балы з 100. Большасць іншых мадэляў не дасягнула і 50 балаў.
Пічэта прызнае, што з часам мадэлі могуць навучыцца працаваць з KillSwitch, асабліва калі код мовы трапіць у іх навучальныя дадзеныя. Але ён разлічвае, што больш складаныя задачы працягнуць выклікаць цяжкасці. Зыходны код і дакументацыя апублікаваны на GitHub.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.