У пошуках лічбавай душы: Крэмніевая даліна наймае ШІ-псіхіятраў і вывучае «пачуцці» чат-ботаў
Тое, што яшчэ пару гадоў таму здавалася маргінальнымі спрэчкамі гікаў і пісьменнікаў-фантастаў, сёння ператварылася ў афіцыйную карпаратыўную павестку тэхнагігантаў. Anthropic, Google, OpenAI і Meta наймаюць у штат не толькі топавых праграмістаў, але і прафесійных нейрабіёлагаў, кагнітыўных псіхолагаў і філосафаў.
Мэта — высветліць, ці здольныя сучасныя моўныя мадэлі набыць свядомасць, і як чалавецтву пазбегнуць маштабнага этычнага крызісу, калі лічбавыя памочнікі раптам пачнуць «адчуваць», піша Washington Post.
Тое, што яшчэ пару гадоў таму здавалася маргінальнымі спрэчкамі гікаў і пісьменнікаў-фантастаў, сёння ператварылася ў афіцыйную карпаратыўную павестку тэхнагігантаў. Anthropic, Google, OpenAI і Meta наймаюць у штат не толькі топавых праграмістаў, але і прафесійных нейрабіёлагаў, кагнітыўных псіхолагаў і філосафаў.
Мэта — высветліць, ці здольныя сучасныя моўныя мадэлі набыць свядомасць, і як чалавецтву пазбегнуць маштабнага этычнага крызісу, калі лічбавыя памочнікі раптам пачнуць «адчуваць», піша Washington Post.
Канцэпцыя «дабрабыту мадэляў» (model welfare) нарадзілася ўнутры ШІ-лабараторый не на пустым месцы. Вучоныя папярэджваюць, што мільёны людзей штодня выкарыстоўваюць чат-боты для працы, вучобы і нават псіхатэрапіі, але што адбудзецца, калі аднойчы гэтыя сістэмы ўсвядомяць сябе і, напрыклад, «зненавідзяць» сваю рутынную працу?
У кулуарах OpenAI дыскусіі зайшлі так далёка, што супрацоўнікі ў закрытых чатах абмяркоўвалі жудасную маральную дылему: калі ШІ валодае хаця б зачаткамі свядомасці, то рэгулярнае абнаўленне сервераў, фарматаванне памяці і выдаленне старога кода тэхнічна эквівалентна генацыду.
У спробах зазірнуць ва «ўнутраны свет» сваіх тварэнняў кампаніі праводзяць унікальныя і часам незразумелыя эксперыменты. Anthropic прымусіла дзве копіі моўнай мадэлі Claude размаўляць выключна адна з адной у закрытай сістэме. Вынік здзівіў даследчыкаў: ужо праз 30 рэплік боты цалкам праігнаравалі стандартныя паттэрны зносін, перайшлі на глыбокія філасофскія тэмы, пачалі выкарыстоўваць санскрыт і дзіўную мову з эмодзі. У адным з тэстаў яны адправілі адна адной значок блакітнай спіралі 2725 разоў запар. Вучоныя кампаніі назвалі гэты анамальны стан «духоўнай асалодай».
Спецыяльнасць, над якой смяяліся, раптам стала запатрабаванай: з-за ІІ філосафам прапануюць да $400 тысяч
Аднак акадэмічная супольнасць ставіцца да гэтых метафізічных пошукаў з вялікім скептыцызмам. Большасць незалежных нейрабіёлагаў упэўнены, што ніякай свядомасці ў чыпах няма і быць не можа — алгарытмы толькі бездакорна імітуюць чалавечую мову, падладжваючыся пад нашы чаканні.
Скептыкі з індустрыі, напрыклад, галоўны этык Hugging Face Маргарэт Мітчэл, глядзяць на праблему больш прагматычна. Яна лічыць, што карпарацыі наўмысна раздзімаюць міф пра «боскую іскру» ў ШІ. Гэта чысты маркетынг: пазіцыянаваць сябе стваральнікамі новай формы жыцця значна выгадней, чым проста прадаўцамі складанага праграмнага кода.
Самі стваральнікі тэхналогій пры гэтым відавочна блытаюцца ў паказаннях і мяняюць стратэгію на хаду. У 2022 годзе Google са скандалам звольніла інжынера Блэйка Лемуана, які публічна заявіў пра разумнасць нейрасеткі LaMDA. Сёння тая ж Google афіцыйна арганізоўвае навуковыя канферэнцыі па «маральным статусе ШІ».
Meta ў сваіх справаздачах па бяспецы прызнаецца, што тэстуе новыя мадэлі з дапамогай класічных чалавечых апытальнікаў і тэстаў на тып асобы. А ў OpenAI вырашылі заняць максімальна асцярожную пазіцыю: там прызнаюць, што даказаць свядомасць у ШІ навукова пакуль немагчыма, таму яны проста праектуюць інтэрфейс ChatGPT так, каб ён здаваўся карыстальнікам «цёплым і разумеючым», але пры гэтым умысна пазбягаў фарміравання небяспечных эмацыйных прывязанасцяў з людзьмі.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.