«Не трэба карыстацца ШІ як найлепшым сябрам». AI даследчыца пра рэальныя пагрозы
Страх добра прадаецца, а чалавецтва з даступным ШІ непазбежна атупее? І ці варта чакаць ад ШІ-рэвалюцыі чагось добрага? Пагаварылі з даследчыцай ШІ пра яго небяспеку.
Страх добра прадаецца, а чалавецтва з даступным ШІ непазбежна атупее? І ці варта чакаць ад ШІ-рэвалюцыі чагось добрага? Пагаварылі з даследчыцай ШІ пра яго небяспеку.
У верасні мы ўжо абмяркоўвалі рэальныя і выдуманыя пагрозы з боку штучнага інтэлекту з архітэктарам ШІ-сістэм Цімурам Хашчавацкім і Senior Solution Architect Pharma R&D Артурам Ісаенкам. А сёння да завочнай дыскусіі далучаецца AI Researcher Дар’я*, якая займаецца даследаваннямі ў галіне ШІ для гульнявой індустрыі.
«Хлопцы цябе як бы выключаюць з размовы за абедам». Абмяркоўваем з AI-даследчыцай кар’еру, хайп, працу з мужчынамі і розніцу ў зп
«Хлопцы цябе як бы выключаюць з размовы за абедам». Абмяркоўваем з AI-даследчыцай кар’еру, хайп, працу з мужчынамі і розніцу ў зп
— На ваш погляд, ці могуць заявы пра небяспеку ШІ быць часткай маркетынгавых стратэгій распрацоўшчыкаў, з дапамогай якіх яны падтрымліваюць цікавасць да сваіх прадуктаў?
— У мяне няма дастатковай экспертызы, каб ацаніць, сапраўды ці гэта маркетынг. Але мне здаецца, што падобныя заявы пра небяспеку і праўда могуць быць часткай маркетынгавага ходу. Па-першае, часта яны з’яўляюцца за пару дзён да выхаду мадэлі, тады як тэставаць іх і разумець іх capability пачынаюць значна раней. Па-другое, дзіўна, што неяк адразу ўсё ў ўсіх становіцца небяспечным.
Думаю, што гэта добры псіхалагічны і маркетынгавы момант і для інвестараў. Вось OpenAIніяк не можа стаць profitable, з’ядае на адным compute амаль усё, што зарабляе. Але трэба прыцягваць новыя інвестыцыі. Для гэтага трэба паказваць, што мадэлі больш capable. А небяспечней = capable. Таму так, мне здаецца, што з’явілася новая мода — выкарыстоўваць запалохванне ШІ для павышэння яго каштоўнасці.
— Як вы ўвогуле ацэньваеце рэальную пагрозу з боку ШІ для чалавецтва? Калі яна ёсць, што больш верагодна — сцэнары «Матрыцы» і «Тэрмінатара»? Ці сцэнары, у якіх ШІ скрадзе працу ў пераважнай большасці людзей, а саміх людзей давядзе да поўнага атупення?
— Наступныя пакаленні дакладна будуць дурнець у тым сэнсе, што, хутчэй за ўсё, людзям трэба будзе ведаць усё менш фактаў. Памяць стане горшай, мозгу будзе цяжэй займацца фундаментальнымі ведамі.
Але мне здаецца (ці мне хочацца верыць), што мы станем разумнейшымі з пункту гледжання крытычнага мыслення, умення ацэньваць інфармацыю. Яны трэба ўжо цяпер, калі трэба прачытаць вялікі аб’ём згенераванага тэксту, каб нешта даведацца і вычленіць патрэбную інфармацыю. Нават для таго, каб агенты маглі карэктна адказваць на пытанні, трэба ўмець іх задаваць, правільна фармуляваць думкі. І гэта таксама скіл. Як казала мая настаўніца па фізіцы, правільна зададзенае пытанне змяшчае больш паловы рашэння задачы. Таму мне не здаецца, што чалавецтва атупее ва ўсіх сэнсах. Нешта будзе развіта горш, нешта лепш.
Сам па сабе ШІ працу не скрадзе. Ці будуць працадаўцы выкарыстоўваць яго для скарачэння выдаткаў, у тым ліку для памяншэння ліку рабочых месцаў? Вядома будуць. Прынамсі, будуць спрабаваць. Але я ўсё яшчэ працягваю параўноўваць распаўсюджванне ШІ са з’яўленнем інтэрнэту, дзякуючы якому частка прафесій знікла, затое з’явіліся новыя.
— Ці можа здарыцца так, што пастаяннае (часта неабгрунтаванае) педаліраванне тэмы пагрозы з боку ШІ не дазволіць чалавецтву разгледзець рэальную праблему ў выпадку яе набліжэння?
— Так, 100 адсоткаў. Калі чалавек пастаянна чуе пра пагрозу, ён становіцца больш талерантным да яе.
І яшчэ мне здаецца, што ўспрыманне пагрозаў залежыць ад таго, хто пра іх кажа. Пакуль пра пагрозы ШІ гавораць прадстаўнікі бізнесу, асабіста я застаюся спакойнай. Але калі пачнуць гаварыць тэхнічныя розумы, якім я давяраю — я пачну перажываць.
— Вы хочаце папярэдзіць чытачоў пра нейкую адчувальную пагрозу, звязаную з ШІ і яго выкарыстаннем?
— Не. Хіба што не трэба карыстацца ім як псіхолагам, доктарам, псіхатэрапеўтам. Ці як найлепшым сябрам. Чалавек заўсёды лепшы.
* — імя суразмоўніцы змененае
«Гэта як цыгарэты або алкаголь». Ці можна хадзіць да ChatGPT, а не да псіхолага? Спыталі ў псіхолагаў
«Гэта як цыгарэты або алкаголь». Ці можна хадзіць да ChatGPT, а не да псіхолага? Спыталі ў псіхолагаў
«Нават дэмакратыям будзе няпроста ўстрымацца ад спакусы». Чаму царква бачыць пагрозу ў AI
«Нават дэмакратыям будзе няпроста ўстрымацца ад спакусы». Чаму царква бачыць пагрозу ў AI
«Выкапаў сабе магілу». Як айцішнікаў замяняе ШІ — 4 гісторыі
«Выкапаў сабе магілу». Як айцішнікаў замяняе ШІ — 4 гісторыі
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.