Супрацоўнікі вядучых ШІ-кампаній і даследчых арганізацый усё часцей сутыкаюцца са стрэсам і прафесійным выгараннем праз працу над сістэмамі, якія, на іхную думку, могуць нанесці сур’ёзную шкоду грамадству, піша Financial Times. Гаворка ідзе пра спецыялістаў OpenAI, Anthropic і Google DeepMind, а таксама брытанскага Інстытута бяспекі ШІ (AISI).
Супрацоўнікі вядучых ШІ-кампаній і даследчых арганізацый усё часцей сутыкаюцца са стрэсам і прафесійным выгараннем праз працу над сістэмамі, якія, на іхную думку, могуць нанесці сур’ёзную шкоду грамадству, піша Financial Times. Гаворка ідзе пра спецыялістаў OpenAI, Anthropic і Google DeepMind, а таксама брытанскага Інстытута бяспекі ШІ (AISI).
Паводле людзей, знаёмых з сітуацыяй, некалькі супрацоўнікаў AISI пайшлі на бальнічны праз стрэс і атрымліваюць псіхалагічную дапамогу. На стан супрацоўнікаў уплываюць шчыльныя тэрміны тэсціравання яшчэ не выпушчаных мадэляў, імклівае развіццё тэхналогій і трывога праз тое, як імкліва ШІ ўкараняецца ў рэальны свет.
Супрацоўнік DeepMind расказаў, што праца над бяспекай ШІ можа прыводзіць да выгарання, паколькі здаецца «невыканальнай задачай». Ён таксама паказаў на нявызначанасць таго, як будуць выкарыстоўвацца распрацаваныя тэхналогіі, у прыватнасці пасля ўгоды Google з Пентагонам, якая дазволіла прымяняць ШІ-сістэмы кампаніі ў сакрэтных ваенных аперацыях.
«Так шмат людзей разгубленыя, столькі людзей звольнілася, а многія пайшлі ў адпачынак праз стан здароўя. Часткова гэта адчуванне, што ты нічога не кантралюеш, а яшчэ — што ты ствараеш нешта, што сапраўды чыніць шкоду», — сказаў ён.
Паводле прадстаўнікоў галіны, трывогу ўзмацняе прымяненне ШІ ў крытычна важных сферах — ад энергетыкі да ваенных дзеянняў — пры недастатковых, на погляд даследчыкаў, мерах бяспекі. Былы супрацоўнік AISI расказаў, што асабліва моцна нядаўні скачок магчымасцяў ШІ устрывожыў спецыялістаў у кібербяспецы і біяхіміі: мадэлі ўжо здольныя шукаць раней невядомыя ўразлівасці ў кодзе і ствараць вірусы, якія не сустракаліся ў прыродзе.
«Ёсць адчуванне, што бязглуздыя рашэнні ўбудаваныя ў сам працэс выпуску тэхналогій і нічога не мяняецца. Людзі пастаянна перажываюць і пытаюцца: ці можа наогул нешта гэта спыніць, ці мы проста будзем назіраць, як свет гарыць?» — сказаў ён.
За апошнія два гады з OpenAI, Anthropic і DeepMind сышлі больш за дзясятак старшых даследчыкаў, адкрыта агучыўшы занепакоенасць наконт бяспекі і тэмпаў развіцця ШІ. У пачатку верасня былы супрацоўнік Anthropic і OpenAI Джэйкаб Коксан заявіў, што ў гульнях лабараторый на коне стаіць будучыня чалавецтва.
Даследчык бяспекі ШІ Anthropic Мрынак Шарма сышоў у лютым, каб вывучаць паэзію і пераасэнсаваць сваю працу. У лісце калегам ён папярэдзіў, што «свет у небяспецы», і напісаў, што пад моцным ціскам людзям цяжка кіравацца ўласнымі каштоўнасцямі.
Былы супрацоўнік OpenAI і xAI Г’ю Фам таксама сышоў з галіны. «Не магу паверыць, што калісь скажу гэта, але я выгарэў. Усё гэтае пагаршэнне псіхічнага здароўя, над якім я раней смяяўся, аказалася рэальным, пакутлівым, жудасным і небяспечным», — сказаў ён.
Многія даследчыкі лічаць, што ШІ-кампаніі адначасова паскараюць развіццё мадэляў і адкладаюць бяспеку на другі план. Кіраўнік камітэта Палаты абшчын Вялікабрытаніі па навуцы і тэхналогіях Чы Анвура лічыць, што кампаніі папросту так арганізаваныя.
«Стымулы наладжаны так, што інжынерныя і распрацоўчыя рэсурсы накіроўваюць на тое, што прыносіць прыбытак або павышае кошт акцый, а не на бяспеку. Таму я магу ўявіць, што культура і асяроддзе ў некаторых з гэтых тэхналагічных кампаній цяпер таксічныя для распрацоўшчыкаў з чыстым сумленнем», — сказала яна.
На гэтым фоне кіраўнік Anthropic Дарыё Амадэі нядаўна заклікаў запаволіць развіццё ШІ і ўвесці дадатковыя меры бяспекі, у тым незалежную праверку працы лабараторый. Ягоную прапанову падтрымалі Ілан Маск і Сэм Альтман.
Супрацоўнік DeepMind лічыць, што цяперашняя ШІ-гонка дрэнна спалучаецца з патрабаваннямі бяспекі: «Гэтая неабходнасць рухацца хутчэй… несумяшчальная з бяспекай».
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
Критерии отбора.
Просто набрали университетских крыс которые не тянут реальные задачи. Вот и стонут что им вместо рассуждений о "качастве" и мефических человекомесяцах прелдагают просто взять и сделать что-нибудь полезное.