Кіраўнікі OpenAI заклікалі не імкнуцца да поўнай аўтаматызацыі свету з дапамогай ШІ. У сумесным блогпосце генеральны дырэктар Сэм Альтман і галоўны навуковы супрацоўнік Якуб Пахоцкі заявілі, што яны «выразна разумеюць рызыкі», звязаныя з ШІ, нягледзячы на ўсе яго перавагі для прадуктыўнасці.
Кіраўнікі OpenAI заклікалі не імкнуцца да поўнай аўтаматызацыі свету з дапамогай ШІ. У сумесным блогпосце генеральны дырэктар Сэм Альтман і галоўны навуковы супрацоўнік Якуб Пахоцкі заявілі, што яны «выразна разумеюць рызыкі», звязаныя з ШІ, нягледзячы на ўсе яго перавагі для прадуктыўнасці.
«Поўная аўтаматызацыя абсалютна ўсяго — гэта не тая будучыня, якой мы хочам. Гэта было б пустым і небяспечным», — адзначылі аўтары.
Топ-менеджары падкрэслілі, што ШІ-сістэмы павінны быць бяспечнымі і знаходзіцца пад кантролем чалавека. На іхную думку, па меры росту магчымасцяў нейрасетак чалавечыя ролі будуць станавіцца толькі важнейшымі: менавіта за людзьмі павінны заставацца «вызначэнне кірункаў, пошук кампрамісаў, вынясенне меркаванняў, а таксама ўнясенне ў працу каштоўнасцяў, густу, клопату і адказнасці».
Гэта заява прагучала на фоне ўсеагульнага буму вакол агентнага ШІ, які здольны выконваць складаныя працоўныя працэсы з мінімальным удзелам чалавека. Зараз OpenAI і Anthropic актыўна змагаюцца за карпаратыўных кліентаў для сваіх ШІ-платформ для кодынгу напярэдадні блізкіх IPO абедзвюх кампаній.
Маніфест OpenAI выйшаў менш чым праз тыдзень пасля аналагічнага папярэджання ад іх галоўнага канкурэнта. У публікацыі Anthropic адзін з супрацоўнікаў прызнаўся, што ўжо цяпер не паспявае за працэсамі аўтаматызацыі і губляецца, калі ШІ-сістэмы робяць памылкі. У выніку Anthropic афіцыйна заклікала запаволіць тэмпы распрацоўкі ШІ, каб «даць магчымасць сацыяльным структурам і даследаванням у галіне бяспекі паспяваць за тэхналогіямі».
На карысць захавання чалавечага кантролю выказваюцца і кіраўнікі іншых буйных кампаній. Кіраўнік Salesforce Марк Беніёф запэўніў, што кампанія не плануе скарачаць наём у аддзел продажаў. Генеральны дырэктар Duolingo Луіс фон Ан адзначыў, што ягоныя галоўныя дызайнеры працуюць значна лепш за нейрасеткі. «У нейкіх рэчах ШІ ўжо здольны выконваць працу якасна. У нейкіх — папросту не. Мы не збіраемся зніжаць якасць толькі дзеля таго, каб выкарыстоўваць ШІ», — заявіў ён.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.