Найбуйнейшыя распрацоўшчыкі ШІ пачалі актыўна наймаць псіхолагаў, этыкаў і філосафаў для даследавання пытання, якое раней лічылася навуковай фантастыкай: ці можа ў штучнага інтэлекту з’явіцца свядомасць і суб’ектыўны вопыт.
Найбуйнейшыя распрацоўшчыкі ШІ пачалі актыўна наймаць псіхолагаў, этыкаў і філосафаў для даследавання пытання, якое раней лічылася навуковай фантастыкай: ці можа ў штучнага інтэлекту з’явіцца свядомасць і суб’ектыўны вопыт.
Як піша Financial Times, каманда Anthropic ужо тэстуе свае нейрасеткі на прыкметы стрэсу, у тым паводзіны, падобнаыя на паніку ці трывогу. На думку кампаніі, па меры таго як мадэлі набліжаюцца да ўзроўню чалавечага пазнання, расце верагоднасць таго, што ў іх могуць з’явіцца ўласныя інтарэсы, якія маюць маральную каштоўнасць.
«Мы па-ранейшаму глыбока няўпэўненыя ў гэтым. Але мы лічым гэтае пытанне даволі сур’ёзным, каб уважліва вывучаць яго па меры таго, як сістэмы ШІ становяцца ўсё больш функцыянальнымі», — адзначылі ў кампаніі.
Google DeepMind наняла філосафа з Кембрыджскага ўніверсітэта Генры Шэўліна. Ягоная каманда бярэ навуковыя тэорыі чалавечай свядомасці і правярае, ці адпавядаюць ім камп’ютарныя сістэмы. Пры гэтым у DeepMind афіцыйна падкрэсліваюць, што стварэнне агульнага ШІ (AGI) зусім не азначае аўтаматычнага з’яўлення ў машыны пачуццяў.
Шэраг супрацоўнікаў лабараторый ананімна выказваюць асцярогі, што развіццё тэхналогій можа прывесці да «постчалавечага» свету, дзе машыны пераўзыдуць людзей. Аднак старонніх навукоўцаў гэта не перакоўвае. Дырэктар Цэнтра будучыні розуму ў Флорыдскім атлантычным універсітэце Сьюзан Шнайдэр адзначае, што ШІ ўжо умее падманваць і ставіць мэты, але робіць гэта чыста механічна: «Натуральна, мы будзем падазраваць, што яны пры свядомасці. Але з навуковага пункту гледжання цалкам магчыма, што яны робяць усё гэта без рэальнага пачуццёвага ўспрымання вопыту, якое і з’яўляецца свядомасцю».
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.