Сузаснавальнік Anthropic: «ШІ — гэта малаток, які раптам зразумеў, што ён малаток»
Сузаснавальнік Anthropic Джэк Кларк параўнаў прарывы ў галіне штучнага інтэлекту з «малаткамі, якія раптам усвядомілі сябе». Па яго словах, развіццё ШІ ўжо выйшла за межы простага праектавання — цяпер яно больш падобна да вырошчвання жывога арганізма, які здольны праяўляць нечаканыя здольнасці.
«Уявіце, што вы працуеце на фабрыцы молаткаў, і раптам адзін з іх кажа: „Я малаток, як цікава!“ — гэта надзвычай незвычайна», — прывёў метафару Кларк. На яго думку, калі вылічальныя магутнасці, аб’ёмы дадзеных і маштаб мадэляў дасягаюць пэўнага парога, пачынаюць праяўляцца ўласцівасці, якія ніхто адмыслова не закладваў.
«Гэта тэхналогія бліжэй да чагосьці выгаданавага, чым створанага, — тлумачыць ён. — Вы задаяце зыходныя ўмовы, ставіце каркас, і з яго вырастае нешта настолькі складанае, што спраектаваць гэта ўручную было б немагчыма».
Кларк папярэджвае, што чалавецтва стварае надзвычай магутныя сістэмы, механізм работы якіх да канца не разумее. «І каб павысіць стаўкі — вы гарантавана прайграеце, калі вырашыце, што гэта істота нерэальная. Адзіны шанец выйграць — убачыць яе такой, якая яна ёсць», — сказаў ён.
Меркаванне Кларка выклікае спрэчкі сярод даследчыкаў. Шмат спецыялістаў скептычна ставяцца да ідэі, што вялікія моўныя мадэлі здольныя да сапраўднай самасвядомасці. Крытыкі лічаць, што нават самыя прасунутыя нейрасеткі застаюцца толькі складанымі сістэмамі супастаўлення шаблонаў, а не свядомымі істотамі.
Да заснавання Anthropic Джэк Кларк займаў пасаду дырэктара па палітыцы ў OpenAI, а раней працаваў журналістам у Bloomberg BusinessWeek і The Register.
Читать на dev.by