Кампанія стварыла DeepMind Institute (DMI) — пляцоўку для даследаванняў і дыскусій пра бяспеку, кіраванне і грамадскія наступствы з’яўлення агульнага штучнага інтэлекту (AGI).
Кампанія стварыла DeepMind Institute (DMI) — пляцоўку для даследаванняў і дыскусій пра бяспеку, кіраванне і грамадскія наступствы з’яўлення агульнага штучнага інтэлекту (AGI).
Інстытут узначалілі сузаснавальнік DeepMind і галоўны даследчык AGI Шэйн Лэг, прэзідэнт Google па даследаваннях і тэхналогіях Джэймс Маніка і кіраўнік Google DeepMind Дэміс Хасабіс. Да працы хочуць прыцягваць не толькі спецыялістаў па ШІ, але і навукоўцаў з іншых галін, прадстаўнікоў гуманітарных навук, мастацтва і экспертаў па дзяржаўнай палітыцы.
«Ні ў кога няма ўсіх адказаў пра тое, як AGI будзе адказна распрацоўвацца і ўкараняцца ў свеце, і даваць іх павінны не толькі тэхнолагі», — гаворыцца ў паведамленні інстытута.
У DeepMind лічаць, што сучасныя ШІ-сістэмы яшчэ не адпавядаюць узроўню AGI: яны могуць памыляцца ў простых задачах і пакуль не валодаюць неабходнай паслядоўнасцю і творчымі здольнасцямі. Пры гэтым кампанія чакае, што гэтыя абмежаванні могуць быць пераадолены ў бліжэйшыя гады.
Пад AGI DeepMind разумее сістэму, якая валодае ўсім наборам кагнітыўных магчымасцяў чалавечага мозгу. Адзінага вызначэння тэрміна ў галіны па-ранейшаму няма: напрыклад, OpenAI часцей звязвае AGI са здольнасцю перасягаць чалавека ў большай частцы эканамічна значнай працы.
Адна з цэнтральных тэм DMI — рызыкі з’яўлення больш аўтаномных і здольных да самаўдасканалення сістэм. Даследчыкі збіраюцца вывучаць кіберпагрозы, біялагічныя рызыкі, магчымасць страты кантролю над ШІ, а таксама тое, якія законы ды інстытуты спатрэбяцца грамадству.
У інстытуце таксама хочуць абмяркоўваць больш шырокія пытанні: як AGI зменіць уяўленні пра чалавека і каштоўнасці, як будуць узаемадзейнічаць супольнасці ШІ-агентаў і якія існуючыя інстытуты прыйдзецца перабудаваць.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.