Бігтэх паабяцаў уключыць «рубільнік» у выпадку небяспекі АІ

Кампаніі ўзялі на сябе добраахвотныя забавязанні па гарантаванні бяспечнай распрацоўкі перадавых мадэляў АІ. У рамках пагаднення будуць апублікаваныя канцэпцыі бяспекі для кожнай мадэлі, якія прадугледзяць прадухіленне выкарыстання тэхналогіі зламыснікамі.

Таксама канцэпцыі вызначаць «чырвоныя лініі» для кампаній, якія маюць на ўвазе «недапушчальныя» рызыкі выкарыстання АІ. У іх ліку — аўтаматызаваныя кібератакі і пагроза стварэння біялагічнай зброі. Плануецца ўкараненне «аварыйных выключальнікаў», з дапамогай якіх распрацоўка можа быць спыненая.

Пакт пашырае пералік добраахвотных забавязанняў, які быў прыняты ў лістападзе мінулага года. Папярэдні дакумент адносіўся да тэхналогіі, якая выкарыстоўваецца ў сістэмах генератыўнага АІ, напрыклад, сямействе вялікіх моўных мадэляў GPT, што ляжаць у аснове чат-бота ChatGPT.