13 былых і дзейных супрацоўнікаў OpenAI, Anthropic і DeepMind — падраздзялення Google па штучным інтэлекце — напісалі адкрыты ліст пра небяспекі тэхналогіі, праблемы распрацоўкі і пра тое, што кампаніі ставяць фінансавыя інтарэсы вышэй за бяспеку.
13 былых і дзейных супрацоўнікаў OpenAI, Anthropic і DeepMind — падраздзялення Google па штучным інтэлекце — напісалі адкрыты ліст пра небяспекі тэхналогіі, праблемы распрацоўкі і пра тое, што кампаніі ставяць фінансавыя інтарэсы вышэй за бяспеку.
У падпісантаў 4 патрабаванні. Іх сутнасць зводзіцца да таго, каб кампаніі не навязвалі дамоў, якія забараняюць крытыку наконт рызык, звязаных з АІ, і не помсцілі за яе — напрыклад, шантажом. Кампаніі наадварот маюць падтрымліваць культуру свабоднай крытыкі і дазваляць адкрыта казаць пра такія асцярогі пры ўмове захавання камерцыйнай таямніцы. Таксама аўтары ліста хочуць дамагчыся ўкаранення ананімнай працэдуры, з дапамогай якой супрацоўнікі АІ-кампаній змогуць прыцягваць увагу рад дырэктараў, рэгулятараў і незалежных арганізацый да пытанняў, што тычацца рызык АІ.
Рызыкі, пра якія кажуць падпісанты, — гэта распаўсюджванне дэзынфармацыі, паглыбленне сацыяльнай няроўнасці, страта кантролю над АІ-сістэмамі аж да знішчэння імі чалавецтва пры адсутнасці належнага рэгулявання. Таксама яны бачаць праблему ў тым, што распрацоўшчыкаў не абавязваюць дзяліцца інфармацыяй пра магчымасці і абмежаванні іх сістэм з уладамі, а з уласнай волі яны рабіць гэтага не стануць.
Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.
кампаніі ставяць фінансавыя інтарэсы вышэй за бяспеку.
ух ты, никогда такого не было, и вот опять
Финансовые интересы компании - очень понятно про что.
А вот эта "безопасность" о чём? Безопасность чего именно?
Да видели мы уже эту "критику". Идиоты кричат левые лозунги и требуют чтоб компания плясала под их дудку.