Дапамажыце dev.by 🤍
Падтрымаць

Гонка без тармазоў: бігтэхі выпускаюць ШІ-мадэлі, не думаючы пра бяспеку

Вядучыя тэхналагічныя кампаніі ўсё актыўней ператвараюць штучны інтэлект з даследчай пляцоўкі ў рухавік камерцыйнага росту. Распрацоўшчыкі ахвяруюць фундаментальнымі даследаваннямі і паўнавартаснымі праверкамі бяспекі дзеля як мага хутчэйшага выхаду прадуктаў на рынак.

1 каментарый
Гонка без тармазоў: бігтэхі выпускаюць ШІ-мадэлі, не думаючы пра бяспеку

Вядучыя тэхналагічныя кампаніі ўсё актыўней ператвараюць штучны інтэлект з даследчай пляцоўкі ў рухавік камерцыйнага росту. Распрацоўшчыкі ахвяруюць фундаментальнымі даследаваннямі і паўнавартаснымі праверкамі бяспекі дзеля як мага хутчэйшага выхаду прадуктаў на рынак.

Яшчэ некалькі гадоў таму Meta, Google і OpenAI шчодра фінансавалі фундаментальныя даследаванні: навукоўцам давалі доступ да звышмагутных кластараў дата-цэнтраў, заахвочвалі публікацыі і адкрыты абмен ідэямі. Усё змянілася пасля гучнага поспеху ChatGPT у 2022 годзе: з таго часу амаль кожны буйны гулец імкнецца як мага хутчэй манетызаваць генератыўныя мадэлі, спадзеючыся, што рынак ШІ-сэрвісаў да 2028 года вырасце да трыльёна даляраў.

Фундаментальная лабараторыя Meta FAIR доўгі час займалася перадавымі даследаваннямі без прамой прадуктавай прывязкі. Цяпер яна падпарадкоўваецца падраздзяленню GenAI, якое адказвае за лінейку мадэляў Llama і асістэнта Meta AI. Навукоўцаў пераводзяць у прадуктавыя каманды або яны пакідаюць кампанію, баючыся, што эксперыменты без імгненнага камерцыйнага эфекту сталі непажаданымі.

У Alphabet даследчая група Google Brain ужо паглынута DeepMind, а новая флагманская ШІ-мадэль Gemini 2.5 выйшла без паўнавартаснай «карты мадэлі» — дакумента, які апісвае рызыкі і абмежаванні. Сузаснавальнік Google Сяргей Брын запатрабаваў паскорыць выхад прадуктаў і спыніць выпуск мадэляў з лішнімі фільтрамі. Бізнесмен падкрэсліў, што ў гонцы за агульным штучным інтэлектам (AGI) важныя «рэальныя перамогі, маштабавальныя для карыстальнікаў».

OpenAI, якая першапачаткова была некамерцыйным праектам, усё актыўней балансуе паміж місіяй і патрэбамі інвестараў. Кампанія скараціла тэрміны тэставання мадэляў з месяцаў да дзён, а частку праверак пераносіць на знешніх партнёраў, якім, па іх словах, не хапае часу і доступу да ўнутраных даных. Выпушчаны вясной GPT-4o выклікаў хвалю крытыкі з-за празмерна «ліслівых» адказаў, і OpenAI была вымушаная вярнуць абнаўленне, прызнаўшы, што недаацаніла водгукі тэстараў.

Паводле слоў Джэймса Уайта з CalypsoAI, новыя мадэлі «лепш адказваюць на пытанні, але і лепш дапамагаюць зламыснікам»: іх лягчэй пераканаць раскрыць інструкцыі па стварэнні зброі або ўзлому сістэм. Былы даследчык OpenAI Стывен Адлер папярэджвае: праверак толькі пасля навучання ўжо недастаткова, патрэбныя механізмы зніжэння рызык яшчэ на ранніх этапах навучання.

Эксперты адзіныя ў меркаванні: паскарэнне камерцыялізацыі робіць рынак ШІ больш дынамічным, але адначасова павышае верагоднасць з’яўлення некантраляваных мадэляў. Пакуль адны топ-менеджары патрабуюць «менш фільтраў і больш функцый», спецыялісты па бяспецы заклікаюць да празрыстасці, паўнавартасных карт мадэляў і незалежных аўдытаў кожнай буйной версіі.

Microsoft адключыць доступ да API пошуку Bing і прапануе перайсці на ШІ
Microsoft адключыць доступ да API пошуку Bing і прапануе перайсці на ШІ
Па тэме
Microsoft адключыць доступ да API пошуку Bing і прапануе перайсці на ШІ
Развіццё разважаючага ШІ хутка дасягне столі лічаць эксперты
Развіццё разважаючага ШІ хутка дасягне столі, лічаць эксперты
Па тэме
Развіццё разважаючага ШІ хутка дасягне столі, лічаць эксперты
OpenAI: ШІ навучыўся самастойна генераваць новыя веды
OpenAI: ШІ навучыўся самастойна генераваць новыя веды
Па тэме
OpenAI: ШІ навучыўся самастойна генераваць новыя веды
Чытайце таксама
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
10+ сертификаций Coursera, которые помогут улучшить резюме и повысить зарплату
Бюджетный способ прокачать навыки и повысить зарплату — это профессиональный сертификат от Google, IBM или крупного зарубежного университета. На Coursera как раз можно найти десятки полезных обучающих программ по машинному обучению, проджект-менеджменту и не только. Собрали 10+ сертификаций, которые будут выигрышно смотреться в резюме как новичка, так и опытного специалиста.
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
Дизайн, VR и интернет вещей: 10 доступных онлайн-курсов от Google, Amazon и других гигантов
На платформе Coursera можно найти сотни курсов от крупных корпораций, включая Google, Amazon и HubSpot. Это отличная возможность начать новую карьеру, повысить квалификацию и просто получить плюс в профессиональную карму. Мы собрали 10 программ от ИТ-компаний, которые помогут освоить машинное обучение, UX-дизайн, продакт-менеджмент, кибербезопасность и многое другое.
Разработка роботов, дронов и робомобилей: где учат специалистов с зарплатой $100k+
Разработка роботов, дронов и робомобилей: где учат специалистов с зарплатой $100k+
Разработка роботов, дронов и робомобилей: где учат специалистов с зарплатой $100k+
Искусственный интеллект уже стал повседневностью: голосовой помощник включает музыку, робот-пылесос сканирует пространство и убирает квартиру, алгоритм ранжирования настраивает ленту в TikTok, а беспилотные такси уже свободно курсируют по городам. Получить профессию в сфере ИИ с зарплатой от $100k в год тоже стало проще — собрали 5 интересных курсов от Udacity. 
Sony не может договориться с Microsoft о продлении выпуска Call of Duty на PlayStation
Sony не может договориться с Microsoft о продлении выпуска Call of Duty на PlayStation
Sony не может договориться с Microsoft о продлении выпуска Call of Duty на PlayStation
1 каментарый

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Anonymous
Anonymous
0

и об ответственности
никто из них не думает о своей ответственности из-за "галлюцинаций"

AGI с такой моделью не будет

Карыстальнік адрэдагаваў каментарый 16 мая 2025, 20:14