Mistral адкрыла вагі сваёй найбуйнейшай ШІ-мадэлі — кампаніі змогуць запускаць яе самастойна
Кампанія адкрыла сваю флагманскую мадэль Mistral Large 4 для спампоўкі і самастойнага разгортвання. Асаблівую ўвагу распрацоўшчыкі надалі праграмаванню і кібербяспецы.
Кампанія адкрыла сваю флагманскую мадэль Mistral Large 4 для спампоўкі і самастойнага разгортвання. Асаблівую ўвагу распрацоўшчыкі надалі праграмаванню і кібербяспецы.
Мадэль пад неафіцыйнай назвай Le Chonk упершыню прадставілі 6 кастрычніка, аднак тады яна была даступная толькі праз API. Цяпер кампанія апублікавала яе вагі на Hugging Face.
Гэта дазваляе кампаніям і дзяржаўным арганізацыям запускаць мадэль на ўласнай інфраструктуры, адаптаваць яе пад свае задачы і працаваць з канфідэнцыйнымі дадзенымі без перадачы іх староннему правайдэру.
Mistral Large 4 змяшчае каля 1 трыльёна параметраў, з якіх пры апрацоўцы кожнага токена актывуецца прыкладна 52 мільярды. Мадэль падтрымлівае тэкст і выявы, а яе кантэкставае акно дасягае 1 мільёна токенаў.
У рэйтынгу Artificial Analysis Coding Agent Index яна набрала 48 балаў, практычна параўняўшыся з кітайскай GLM-5.3, у якой 49 балаў. Пры гэтым Mistral Large 4 спажывае ў сярэднім на 47% менш токенаў пры выкананні тэставых задач.
У іншым тэсце, Terminal-Bench 4.0, вынік мадэлі вырас з 28% да 41%. Паводле дадзеных Mistral, гэтага ўдалося дасягнуць адначасова са зніжэннем расходу выходных токенаў на 30%.
Яшчэ адзін важны напрамак — кібербяспека. Mistral Large 4 умее знаходзіць уразлівасці ў кодзе, правяраць іх і прапаноўваць выпраўленні. У незалежным Artificial Analysis Cyber Index мадэль набрала 51 бал, увайшоўшы ў лік лідараў сярод сістэм з адкрытымі вагамі.
Кампанія сцвярджае, што мадэль здольная адрозніваць легітымныя задачы ў абароне сістэм ад шкоднасных запытаў. У ўнутраных тэстах яна адхіляла 96,6% небяспечных запытаў, звязаных з кібератакамі.
Ідэя рэлізу — прадаставіць бізнесу магчымасць самастойна кантраляваць ШІ-інструменты. Напрыклад, спецыялісты ў кібербяспецы змогуць выкарыстоўваць мадэль для рэагавання на інцыдэнты ўнутры ўласнай інфраструктуры без спадзяванняў на даступнасць знешняга API.
Вагі Mistral Large 4 распаўсюджваюцца па мадыфікаванай ліцэнзіі MIT. Яна дае магчымасць бясплатна выкарыстоўваць, змяняць і камерцыялізаваць мадэль. Аднак кампаніям, якія прадастаўляюць доступ да мадэляў як асобнай паслугі (Model-as-a-Service), у пэўных выпадках трэба дадатковае камерцыйнае пагадненне.
Мадэль таксама даступная праз API па цане $0,70 за мільён уваходных і $2,10 за мільён выходных токенаў. Для самастойнага запуску можна выкарыстоўваць vLLM або SGLang.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.