Nvidia паказала NeMo Guardrails — сэрвіс супраць таксічнасці і памылак АІ-ботаў
Кампанія паведаміла, што сэрвіс забяспечвае дакладнасць, актуальнасць і бяспеку адказаў чат-ботаў, заснаваных на вялікіх моўных мадэлях.
Nvidia апублікавала адкрыты зыходны код на GitHub, распрацоўшчыкі могуць усталяваць тры тыпы межаў. Тэматычныя прадухіляюць адхіленне ў «непажаданыя вобласці». Межы бяспекі дазваляюць адфільтроўваць «непажаданыя выразы» і гарантаваць выдачу даных толькі з правераных крыніц. Ахоўныя абмяжоўваюць сувязь ботаў з іншымі праграмамі.
Прадстаўнікі кампаніі ўдакладнілі, што ўсталёўваць параметры ў NeMo Guardians можа любы распрацоўшчык, для гэтага не трэба быць «экспертам у машынным навучанні або спецыялістам у даных». Цяпер кампанія з’яўляецца манапалістам на рынку абсталявання для АІ-сферы: Nvidia пастаўляе 95% усіх працэсараў для штучнага інтэлекту.
Читать на dev.by