Николай Чикишев 26 апреля 2023, 14:53

Nvidia представила NeMo Guardrails — сервис против токсичности и ошибок ИИ-ботов

Компания сообщила, что сервис обеспечивает точность, актуальность и безопасность ответов чат-ботов, основанных на больших языковых моделях.

2 комментария

Nvidia представила NeMo Guardrails — сервис против токсичности и ошибок ИИ-ботов

Компания сообщила, что сервис обеспечивает точность, актуальность и безопасность ответов чат-ботов, основанных на больших языковых моделях.

Nvidia опубликовала открытый исходный код на GitHub, разработчики могут установить три типа границ. Тематические предотвращают отклонение в «нежелательные области». Границы безопаности позволяют отфильтровывать «нежелательные выражения» и гарантировать выдачу данных только из проверенных источников. Охраняющие ограничивают связь ботов со сторонними приложениями.

Представители компании уточнили, что устанавливать параметры в NeMo Guardians может любой разработчик, для этого не нужно быть «экспертом по машинному обучению или специалистом по данным». Сейчас компания является монополистом на рынке оборудования для ИИ-сферы: Nvidia поставялет 95% всех процессоров для искусственного интеллекта.