Отдел новостей .BY 1 июля 2025, 09:48

Гендиректор BelHard научил OpenAI, как контролировать нейросети, чтобы не взбунтовались. Это беларусская разработка

Глава BelHard Игорь Мамоненко в рамках майского ИИ-форума в Москве выступал на тему «контроля хаотичного поведения нейросетей».

3 комментария

Гендиректор BelHard научил OpenAI, как контролировать нейросети, чтобы не взбунтовались. Это беларусская разработка

Глава BelHard Игорь Мамоненко в рамках майского ИИ-форума в Москве выступал на тему «контроля хаотичного поведения нейросетей».

Он отметил, что с развитием ИИ всё острее становится проблема непредсказуемости и потенциальной опасности автономных нейронных сетей.

«Современные ИИ-модели способны к самообучению и адаптации, что делает их мощным инструментом, но одновременно порождает риски, связанные с некорректными выводами, отклонением от заданных целей и даже угрозой бунта системы против человека. Решением этой проблемы может стать внедрение семантического „кокона“, обеспечивающего логический контроль над действиями нейросети. Одной из наиболее перспективных платформ для реализации такого подхода является технология OSTIS (Open Semantic Technology for Intelligent Systems)», — отметил Мамоненко.

По его словам, нейросети показывают выдающиеся успехи в распознавании образов, машинном переводе, прогнозировании и принятии решений. Но они имеют фундаментальные недостатки, например даже разработчикам сложно интерпретировать их внутренние процессы, они могут давать разные выходы при одинаковых входных, принимать решения, противоречащие здравому смыслу, и галлюцинировать, а также могут взбунтоваться против человека. Всё это может привести к ошибкам с катастрофическими последствиями.

Решение этих проблем Мамоненко видит в гибридных ИИ-системах, которые сочетают нейросетевые модели и формализованные семантические технологии.

Такие системы состоят из двух компонентов:

нейронной части, которая отвечает за обработку данных, обучение и адаптацию;
семантической части, которая обеспечивает проверку логической корректности выводов, контролирует соответствие установленным целям и правилам.

При такой архитектуре создаётся семантический кокон, который окружает нейросеть и предотвращает выход за рамки заданных норм. В таких «наручниках» нейросеть не может повлиять на семантическую часть ни через переобучение, ни через попытки самопрограммирования, и её поведение полностью контролируемо.

Технология OSTIS, разработанная беларусскими учёными, исключает неопределённость, свойственную нейросетям, позволяет человеку понимать, почему было принято то или иное решение, гибко интегрируется с внешними модулями вроде экспертных систем и баз данных, обеспечивает масштабируемость и интероперабельность, то есть возможность объединять разнородные нейросети в единую систему для решения комплексных задач.

Ранее Мамоненко отмечал, что «в настоящий момент аналогов OSTIS в мире нет, и именно мы сможем стать защитником человечества». Он обещал в скором времени опубликовать результаты испытаний.

Технология уже применяется в различных областях, включая медицину, образование, право, робототехнику, логистику и другие. «OSTIS — это не просто платформа, а шаг к решению одной из глобальных проблем XXI века: безопасного сосуществования человека и автономного искусственного интеллекта», — заключает гендиректор BelHard.