Microsoft открыла инструментарий lnterpretML для лучшего понимания ИИ

Microsoft открыла инструментарий lnterpretML, который призван решить проблему «чёрного ящика» ИИ, пишет Venturebeat.

InterpretML помогает разработчикам экспериментировать с различными способами объяснения выходных значений ИИ-моделей и систем. Сейчас на GitHub доступна альфа-версия InterpretML.

По мнению Microsoft, объяснимость результатов ИИ-систем позволит разработчикам выбирать более подходящие методы тренировки алгоритмов и сравнивать их.

Возможность интерпретировать прогнозы систем искусственного интеллекта приобретает важную роль, так как ИИ начинает всё интенсивнее внедряться в такие сферы, как юриспруденция и здравоохранение.

«Доверие людей, принимающих решения, к моделям в основе интеллектуальных систем, повысит качество этих решений. Лучше понимая модели, конечные пользователи будут с большей готовностью принимать ИИ-продукты и решения», — отметила Microsoft в блоге.