Microsoft открыла инструментарий lnterpretML, который призван решить проблему «чёрного ящика» ИИ, пишет Venturebeat.
InterpretML помогает разработчикам экспериментировать с различными способами объяснения выходных значений ИИ-моделей и систем. Сейчас на GitHub доступна альфа-версия InterpretML.
По мнению Microsoft, объяснимость результатов ИИ-систем позволит разработчикам выбирать более подходящие методы тренировки алгоритмов и сравнивать их.
Возможность интерпретировать прогнозы систем искусственного интеллекта приобретает важную роль, так как ИИ начинает всё интенсивнее внедряться в такие сферы, как юриспруденция и здравоохранение.
«Доверие людей, принимающих решения, к моделям в основе интеллектуальных систем, повысит качество этих решений. Лучше понимая модели, конечные пользователи будут с большей готовностью принимать ИИ-продукты и решения», — отметила Microsoft в блоге.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.