Глава Google DeepMind призвал разработчиков ИИ не повторять ошибки соцсетей
Гендиректор Google DeepMind Демис Хассабис призвал ИИ-компании не повторять ошибок, которые допустили социальные сети на старте своего развития. Во время выступления на саммите Athens Innovation Summit в Греции он заявил, что ИИ является одной из самых трансформационных технологий в истории, но его внедрение требует куда более осторожного подхода, чем любимый девиз Кремниевой долины «move fast and break things».
«Мы должны извлечь уроки из социальных сетей, где этот подход — „двигайся быстро и ломай вещи“ — использовался без понимания того, какими окажутся вторичные и третичные последствия», — сказал он.
Хассабис предупредил, что если разработчики ИИ, как и соцсетей, будут прежде всего стремиться максимизировать вовлечённость пользователей, это приведёт к тем же проблемам: от нарушения концентрации внимания до ухудшения психического здоровья.
По его словам, алгоритмы соцсетей стремятся «захватить всё больше и больше вашего внимания», не заботясь, что это может вам навредить. В случае ИИ риски выше, поскольку его влияние затронет сразу целые индустрии и общества.
Вместо этого Хассабис призвал строить разработку ИИ по научному методу — тщательно тестировать и изучать системы, прежде чем раскатывать их на миллиарды пользователей. Он подчеркнул, что ИИ должен быть инструментом, который служит людям, а не манипулирует ими.
Хассабис добавил, что нужно найти правильный баланс — «смело использовать возможности, но ответственно управлять рисками». И балансировать придётся «до момента появления общего ИИ».
Читать на dev.by