Слишком быстрое развитие ИИ вызвало беспокойство, что однажды он станет сильнее людей, а его цели разойдутся с нашими — и тогда он будет угрожать существованию цивилизации. Сооснователь DeepMind, ИИ-подразделения Google, Мустафа Сулейман в недавнем интервью MIT Technology Review предложил способ избежать фатального развития событий.
Слишком быстрое развитие ИИ вызвало беспокойство, что однажды он станет сильнее людей, а его цели разойдутся с нашими — и тогда он будет угрожать существованию цивилизации. Сооснователь DeepMind, ИИ-подразделения Google, Мустафа Сулейман в недавнем интервью MIT Technology Review предложил способ избежать фатального развития событий.
По мнению предпринимателя, для этого разработчикам достаточно лишить ИИ некоторых базовых способностей. Например, к самосовершенствованию.
«Нельзя позволять искусственному интеллекту самостоятельно обновлять свой код без вашего контроля», — считает Сулейман. Он допустил, что эту деятельность можно даже лицензировать — как работу с возбудителями сибирской язвы или ядерными материалами.
Также исследователь считает, что в этом контексте важно обозначить допустимые границы использования персональных данных искусственным интеллектом.
«Речь идёт об установлении границ, лимитов, которые ИИ не должен переходить», — говорит Сулейман. Также эти границы должны обеспечивать безопасность на всех этапах работы ИИ: от собственно программного кода до взаимодействия с другими ИИ-системами и людьми, а также мотивов и целей компаний-разработчиков.
В целом Сулейман считает, что ИИ-сферу можно эффективно регулировать, и не верит в сценарий с уничтожением людей. По его словам, перед нами сегодня стоит множество более практических вопросов в области искусственного интеллекта, включая приватность, предвзятости, распознавание лиц и модерацию ИИ-контента в сети.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
За все хорошее, против всего плохого.
https://devby.io/news/v-google-rabotaut-desyatki-byvshih-agentov-tsru-1659258492
Кому как не улыбчивым праням из ЦРУ, затравливающим собаками похищенных в гуантанамо без суда и следствия арабов, доверять в этических нормах, спасающихся цивилизацию.
Улыбчивый парень не хочет за военный контракт пояснить?:
www.cnbc.com/amp/2018/05/30/new-york-times-digital-how-a-pentagon-contract-became-an-identity-crisis-for-google.html
"считает, что ИИ-сферу можно эффективно регулировать, и не верит в сценарий с уничтожением людей"
Именно поэтому на их гранты создают робособак с искусственным интеллактом, с прикрученными на них пулемётами?
Зачем тогда такие законодательные акты принимать?:
https://www.law.virginia.edu/news/202212/killer-robots-have-been-approved-fight-crime-what-are-legal-ethical-concerns
Просто хотят конкурентам из других стран процесс разработки замедлить. Чтоб потом граждане этих стран вместо разработанных роботов на поле боя умирали.
Пользователь отредактировал комментарий 21 сентября 2023, 18:32
Да ну, бред. Все равно найдется тот кто даст эту возможность и как итог он победит в гонки по ИИ.