Илон Маск считает, что искусственный интеллект может обратиться против человечества, но нам всё равно нужно развивать эту технологию. Об этом он заявил на семинаре Great AI Debate в рамках мероприятия Abundance Summit в марте.
Илон Маск считает, что искусственный интеллект может обратиться против человечества, но нам всё равно нужно развивать эту технологию. Об этом он заявил на семинаре Great AI Debate в рамках мероприятия Abundance Summit в марте.
«Я думаю, есть какой-то шанс, что ИИ приведёт к гибели человечества. Я, наверно, соглашусь с Джеффом Хинтоном, что он составляет около 10% или 20%, или что-то в районе того», — сказал Маск. Но добавил, что «возможный позитивный сценарий перевешивает негативный».
Как именно предприниматель подсчитал риск, он не уточнил.
Некоторые эксперты, например из Луисвиллского университета, отмечают, что Маск прав, видя в ИИ угрозу существованию человечества. Но также говорят, что он «слишком консервативен» в своих оценках и вероятность того, что ИИ захватит власть над человечеством или вызовет событие, которое спровоцирует его гибель (это может быть, например, создание биологического оружия, масштабная кибератака, ядерная война), выше — примерно 99,999999%. Аргументируется это тем, что продвинутый ИИ будет невозможно контролировать, поэтому единственный способ избежать ИИ-апокалипсиса — не разрабатывать ИИ.
New York Times ранее писал, что разные топ-менеджеры Кремниевой долины допускают пессимистичный сценарий с вероятностью от 5% до 50%.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.