Руководители OpenAI призвали не стремиться к полной автоматизации мира с помощью ИИ. В совместном блогпосте гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что они «отчётливо понимают риски», связанные с ИИ, несмотря на все его преимущества для продуктивности.
Руководители OpenAI призвали не стремиться к полной автоматизации мира с помощью ИИ. В совместном блогпосте гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что они «отчётливо понимают риски», связанные с ИИ, несмотря на все его преимущества для продуктивности.
«Полная автоматизация абсолютно всего — это не то будущее, которого мы хотим. Это было бы пустым и опасным», — отметили авторы.
Топ-менеджеры подчеркнули, что ИИ-системы должны быть безопасными и находиться под контролем человека. По их мнению, по мере роста возможностей нейросетей человеческие роли будут становиться только важнее: именно за людьми должны оставаться «определение направлений, поиск компромиссов, вынесение суждений, а также привнесение в работу ценностей, вкуса, заботы и ответственности».
Это заявление прозвучало на фоне всеобщего бума вокруг агентного ИИ, который способен выполнять сложные рабочие процессы с минимальным участием человека. Сейчас OpenAI и Anthropic активно ведут борьбу за корпоративных клиентов для своих ИИ-платформ для кодинга в преддверии грядущих IPO обеих компаний.
Манифест OpenAI вышел менее чем через неделю после аналогичного предупреждения от их главного конкурента. В публикации Anthropic один из сотрудников признался, что уже сейчас не успевает за процессами автоматизации и теряется, когда ИИ-системы совершают ошибки. В итоге Anthropic официально призвала замедлить темпы разработки ИИ, чтобы «дать возможность социальным структурам и исследованиям в области безопасности успевать за технологиями».
В пользу сохранения человеческого контроля высказываются и главы других крупных компаний. Глава Salesforce Марк Бениофф заверил, что компания не планирует сокращать наём в отдел продаж. Гендиректор Duolingo Луис фон Ан отметил, что его ведущие дизайнеры работают гораздо лучше нейросетей. «В каких-то вещах ИИ уже способен делать работу высококачественно. В каких-то — просто нет. Мы не собираемся снижать качество только ради того, чтобы использовать ИИ», — заявил он.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.