ИИ может нас убить. Но сначала поможет неплохо сэкономить на новой страховке. Интересная колонка вышла у Business Insider: это напоминание о том, что за любыми нарративами ИТ-компаний стоят скрытые интересы авторов. А не ваши.
ИИ может нас убить. Но сначала поможет неплохо сэкономить на новой страховке. Интересная колонка вышла у Business Insider: это напоминание о том, что за любыми нарративами ИТ-компаний стоят скрытые интересы авторов. А не ваши.
Примерно так, как в примере выше, выглядит дискуссия об ИИ в техномире последние несколько недель. С одной стороны — люди, предупреждающие об угрозе технологии для человечества, а с другой — те, кто рассказывает, как персональные ИИ-ассистенты уже меняют повседневную жизнь.
В начале месяца из Anthropic ушёл исследователь со словами о том, что ИИ-лаборатории играют с нашими жизнями, — и запустил новую волну разговоров о разговоров о грядущей катастрофе. Позже глава Anthropic Дарио Амодеи, CEO OpenAI Сэм Альтман и глава xAI Илон Маск согласились, что разработку ИИ стоит координированно замедлить.
Но внимание тут же переключилось на противоположную сторону. Пользователи стали наперебой хвалить персональных ИИ-ассистентов, например Instinct и Muse от Meta. ИИ внезапно не кажется таким страшным, если с помощью него можно, например, выгодно купить костюм на хэллоуин.
Практически одновременно стали широко обсуждаться два диаметрально противоположных образа будущего: ИИ нас уничтожит и ИИ сделает нашу жизнь лучше. Издание напоминает, что эти сообщения исходят от разных групп, у которых есть свои интересы.
ИИ-индустрия воспринимается как единый организм, но на самом деле внутри неё множество игроков с разными и порой конкурирующими целями.
Показательно, что чуть ли не громче всех об угрозе ИИ кричат компании, которые сами разрабатывают мощнейшие модели. И время, в которое они начали призывать к замедлению, тоже трудно игнорировать.
Anthropic и OpenAI — одни из главных сторонников осторожного подхода — стремятся заявить о себе в преддверии выхода на биржу.
Крупнейшим ИИ-компаниям координация темпов разработки даёт вполне конкретные преимущества. Это возможность влиять на будущие правила игры и формировать регулирование в удобном для себя направлении. Кроме того, замедление поможет оправдаться, если реальные возможности моделей окажутся скромнее обещаний и ожиданий.
Когда участники гонки договариваются ехать на одной скорости, это особенно выгодно тем, кто уже впереди. А компаниям в роли догоняющих такая договорённость наоборот может мешать.
У тех, кто активно продвигает ИИ в повседневной жизни, тоже есть собственные интересы.
Один из главных примеров — Марк Цукерберг. Ещё до новой волны разговоров об ИИ-апокалипсисе глава Meta активно рассказывал о преимуществах технологии. В прошлом месяце он опубликовал эссе под названием «Будущее принадлежит всем», где нарисовал весьма оптимистичную картину мира с ИИ.
В тот момент индустрия переживала очередной репутационный кризис из-за недовольства строительством дата-центров. Теперь же создаётся впечатление, что Цукерберг заодно готовил аудиторию к запуску собственного продукта.
Для Meta Muse — ещё и очередной этап многолетней попытки Цукерберга создать платформу-посредника между обычными пользователями и компаниями, пытающимися до них достучаться. Это очень ценная позиция: тот, кто приходит первым, получает возможность устанавливать свои правила. Поэтому неудивительно, что пока другие предлагают сбавить скорость, Цукерберг готов жать на газ.
Коммерческие интересы тех, кто предупреждает об угрозах ИИ, и тех, кто продаёт аудитории его преимущества, сами по себе не лишают основы их аргументы. ИИ действительно несёт серьёзные риски, если его развитие оставить без контроля. Но одновременно технология может принести огромную пользу.
Главное, отмечает издание, — это учитывать обе стороны и, что ещё важнее, понимать, кто и зачем формирует наше восприятие ИИ и будущего с ним.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.