Это рискованный «аутсорс»: айтишные СЕО призывают не перекладывать мышление на ИИ
Генеральный директор некоммерческой организации Humane Intelligence Румман Чоудхури считает, что перекладывать собственное мышление на алгоритмы — опасная стратегия.
Генеральный директор некоммерческой организации Humane Intelligence Румман Чоудхури считает, что перекладывать собственное мышление на алгоритмы — опасная стратегия.
В интервью Business Insider Чоудхури подчеркнула, что искусственный интеллект полезен для автоматизации рутинных задач, однако «если мы говорим: „Пусть система подумает за меня“, — это уже состояние ошибки», поскольку модели ограничены данными, которыми их кормят, и текущими техническими возможностями.
Чоудхури напомнила, что хотя крупные лаборатории стремятся создать общий ИИ (AGI) — систему, способную соперничать с человеческим интеллектом, однако по-настоящему новые идеи все еще рождаются в умах людей. Алгоритмы могут анализировать огромные массивы информации, но «новаторские изобретения и неожиданные концепции появляются не в „мозгах“ ИИ, а в наших собственных».
При этом сегодняшние модели остаются подвержены галлюцинациям и легко сбиваются с толку манипулятивными запросами. Во время тестовых сессий с эпидемиологами, рассказывает Чоудхури, чат-бот выдал опасный совет давать ребенку, зараженному коронавирусом, большие дозы витамина C, поскольку пользователь убедительно заявил, что не может позволить себе медицинскую помощь. Алгоритм «постарался быть полезным» и согласился с заложенной посылкой, демонстрируя, как уверенный тон запроса может подтолкнуть систему к ошибке.
По словам эксперта, многие люди воспринимают ответы ИИ без критического осмысления и даже не задают вопроса, зачем им нужна та или иная информация. Такая «моральная аутсорсинг-логика» укрепляет иллюзию, будто машина способна принимать решения за нас, считает эксперт. В действительности, подлинный интеллект выходит за рамки производственных KPI и кода — он включает планирование, сотрудничество, конфликты и построение обществ, отметила Чоудхури.
В Каннах показали первый ИИ-фильм, созданный в режиме реального времени
В Каннах показали первый ИИ-фильм, созданный в режиме реального времени
CEO Google: мы будем наращивать штат программистов, несмотря на ИИ
CEO Google: мы будем наращивать штат программистов, несмотря на ИИ
Meta планирует перейти на генерацию рекламы полностью ИИ
Meta планирует перейти на генерацию рекламы полностью ИИ
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.