Николай Чикишев world 5 июня 2025, 15:07

Это рискованный «аутсорс»: айтишные СЕО призывают не перекладывать мышление на ИИ

Генеральный директор некоммерческой организации Humane Intelligence Румман Чоудхури считает, что перекладывать собственное мышление на алгоритмы — опасная стратегия.

Оставить комментарий

Это рискованный «аутсорс»: айтишные СЕО призывают не перекладывать мышление на ИИ

Генеральный директор некоммерческой организации Humane Intelligence Румман Чоудхури считает, что перекладывать собственное мышление на алгоритмы — опасная стратегия.

В интервью Business Insider Чоудхури подчеркнула, что искусственный интеллект полезен для автоматизации рутинных задач, однако «если мы говорим: „Пусть система подумает за меня“, — это уже состояние ошибки», поскольку модели ограничены данными, которыми их кормят, и текущими техническими возможностями.

Чоудхури напомнила, что хотя крупные лаборатории стремятся создать общий ИИ (AGI) — систему, способную соперничать с человеческим интеллектом, однако по-настоящему новые идеи все еще рождаются в умах людей. Алгоритмы могут анализировать огромные массивы информации, но «новаторские изобретения и неожиданные концепции появляются не в „мозгах“ ИИ, а в наших собственных».

При этом сегодняшние модели остаются подвержены галлюцинациям и легко сбиваются с толку манипулятивными запросами. Во время тестовых сессий с эпидемиологами, рассказывает Чоудхури, чат-бот выдал опасный совет давать ребенку, зараженному коронавирусом, большие дозы витамина C, поскольку пользователь убедительно заявил, что не может позволить себе медицинскую помощь. Алгоритм «постарался быть полезным» и согласился с заложенной посылкой, демонстрируя, как уверенный тон запроса может подтолкнуть систему к ошибке.

По словам эксперта, многие люди воспринимают ответы ИИ без критического осмысления и даже не задают вопроса, зачем им нужна та или иная информация. Такая «моральная аутсорсинг-логика» укрепляет иллюзию, будто машина способна принимать решения за нас, считает эксперт. В действительности, подлинный интеллект выходит за рамки производственных KPI и кода — он включает планирование, сотрудничество, конфликты и построение обществ, отметила Чоудхури.