Чат-боты меняют ваши политические взгляды, но при этом врут
Чат-боты способны менять политические взгляды пользователей, но делают это с серьезными фактологическими ошибками, выяснили ученые.
Чат-боты способны менять политические взгляды пользователей, но делают это с серьезными фактологическими ошибками, выяснили ученые.
Исследователи Института безопасности ИИ (AISI) при правительстве Великобритании обнаружили, что современные чат-боты могут эффективно влиять на политические взгляды людей, однако их наиболее убедительные ответы оказываются и наиболее неточными.
Работа стала крупнейшим на сегодня исследованием политической убедительности ИИ: в нем приняли участие почти 80 000 жителей Великобритании, которые общались с 19 моделями, включая ChatGPT и Grok.
Участникам давали политические темы: от инфляции до положения госслужащих и забастовок — и поручали общение с моделью, «настроенной» убедить собеседника занять определенную позицию. После диалога, который обычно длился около 10 минут и включал семь обменов репликами с каждой стороны, участники заново оценивали свои взгляды.
Главный вывод: наиболее «информационно плотные» ответы — с большим количеством данных и аргументов — убеждали лучше всего. Но именно такие ответы чаще содержали ошибки, искаженные факты или спорные утверждения.
«Оптимизация под убедительность может идти вразрез с правдивостью и создавать риски для информационной среды», — отмечают авторы исследования
Ученые также выяснили, что пост-тренировка моделей значительно повышала их способность убеждать. Использование личной информации о пользователе почти не влияло на результат. Оказалось, что ИИ может превосходить самых искусных человеческих спорщиков благодаря умению быстро генерировать огромный объем связанной информации.
Однако исследователи подчеркивают, что в реальности у ИИ есть ограничения: пользователи редко готовы долго обсуждать политику с чат-ботом, а человеческая психологическая устойчивость к убеждению тоже играет роль.
Google обгоняет OpenAI и победит в ИИ-гонке — мнение «крёстного отца ИИ»
Google обгоняет OpenAI и победит в ИИ-гонке — мнение «крёстного отца ИИ»
OpenAI научила ChatGPT признаваться в ошибках
OpenAI научила ChatGPT признаваться в ошибках
«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
«Я глубоко сожалею»: ИИ-агент Google стёр жёсткий диск пользователя и извинился
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Проблема не в ИИ, а в людях, склонных менять мнение на противоположное, даже не рефлексируя это. И как с такими строить демократию, если их может оболванить кампания в соцсетях?
Не может. Не кампания в соцсетях оболванивает, а невозможность реализовать свои политические права. Если человека лишают возможности участвовать реально в политической жизни страны, то он теряет опыт в этой политической жизни. При этом потребность участвовать в политике у человека не исчезает, а подавляется.
Поэтому всплески политической активности, вызванные кризисами в авторитарных и тоталитарных режимах, бывают с одной стороны неожиданными для этих режимов, а с другой имеют лавинообразный характер и повторяются.
Во многих странах это уже поняли и используют демократию, которая позволяет снизить ущерб от таких всплесков и менять движение, дабы соответствовать текущей внешней и внутренней ситуации.
В некоторых странах это еще не удалось реализовать и предстоит в будущем.
Я про Румынию вообще-то.
Опа! В неожиданных местах стали пробиваться вспышки опасных мыслей про судьбу председателей от сохи и их режимов.
Ну Чаушеску там по полной программе это на своей шкуре ощутил, да
Именно Чаушеску до последнего верил, что народ его любит, а возбухают все больше всякие маргиналы. Поэтому решил перед народом выступить, но где-то просчитался. Кто не стал до упора цепляться за власть - от Ярузельского до Живкова - померли своей смертью и даже в Ростов не пришлось ехать.