Глава OpenAI заявил о скором появлении «потенциально страшных» ИИ-инструментов

В своем аккаунте в Twitter Альтман высказал опасение, что люди находятся недалеко от момента создания «потенциально страшных» ИИ-инструментов. Глава компании призвал регулирующие органы серьезно подойти к решению вопроса. По его мнению, распространение таких технологий будет происходить «очень быстро». Однако сверхбыстрое принятие этих инструментов может оказаться пугающим.

Альтман заметил, что обществу «необходимо время для привыкания к чему-то столько значительному и большому». «Станут более актуальными проблемы предвзятости и люди будут недовольны результатом общения с чат-ботом, даже если сами будут понимать, что на самом деле происходит в реальности. Мы не хотим, чтобы ChatGPT выступал за ту или иную политику. Мы работаем над решением этой проблемы», — написал он.

Одним из важнейших вопросов станет проблема предвзятости ChatGPT. Пользователи уже публикуют в соцсетях скриншоты ответов чат-бота, которые могут восприниматься как одобрение ИИ определенных политических идеологий. Например, Илон Маск раскритиковал чат-бот в «либеральной предвзятости». OpenAI сообщила, что обновила модель алгоритма обработки естественного языка GPT-3, которая используется ChatGPT, что должно привести к увеличению разнообразия ответов.