OpenAI, лаборатория Илона Маска, создала «слишком хороший» алгоритм генерации текстов и не будет делиться им

Исследователи компании OpenAI создали алгоритм, который умеет генерировать достаточно убедительные фейковые новости на любую тему всего по нескольким входным словам, сообщает Engadget со ссылкой на MIT Technology Review.

Изначально исследователи планировали разработать алгоритм для ответов на вопросы, резюмирования текстов и выполнения переводов. Однако вскоре обнаружили, что получившуюся ИИ-систему можно применить в куда более опасных целях, например для массового распространения ложной информации. Поэтому команда решила открыть широкий доступ только к его ограниченной версии.

Для тренировки использовали датасет в 40 Гб, собранный на основе 8 млн популярных ссылок Reddit. На данный момент технология имеет некоторые недостатки, например ИИ часто «занимается плагиатом» и не очень хорошо справляется с незнакомыми темами, а тексты иногда получаются бессвязными. По словам исследователей OpenAI, всего через 1-2 года система научилась бы стабильно генерировать настолько естественные тексты, что разоблачить подделки было бы очень сложно.

OpenAI запустили СЕО Tesla и SpaceX Илон Маск и президент Y Combinator Сэм Альтман в 2015 году. Организация ставит целью разработку искусственного интеллекта на благо общества.