Компании, которые помогают OpenAI обучать ChatGPT, увольняют сотрудников за использование нейросетей в работе. Подрядчики должны самостоятельно оценивать ответы модели, но некоторые поручают эти задачи ИИ, выяснило издание 404 Media.
Компании, которые помогают OpenAI обучать ChatGPT, увольняют сотрудников за использование нейросетей в работе. Подрядчики должны самостоятельно оценивать ответы модели, но некоторые поручают эти задачи ИИ, выяснило издание 404 Media.
Подрядчики участвуют в разных проектах OpenAI, в том числе Project Lily . В рамках этого проекта люди читают реальные запросы и диалоги пользователей ChatGPT, оценивают ответы модели и указывают на недостатки — например, чрезмерную лесть или попытки чат-бота представить себя человеком. Согласно одному из внутренних документов, в отдельных проектах могут участвовать более 10 тысяч исполнителей.
Использовать ИИ для такой работы запрещено. В инструкциях для проверяющих отдельно упоминаются ChatGPT, Grammarly, ИИ-переводчики и сервисы обнаружения сгенерированного текста, включая GPTZero. Последние компания считает ненадежными. Вместо них проверяющим советуют обращать внимание на повторяющиеся формулировки, характерную пунктуацию и подозрительно высокую скорость выполнения заданий.
«Люди постоянно используют ИИ, и их постоянно за это увольняют. По сути, это единственное, за что вас могут немедленно отстранить от проекта», — рассказал один из подрядчиков. По его словам, среди тысяч работников выявили множество нарушителей.
Один из собеседников издания признался, что сам использовал ИИ и лишился работы. Он показал журналистам письмо об увольнении: работодатель обнаружил проблемы с «подлинностью» выполненных заданий.
«Я не плохой человек и не плохой работник. Мне просто нужна была небольшая помощь, и я обратился к ИИ. В конце концов это привело к моему падению», — сказал бывший подрядчик. Он добавил, что работа не приносила ему удовлетворения и он не чувствовал, что делает что-то полезное для общества.
Компания Mercor, которая нанимает специалистов для работы над моделями OpenAI, подтвердила изданию запрет на использование больших языковых моделей. Ее представитель заявил, что подрядчиков нанимают ради их собственных знаний и суждений, а при подтверждении нарушения немедленно отстраняют от проекта.
Журналисты также поговорили с другим подрядчиком, работавшим над моделями разных ИИ-компаний. Он рассказал, что иногда намеренно выбирал худшие ответы модели или оценивал их случайным образом, чтобы ухудшить результаты обучения. Насколько заметно его действия повлияли на модели, он не знает.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.