Сотрудники Amazon используют внутренний ИИ-инструмент для выполнения абсолютно бессмысленных задач. Все ради того, чтобы искусственно завысить показатели использования нейросетей, которые мониторит руководство, пишет Financial Times.
Сотрудники Amazon используют внутренний ИИ-инструмент для выполнения абсолютно бессмысленных задач. Все ради того, чтобы искусственно завысить показатели использования нейросетей, которые мониторит руководство, пишет Financial Times.
Недавно компания массово внедрила продукт под названием MeshClaw. Это сервис для создания ИИ-агентов, которые могут подключаться к рабочему софту и выполнять задачи за человека — например, отвечать в Slack, разбирать почту или деплоить код. Но вместо реальной оптимизации процессов часть сотрудников стала использовать MeshClaw для генерации показной активности. Внутри компании стоит цель, чтобы более 80% разработчиков использовали ИИ еженедельно, а потребление токенов теперь отслеживается на специальных лидербордах.
Сотрудники признаются, что давление со стороны менеджмента стало слишком сильным. Хотя официально Amazon заявляет, что статистика по токенам не влияет на оценку производительности, в реальности менеджеры внимательно следят за цифрами. Это породило явление, которое в Кремниевой долине уже прозвали «токенмаксингом». Когда использование технологий превращается в соревнование, люди начинают автоматизировать даже то, что в автоматизации не нуждается, лишь бы подняться в рейтинге и показать приверженность новому курсу компании. Похожая ситуация, кстати, наблюдается и в Meta.
Для Amazon это вопрос больших денег: в этом году компания планирует потратить около $200 млрд на капитальные расходы, большая часть которых пойдёт на ИИ и инфраструктуру дата-центров. Руководству нужно демонстрировать отдачу от инвестиций и доказывать, что нейросети глубоко внедрены в повседневную работу.
При этом у самих инженеров MeshClaw вызывает не только иронию, но и опасения. Инструмент позиционируется как суперпомощник, который «спит по ночам, закрепляя изученное», и мониторит деплои, пока спит юзер. Однако многие разработчики боятся давать агенту права действовать от своего имени. Безопасность системы, работающей по умолчанию с такими широкими доступами, пугает профессионалов: никто не хочет, чтобы ИИ-агент случайно снёс продакшен или отправил коллегам что-то лишнее, пока инженер отдыхает.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.