Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.
Американский семиклассник из Лос-Анджелеса Лазарь Симмонс «хакнул» алгоритм оценки на образовательной площадке Edgenuity, которую его школа использует для удалённой учёбы в период коронавируса. Чтобы получать отличные отметки, достаточно в рандомном порядке вводить в поле ответа ключевые слова по пройденной теме, сообщает The Verge.
Лазаря очень расстроил результат в одном из тестов по истории — он набрал лишь 50%. Мама подростка Дана попыталась подбодрить его, но потом заметила, что знания детей на Edgenuity оценивает не живой учитель, а алгоритм, поскольку сайт выдаёт отметку меньше чем за секунду после отправки ответа.
Женщина проанализировала «правильные ответы» на другие вопросы, которые система раскрывала в конце проверки. Оказалось, что AI просто ищет в тексте ответов ключевые слова, и исходя из этого подсчитывает баллы. Симмонс посоветовала сыну отвечать развёрнуто, вставляя максимум имён собственных, и стараться копировать ответы, которые «ожидает» система. Результативность Лазаря выросла до 80%.
Но 12-летний мальчик пошёл дальше: он решил писать по два полных предложения, а потом в произвольном порядке — набор главных слов из обучающих материалов. По словам матери, ребёнок стал получать высший балл по всем тестам.
Algorithm update. He cracked it: Two full sentences, followed by a word salad of all possibly applicable keywords. 100% on every assignment. Students on @EdgenuityInc, there’s your ticket. He went from an F to an A+ without learning a thing.
— Dana Simmons (@DanaJSimmons) September 2, 2020
В серии твитов Симмонс, которая является профессором истории, ставит под сомнение эффективность оценки успеваемости детей искусственным интеллектом. По её мнению, автоматизированные алгоритмы могут оказать более разрушительное воздействие на психику детей, чем кажется, и уничтожить их уверенность в себе.
Edgenuity содержит более 300 уроков для средней и старшей школы по разным школьным предметам и факультативам, а также видеолекции, задания, тесты и экзамены. Платформа никак не прокомментировала ситуацию с оценками. На сайте говорится, что по некоторым вопросам, если ответ ученика не содержит ни одного ключевого слова, система может не засчитать его вообще, или же дать 100%, если есть хотя бы одно такое слово.
Похожим методом пользовался ещё один школьник, который учился по Edgenuity несколько лет назад. Он рассказывает, что иногда, когда вообще не разбирался в теме, вводил только ключевые слова, и чаще всего это срабатывало.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.