Один из ведущих исследователей в области машинного обучения Андрей Карпатый заявил, что в ряде направлений разработки искусственного интеллекта главным ограничением прогресса становятся сами люди.
Один из ведущих исследователей в области машинного обучения Андрей Карпатый заявил, что в ряде направлений разработки искусственного интеллекта главным ограничением прогресса становятся сами люди.
По его словам, современные автономные агенты уже способны находить оптимальные решения быстрее и системнее, чем инженеры-исследователи.
Карпатый привел пример собственного опыта работы с обучением модели GPT-2. Он рассказал, что в течение нескольких месяцев вручную настраивал параметры тренировки, однако после того как передал задачу автономному агенту всего на одну ночь, система обнаружила «тонкие настройки», которые он сам упустил.
Эти изменения, по его словам, взаимодействовали друг с другом сложным образом, что человеку сложно отследить интуитивно, но сравнительно легко выявить при автоматизированном переборе.
«Чтобы максимально использовать доступные сегодня инструменты, нужно убрать себя как узкое место процесса. Нельзя постоянно стоять между системой и следующими шагами», — отметил Карпатый.
Эксперт добавил, что исследователи в крупных ИИ-лабораториях часто переоценивают собственную интуицию, тогда как сама логика развития технологий ведет к постепенной автоматизации их работы. «Фактически мы системно автоматизируем сами себя — и это, по сути, наша же заявленная цель», — сказал он.
При этом исследователь заявил, что быстрый прогресс ИИ особенно заметен в задачах, где результат легко проверить количественно — например, в программировании или оптимизации моделей. Однако перенос этих достижений на более «мягкие» и трудно измеримые области, такие как креативные или стратегические решения, может оказаться гораздо сложнее. «Все, что кажется менее формализуемым, работает хуже», — пояснил Карпатый.
По его мнению, ближайшие этапы развития индустрии будут связаны не только с улучшением самих моделей, но и с перестройкой роли исследователей, которые все чаще будут выступать не в роли непосредственных разработчиков, а как архитекторы процессов и менеджеры автономных систем.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Астанавицесь