Эксперты по искусственному интеллекту предупреждают о нарастающем риске «knowledge collapse» — глобального обеднения человеческого знания, вызванного тем, что поколения ИИ обучаются на все более узком и однообразном цифровом контенте.
Эксперты по искусственному интеллекту предупреждают о нарастающем риске «knowledge collapse» — глобального обеднения человеческого знания, вызванного тем, что поколения ИИ обучаются на все более узком и однообразном цифровом контенте.
The Guardian отмечает, что современные ИИ-модели обучаются преимущественно на англоязычных и западных источниках, игнорируя огромные пласты традиционных знаний, особенно в странах Азии, Африки и Латинской Америки.
Из 7 000 живых языков мира около 97% считаются «низкоресурсными» с точки зрения технологий: они почти отсутствуют в крупнейших датасетах, а многие представляют лишь сотые доли процента общего объема данных.
Ученые называют это системной проблемой: культурные традиции, устные практики, локальная экология, аграрные знания и медицинские подходы — все, что веками передавалось вне текстов — фактически исчезает из цифрового пространства, а значит, и из ИИ-моделей, которые становятся основным способом получения информации для миллионов людей.
Эффект усиливается тем, что новые модели обучаются все больше на данных, которые сами же ИИ и генерируют, создавая замкнутую петлю. Исследователи называют это «обрушением знаний»: редкие, локальные и малотиражные системы понимания мира постепенно вытесняются повторением одного и того же доминирующего набора идей.
Эксперты предупреждают, что последствия могут быть глобальными: от утраты традиционных экологических и архитектурных практик до ошибок в системах рекомендаций для фермеров или врачей. «Мы рискуем построить будущее, в котором ИИ будет все более уверен в своих ответах, но все менее связан с реальностью и разнообразием человеческого опыта», — отмечают исследователи.
Специалисты подчеркивают: проблему невозможно решить простым добавлением большего количества данных. Она требует переосмысления того, как создаются и валидируются знания, чьи голоса считаются авторитетными и какие системы знаний признаются «достойными» попадания в цифровое пространство.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.