Нейросеть научилась определять расу людей по ренгтену легких. И никто не понимает как

Ученые пока не понимают, как это происходит: алгоритмы не опираются ни на диагноз, ни на индекс массы тела, ни на плотность костей. Однако они выдают правильный результат даже на основе старых и некачественных изображений. Необычную способность ИИ подтвердил анализ 200 тысяч людей разных рас, возраста и пола.

По мнению исследователей, алгоритм может видеть какие-то неизвестные науке признаки меланина. Этот пигмент отвечает на цвет кожи. Умение искусственного интеллекта определять расу само по себе может быть незначительным, однако ученые предполагают, что это может привести к дискриминации и предубеждениям. Если алгоритмы точно знают расу пациента и склонны на ее основе ставить диагноз, то предположительно вырастет число врачебных ошибок.