Google убрала опасные ИИ-советы о здоровье из поисковика

Речь идет о функции AI Overviews — автоматически сгенерированных кратких справках, которые появляются вверху поисковой выдачи и должны быстро отвечать на вопросы пользователей. Компания ранее называла эти сводки «полезными и надежными», однако в ряде случаев они содержали ошибки в медицинской информации.

В одном из примеров, который эксперты назвали «опасным» и «тревожным», AI Overviews выдавали некорректные данные о нормальных показателях печеночных проб. По словам специалистов, такие ответы могли привести к тому, что люди с серьезными заболеваниями печени ошибочно считали бы свои анализы нормальными и не обращались за медицинской помощью.

После обращения журналистов Google отключила AI Overviews по запросам «what is the normal range for liver blood tests» и «what is the normal range for liver function tests». В компании заявили, что не комментируют отдельные случаи удаления, но подчеркнули, что работают над улучшением качества сводок и принимают меры в рамках своих правил.

В то же время эксперты отмечают, что проблема полностью не решена. При незначительных изменениях формулировки запроса — например, «LFT (Liver Function Test) reference range» — AI-сводки продолжают появляться. Представители благотворительных и пациентских организаций предупреждают, что такие ответы по-прежнему могут быть неточными, упрощать сложные медицинские вопросы и создавать ложное чувство безопасности.

По словам специалистов, интерпретация результатов печеночных тестов требует учета множества факторов — от типа анализа до индивидуальных особенностей пациента, — чего AI Overviews не делают. Кроме того, сводки не предупреждают, что нормальные показатели анализов возможны даже при наличии серьезного заболевания.