Компания убрала часть своих ИИ-сводок о здоровье после того, как расследование The Guardian показало, что некоторые из них содержали опасную и вводящую в заблуждение информацию.
Компания убрала часть своих ИИ-сводок о здоровье после того, как расследование The Guardian показало, что некоторые из них содержали опасную и вводящую в заблуждение информацию.
Речь идет о функции AI Overviews — автоматически сгенерированных кратких справках, которые появляются вверху поисковой выдачи и должны быстро отвечать на вопросы пользователей. Компания ранее называла эти сводки «полезными и надежными», однако в ряде случаев они содержали ошибки в медицинской информации.
В одном из примеров, который эксперты назвали «опасным» и «тревожным», AI Overviews выдавали некорректные данные о нормальных показателях печеночных проб. По словам специалистов, такие ответы могли привести к тому, что люди с серьезными заболеваниями печени ошибочно считали бы свои анализы нормальными и не обращались за медицинской помощью.
После обращения журналистов Google отключила AI Overviews по запросам «what is the normal range for liver blood tests» и «what is the normal range for liver function tests». В компании заявили, что не комментируют отдельные случаи удаления, но подчеркнули, что работают над улучшением качества сводок и принимают меры в рамках своих правил.
В то же время эксперты отмечают, что проблема полностью не решена. При незначительных изменениях формулировки запроса — например, «LFT (Liver Function Test) reference range» — AI-сводки продолжают появляться. Представители благотворительных и пациентских организаций предупреждают, что такие ответы по-прежнему могут быть неточными, упрощать сложные медицинские вопросы и создавать ложное чувство безопасности.
По словам специалистов, интерпретация результатов печеночных тестов требует учета множества факторов — от типа анализа до индивидуальных особенностей пациента, — чего AI Overviews не делают. Кроме того, сводки не предупреждают, что нормальные показатели анализов возможны даже при наличии серьезного заболевания.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.