ШІ-пашукавік Google даваў небяспечныя парады аб здароўі — кампанію прымусілі іх выдаліць

Гаворка ідзе пра функцыю AI Overviews — аўтаматычна створаных кароткіх даведках, якія з’яўляюцца ўверсе пошукавай выдачы і павінны хутка адказваць на пытанні карыстальнікаў. Кампанія раней называла гэтыя даведкі «карыснымі і надзейнымі», аднак у шэрагу выпадкаў яны ўтрымлівалі памылкі ў медыцынскай інфармацыі.

У адным з прыкладаў, які эксперты назвалі «небяспечным» і «трывожным», AI Overviews выдавалі некарэктныя дадзеныя аб нармальных паказчыках пячоначных проб. Паводле спецыялістаў, такія адказы маглі прывесці да таго, што людзі з сур’ёзнымі захворваннямі печані памылкова лічылі б свае аналізы нармальнымі і не звярталіся б па медыцынскую дапамогу.

Пасля звароту журналістаў Google адключыла AI Overviews па запытах «what is the normal range for liver blood tests» і «what is the normal range for liver function tests». У кампаніі заявілі, што не каментуюць асобныя выпадкі выдалення, але падкрэслілі, што працуюць над паляпшэннем якасці даведак і прымаюць меры ў рамках сваіх правіл.

У той жа час эксперты адзначаюць, што праблема цалкам не вырашана. Пры нязначных зменах фармулёўкі запыту — напрыклад, «LFT (Liver Function Test) reference range» — ШІ-даведкі працягваюць з’яўляцца. Прадстаўнікі дабрачынных і пацыенцкіх арганізацый папярэджваюць, што такія адказы па-ранейшаму могуць быць недакладнымі, спрашчаць складаныя медыцынскія пытанні і ствараць ілжывае пачуццё бяспекі.

Паводле спецыялістаў, інтэрпрэтацыя вынікаў пячоначных тэстаў патрабуе ўліку мноства фактараў — ад тыпу аналізу да індывідуальных асаблівасцей пацыента, — чаго AI Overviews не робяць. Акрамя таго, даведкі не папярэджваюць, што нармальныя паказчыкі аналізаў магчымыя нават пры наяўнасці сур’ёзнага захворвання.