Кампанія выдаліла частку сваіх ШІ-даведак аб здароўі пасля таго, як расследаванне The Guardian паказала, што некаторыя з іх утрымлівалі небяспечную і дэзынфармацыйную інфармацыю.
Кампанія выдаліла частку сваіх ШІ-даведак аб здароўі пасля таго, як расследаванне The Guardian паказала, што некаторыя з іх утрымлівалі небяспечную і дэзынфармацыйную інфармацыю.
Гаворка ідзе пра функцыю AI Overviews — аўтаматычна створаных кароткіх даведках, якія з’яўляюцца ўверсе пошукавай выдачы і павінны хутка адказваць на пытанні карыстальнікаў. Кампанія раней называла гэтыя даведкі «карыснымі і надзейнымі», аднак у шэрагу выпадкаў яны ўтрымлівалі памылкі ў медыцынскай інфармацыі.
У адным з прыкладаў, які эксперты назвалі «небяспечным» і «трывожным», AI Overviews выдавалі некарэктныя дадзеныя аб нармальных паказчыках пячоначных проб. Паводле спецыялістаў, такія адказы маглі прывесці да таго, што людзі з сур’ёзнымі захворваннямі печані памылкова лічылі б свае аналізы нармальнымі і не звярталіся б па медыцынскую дапамогу.
Пасля звароту журналістаў Google адключыла AI Overviews па запытах «what is the normal range for liver blood tests» і «what is the normal range for liver function tests». У кампаніі заявілі, што не каментуюць асобныя выпадкі выдалення, але падкрэслілі, што працуюць над паляпшэннем якасці даведак і прымаюць меры ў рамках сваіх правіл.
У той жа час эксперты адзначаюць, што праблема цалкам не вырашана. Пры нязначных зменах фармулёўкі запыту — напрыклад, «LFT (Liver Function Test) reference range» — ШІ-даведкі працягваюць з’яўляцца. Прадстаўнікі дабрачынных і пацыенцкіх арганізацый папярэджваюць, што такія адказы па-ранейшаму могуць быць недакладнымі, спрашчаць складаныя медыцынскія пытанні і ствараць ілжывае пачуццё бяспекі.
Паводле спецыялістаў, інтэрпрэтацыя вынікаў пячоначных тэстаў патрабуе ўліку мноства фактараў — ад тыпу аналізу да індывідуальных асаблівасцей пацыента, — чаго AI Overviews не робяць. Акрамя таго, даведкі не папярэджваюць, што нармальныя паказчыкі аналізаў магчымыя нават пры наяўнасці сур’ёзнага захворвання.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.