Николай Чикишев world 6 мая 2025, 15:19

Медицинские чат-боты оказались экспертами по вредным советам

Пользователи все чаще обращаются к чат-ботам за медицинскими советами, но новое исследование британских ученых ставит под сомнение надежность этих советов.

Оставить комментарий

Медицинские чат-боты оказались экспертами по вредным советам

Пользователи все чаще обращаются к чат-ботам за медицинскими советами, но новое исследование британских ученых ставит под сомнение надежность этих советов.

В условиях перегруженных систем здравоохранения и длинных очередей к врачам многие люди обращаются к чат-ботам для самодиагностики. Опрос, проведенный Оксфордским институтом интернета, показал, что примерно каждый шестой взрослый пользователь ежемесячно использует чат-боты для получения медицинских рекомендаций.

Исследование британских ученых показало, что излишняя зависимость от таких технологий может быть рискованной, так как людям сложно предоставить чат-ботам правильную информацию для получения точных рекомендаций.

В исследовании приняли участие около 1300 жителей Великобритании. Участникам предлагались медицинские сценарии, разработанные врачами, с задачей определить возможные заболевания и дальнейшие действия (например, обратиться к врачу или в больницу). Они использовали три популярные модели ИИ: ChatGPT (GPT-4o), Cohere’s Command R+ и Meta’s Llama 3, а также традиционные методы, такие как поиск в интернете или собственное суждение.

Результаты показали, что чат-боты снизили вероятность правильной диагностики заболеваний и увеличили вероятность недооценки их серьезности. Доктор Адам Махди, соавтор исследования, рассказал, что участники, использующие чат-боты, принимали решения не лучше, чем те, кто полагался на традиционные методы.

Основные проблемами стали пропуск ключевых деталей в запросах чат-ботам и сложности с интерпретацией их ответов, которые часто содержали смесь полезных и некорректных рекомендаций.

Технологические компании активно продвигают ИИ как инструмент для улучшения здоровья. Apple разрабатывает ИИ для советов по питанию и физической активности, Amazon исследует анализ медицинских данных, а Microsoft создает ИИ для управления сообщениями пациентов.

Однако эксперты и пациенты расходятся во мнениях о готовности ИИ к использованию в высокорисковых медицинских сценариях. Американская медицинская ассоциация (AMA) не рекомендует врачам использовать чат-боты для клинических решений, а OpenAI и другие разработчики предостерегают от диагностики на основе ИИ.

Доктор Махди подчеркнул, что текущие методы оценки чат-ботов не учитывают сложность взаимодействия с пользователями. Он призвал полагаться на надежные источники информации и тестировать ИИ-системы в реальных условиях, как это делается с новыми лекарствами. Исследователи настаивают, что чат-боты должны рассматриваться как медицинские продукты, требующие тщательной проверки.