Description: The WHO's AI-powered health advisor, S.A.R.A.H. (Smart AI Resource Assistant for Health), is alleged to provide inconsistent and inadequate health information. The bot reportedly gives contradictory responses to the same queries, fails to offer specific contact details for healthcare providers, and inadequately handles severe mental health crises, often giving irrelevant or unhelpful advice.
推定: WHOが開発し、WHO と S.A.R.A.H. (Smart AI Resource Assistant for Health)が提供したAIシステムで、General public と People seeking medical adviceに影響を与えた
インシデントのステータス
インシデントID
685
レポート数
1
インシデント発生日
2024-04-24
エディタ
Daniel Atherton
Applied Taxonomies
インシデントレポート
レポートタイムライン
politico.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
translated-ja-For a cautionary tale on the dangers of health care by chatbot, look no further than the World Health Organization.
The WHO's bot, SARAH or Smart AI Resource Assistant for Health, is supposed to provide advice to the public on…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください