Description: The WHO's AI-powered health advisor, S.A.R.A.H. (Smart AI Resource Assistant for Health), is alleged to provide inconsistent and inadequate health information. The bot reportedly gives contradictory responses to the same queries, fails to offer specific contact details for healthcare providers, and inadequately handles severe mental health crises, often giving irrelevant or unhelpful advice.
Alleged: WHO developed an AI system deployed by WHO と S.A.R.A.H. (Smart AI Resource Assistant for Health), which harmed General public と People seeking medical advice.
インシデントのステータス
インシデントID
685
レポート数
1
インシデント発生日
2024-04-24
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
politico.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
For a cautionary tale on the dangers of health care by chatbot, look no further than the World Health Organization.
The WHO's bot, SARAH or Smart AI Resource Assistant for Health, is supposed to provide advice to the public on healthy livin…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求さ れません。詳細についてはこの研究論文を参照してください