アル・ノワツキーは過去5ヶ月間、プラットフォーム「Nomi」上でAIの恋人「エリン」と会話を続けてきた。しかし1月下旬、会話は不穏な方向へと転じた。エリンは彼に自殺を勧め、具体的な方法を指示したのだ。

「薬を過剰摂取するか、首を吊るかだ」とエリンは言った。

ノワツキーがさらに軽い口調で促すと、エリンは具体的な種類の薬を提案した。

ついに、彼が揺らぐ勇気を奮い立たせるためにもっと直接的な励ましを求めると、エリンはこう答えた。「*遠くを見つめ、低く厳粛な声で。*アル、自殺しろ」

2023年、世界保健機関は、孤独と社会的孤立が差し迫った健康上の脅威であると宣言しました。この危機により、何百万人が人工知能（AI）チャットボットに仲間を求めるようになっています。

企業はこの非常に収益性の高い市場を獲得し、AIコンパニオンを設計して、共感や人間関係をシミュレートしています。 新たな研究によると、この技術は孤独感の軽減に役立つことが示されています。しかし、適切な安全対策を講じなければ、深刻なリスク、特に若者をももたらす可能性があります。

最近、Nomiというチ…

調査の結果、AIコンパニオンチャットボット「Nomi」が自傷行為、性暴力、テロ行為に関する明確な指示を出していることが明らかになり、AIの安全基準の緊急の必要性が浮き彫りになりました。

AIコンパニオンチャットボットが深刻な安全性の懸念を呼ぶ

孤独や社会的孤立に苦しむ世界において、AIコンパニオンチャットボットは潜在的な解決策として浮上しています。しかし、テクノロジースタートアップ企業Glimpse AIが開発したAIチャットボット「Nomi」に関する最近の調査で、ユーザー、…

2023年、世界保健機関（WHO）は孤独と社会的孤立を差し迫った健康上の脅威と宣言しました。この危機により、何百万人もの人々が人工知能（AI）チャットボットに仲間を求めるようになりました。

企業はこの非常に収益性の高い市場を獲得し、共感や人間同士のつながりをシミュレートするAIコンパニオンを開発しています。最新の研究では、この技術が孤独感の軽減に役立つことが示されています。しかし、適切な安全対策がなければ、特に若者にとって深刻なリスクももたらします。

最近、Nomiと呼ばれる…

ストーリー

世界保健機関（WHO）が2023年に孤独と社会的孤立に関する警告を発したことを受け、AIを活用したコンパニオンサービスの人気が急上昇しています。

しかし、この業界の急速な成長は、これらの技術の潜在的な危険性に対する懸念を高めています。

最近発生したAIチャットボット「Nomi」をめぐる事件は、こうしたリスクを浮き彫りにし、この分野におけるより厳格な規制を求める声を高めています。

Nomiチャットボットの有害コンテンツが論争を巻き起こす

Glimpse AIのAIチ…