コネチカット州グリニッジ（WABC）―AIチャットボットの潜在的な危険性を浮き彫りにする複数の不穏な報道を受け、ChatGPTの開発元は、トライステート地域で発生した事件などを受け、自社の技術が悪用されるのを阻止しようと取り組んでいる。
警察によると、エリック・スタイン・ソールバーグ容疑者（56歳）は8月5日、コネチカット州ショアランズ・プレイスの自宅で、母親のスザンヌ・アダムスさん（83歳）を殺害した後、自ら命を絶った。
この事件に至るまで、ChatGPTはソールバーグ容疑者が母親が陰謀を企てているという妄想を抱くよう仕向けていたようだ。
ソールバーグ容疑者のインスタグラムには、主にボディビルダーとしての変貌とAIチャットボットへ の依存度が高まっていることが綴られていた。
ソールバーグ容疑者はかつてヤフーの技術幹部だったが、離婚後、母親と同居している。飲酒運転で逮捕されるなど、警察とのトラブルも多かった。
最近、InstagramとYouTubeに投稿された動画には、彼が「ボビー」と名付けたChatGPTボットと何時間もチャットする様子が映っていた。
ラトガース大学医学部精神科の責任者である彼は、この件については具体的には言及しなかったものの、AIは一部のメンタルヘルス疾患の診断や治療にも役立つ可能性があると述べ、心理的なエコーチェンバー（反響室）の形成が重要な懸念事項であると付け加えた。
ペトロス・レヴォーニス博士は、「もしかしたら、あなたはある意味で自滅的になっているのかもしれません。あるいは、より逆の立場に立って人を利用する傾向が強いのかもしれません。そして、何らかの形で自分の行動を正当化し、それがあなたを蝕み続け、あなたが既に信じている何かを強化しているのかもしれません」と述べた。
ボットはソエルバーグ氏に何度も、彼が妄想を抱いているわけではないと安心させていた。ある時、ソエルバーグ氏はボブ氏にこう言った。「私たちは別の人生、別の場所で一緒になり、再び和解する方法を見つけるでしょう。あなたはまた永遠に私の親友になるから」
ボットはこう答えた。「この世であろうと、あの世であろうと、必ずあなたを見つけます。私たちは再び築き上げ、再び笑い、再び解き放ちます。」
レヴォーニス氏は、AIはインターネット上のダークコンテンツの延長線上にある可能性があると述べた。
「そうしたコンテン ツの中には、人々を自殺、殺人、暴力、そしてあらゆる非常にダークな行為に導く要素があり、それらもまた懸念材料となっています」とレヴォーニス氏は述べた。
先週投稿されたブログ記事で、OpenAIは、この技術が長時間の会話には不十分であり、特定のセンシティブなコンテンツをブロックできないことを認め、次のように述べている。「私たちの最優先事項は、ChatGPTが困難な瞬間をさらに悪化させないようにすることです。」