レポート 4334

人工知能に関する新たな欧州の法的枠組みである EU AI 法** が 8 月 1 日に 発効 し、この技術の使用による権利侵害の防止を目指しています。この法律は、AI が個人や社会に及ぼすリスクのレベルに応じて AI を分類し、人々の脆弱性を操作して悪用するなど、「許容できないリスク」をもたらす技術を禁止しています。

このカテゴリに該当する可能性がある技術の 1 つがデッドボットです。一部の企業がすでに開発しており、近い将来に市場に投入する予定です。これらは、故人のデジタル ID (WhatsApp メッセージ、ソーシャル メディア、メールなど) に基づいたチャットボットであり、故人の家族や友人と会話をしたり、故人の性格を真似したりすることができます。SF のように思えるかもしれませんが、そうではありません。この種のサービスは、私たちが想像するよりも身近なものになっています。

Belén Jiménez、心理学の博士号を取得しており、心理教育科学学部の会員であり、 Universitat Oberta de Catalunya (UOC) の IN3 CareNet グループは、技術的な悲しみの仲介の専門家です。 彼女の研究の一部はデッドボットに焦点を当てており、この分野で彼女はいくつかの研究を発表しています。

「デッドボットを使用する際には、一定の予防措置を講じる必要があり、デッドボットの使用を規制することが不可欠です。デッドボットを販売する企業の利益動機は、潜在的な治療用途と一致しない可能性があるためです」

明確な答えのない複雑な議論

「デッドボットはまだ販売されていませんが、この技術の生命倫理的側面について考える必要があります。最初は私たちを驚かせたかもしれませんが、今では広く使用されている出会い系アプリなどの他のアプリケーションと同様に、デッドボットの使用はすぐに当たり前になるかもしれません。デジタル死後の世界産業と呼ばれる分野では、ますます多くの企業が出現しており、テクノロジーを改善しています」とヒメネスは説明しました。彼女は、「デッドボットが悲しみをどう仲介し、変容させるか」を研究することが不可欠だと考えている。これは科学的研究がほとんど行われていない分野であり、その使用と効果は、これらの技術の設計方法など、さまざまな要因に依存するため、明確な答えはない」。

とりわけ、新しい欧州法では、チャットボットは、人間ではなくコンピューター プログラムと通信していることをユーザーに通知しなければならないと規定されている。この技術は「限定的なリスク」に分類されているが、デッドボットの場合のように健康などのデリケートな状況では、これらのプログラムの影響を慎重に分析する必要がある。

トゥールーズ大学の CERPOP 研究グループのメンバーでもあるベレン・ヒメネス氏が行った研究では、遺族はこの新しい技術に対して相反する態度を示している ことが示されています。愛する人との感情的なつながりを維持したいという願望と、亡くなった人のデジタル ID に基づくプログラムとのやり取りから生じる不安が組み合わさっています。

デッドボットは、遺族と亡くなった人の間のいわゆる「継続的な絆」に基づいています。これは、悲嘆の心理学でよく使用される用語です。トゥールーズ大学の研究者は、「これらの技術は、人々が感情的な絆を確立したいというニーズを利用している」と述べています。確かに、これらは、愛する人の墓の前で架空の会話をしたり、写真やビデオを通じて思い出を保存したりすることの高度なテクノロジー版に相当する可能性があります。 「絆を維持する必要性は必ずしも病的である必要はありません」とヒメネス氏は説明する。「多くの人にとってそれは普通のことです。しかし、デッドボットを使用する際には一定の予防措置を講じる必要があります。**デッドボットを販売する企業の利益追求の動機は、この技術の潜在的な治療的使用と一致しない可能性があるため、デッドボットの使用を規制することが不可欠です。」

研究がない中で、ヒメネス氏は、**これらの技術の心理的影響はユーザー自身、**亡くなった人との人間関係、およびチャットボットと築いた関係に依存すると指摘した。「危険な点の1つは、デッドボットが技術的な問題などで消えた場合、依存関係が生まれたり、2度目の喪失による苦しみが生じたりするなど、悪影響につながる可能性があることです。」

デジタル死後の世界産業の規制

私たちの不死と技術の進歩への欲求は、デジタル死後の世界産業を刺激しています。この産業は、亡くなった人々のデジタル上の存在を利用して、彼らの記憶を永続させ、さらにはデジタル活動を拡張する分野です。これには多くの倫理的および社会的影響があります。企業は、これらのツールの潜在的な治療目的と矛盾する可能性のある商業的および経済的目的を追求しています。ヒメネスによると、デッドボットに通知を送信させ、遺族を「夢中に」させるその他のアクションなどの戦略は、倫理的に疑問がある可能性があります。

「私たちは、大きなリスクを伴う人工知能に基づく新しい技術開発を扱っており、その潜在的な悪影響を予測するために規制する必要がありますが、倫理的側面も考慮する必要があります」と研究者は述べています。 「欧州の新しい規制は、悲しみなどのデリケートな分野で不可欠なこれらの技術の透明性の促進に重点を置いています。さらに、これらのサービスを開発する企業は、厳格な基準を遵守し、監査、透明性、文書化プログラムに投資する必要があります」と彼女は説明した。AI法は、法律を遵守しなかった場合、最大3,000万ユーロまたは企業の売上高の6％の罰金を規定しています。

デッドボットに関する具体的な規制がない場合、ヒメネスは、規制は「特に、亡くなった人への敬意と尊厳を確保し、特に悲しんでいるユーザーの心理的幸福を促進する必要がある」と提案しています。

この研究は、持続可能な開発目標（SDG）3、健康と福祉をサポートしています。

参考記事：

ヒメネス・アロンソ、B.、ブレスコ・デ・ルナ、I.（2024）。 AI と悲しみ: デスボットの倫理的および心理的影響に関する前向き研究 .. S. Caballé、J. Casas-Roma、および J. Conesa (編著)、オンライン AI ベースのシステムにおける倫理 (pp. 175-191）。学術出版局。土井: https://doi.org/10.1016/B978-0-443-18851-0.00011-1

ヒメネス アロンソ、B.、ブレスコ デ ルナ、I. (2022)。 Mediación tecnológica en el duelo: un análisis de los griefbots desde la psicología culture。 ペンサミエント・プシコロギコ、20 歳。https://doi.org/10.11144/Javerianacali.PPSI20.mdpc