AIは機密情報を信頼できるのか？
これが、1,400万人以上のユーザーを抱える人気のAI文字起こしサービスOtterが先週、AI研究者のアレックス・ビルゼリアン氏に、あるベンチャーキャピタル企業と会った後にZoom会議の自動文字起こしを送信した際に問題となった問題だ。問題は、ビルゼリアン氏がその文字起こしの全文を見ることは想定されておらず、公式電話会議後に聞くはずのないベンチャーキャピタル間の会話も文字起こしされていたことだ。
ビルゼリアン氏は、500万回以上閲覧されているXの投稿で、AIが「彼らのビジネスに関する親密で機密性の高い詳細」を含む「何時間ものプライベートな会話」 を収録したと書いている。
私がZoomで会議をしたVC企業は、Otter AIを使って通話を録音し、会議後に自動的にトランスクリプトをメールで送ってくれました。その中には、その後の数時間にわたるプライベートな会話も含まれており、そこでは彼らのビジネスに関する親密で機密性の高い詳細が話し合われました。
— Alex Bilzerian (@alexbilz) 2024年9月26日
OtterはXでBilzerianに返信し、VC企業はトランスクリプトを自動的に共有しないことも選択できたはずだと述べました。会社がZoom通話を終了するのを忘れたのか、通話後にAIのトランスクリプトをオフにしたのかは不明です。
ビルゼリアン氏はワシントンポストに対し、受け取った記録に基づいて取引を続行しないことに決めたと語った。
Xユーザーは、会議におけるAIの影響力拡大について懸念を表明し、ビルゼリアン氏の投稿に応えて関連する逸話を共有した。
クアドラント・キャピタルのウェルスソリューション担当ディレクター、マーク・チェッキーニ氏は書いた、AIアシスタントが許可なく会議に参加することが多くなっていると述べた。広報会社ルビーメディアグループのCEO、クリステン・ルビー氏は、バーチャルセラピーは録画されたビデオ通話を通じて行われ、データハッキングの可能性があると指摘した。
あるXユーザーは、妻がプライベートミーティングのAIトランスクリプトを受け取ったと書いた。また別のユーザーは、インタビュー後に、なぜ相性が悪かったのかを語る会話の録音が入ったトランスクリプトを受け取ったと主張した。
AIのプライバシーに関する懸念は新しいものではない。戦略国際問題研究所によると、AIはソーシャルメディアの顔認識技術と予測アルゴリズムを強化することで監視の範囲を拡大する可能性があります。
ただし、AIには良い面もあるかもしれません。 2024年5月のゴールドマン・サックスの調査では、AIによって生産性が25%向上する可能性があると推定されており、「将来の生産性向上の初期の兆候は非常に良好である」と指摘されています。