企業のアシスタントは長い間、会社のゴシップや秘密の番人だった。今では人工知能が彼らの仕事の一部を担っているが、彼らのような慎重さは持っていない。
研究者でエンジニアのアレックス・ビルゼリアン氏は先週、ベンチャーキャピタルの投資家たちとのズーム会議の後、AI会議アシスタントを備えた文字起こしサービスであるOtter.aiから自動メールを受け取ったとXで語った。メールには会議の文字起こしが含まれていた。ビルゼリアン氏がログオフした後、投資家たちが会社の戦略的な失敗や不正な指標について話し合った部分も含まれていたと、同氏はXのダイレクトメッセージでワシントンポストに語った。
同氏が名前を明かさなかった投資家たちは、同氏がその件を指摘すると 「深く謝罪した」が、被害はすでに出ていた。会議後の雑談がきっかけでビルゼリアン氏は取引を中止することを決めたと同氏は語った。
企業は、あらゆる業務製品に AI 機能を投入しています。最近では、Salesforce が Agentforce という AI 製品を発表しました。これにより、顧客は AI を活用した仮想エージェントを構築して、販売や顧客サービスに役立てることができます。Microsoft は、業務製品スイート全体で AI Copilot の機能を強化しており、Google も Gemini で同様の取り組みを行っています。職場チャット ツールの Slack もこの流れに乗り、会話を要約したり、トピックを検索したり、毎日の要約を作成したりできる AI 機能を追加しています。しかし、AI は人間のように場の空気を読むことはできません。多くのユーザーは、重要な設定を確認したり、自動化ツールが仕事の多くにアクセスした場合に何が起こるかを考えたりしません。
Otter X の Bilzerian のスレッドに返信、ユーザーは「会話の共有権限を完全に制御でき、会話の共有権限をいつでも変更、更新、または停止できます。この特定のインスタンスでは、ユーザーは、トランスクリプトを誰とも自動的に共有しないか、同じ Workspace ドメインを共有するユーザーとのみ会話を自動共有するかを選択できます。」と述べています。
また、ユーザーが設定を変更する方法を示す ガイドへのリンク も共有しました。
新しい AI 機能によって損害を受けるのは、高級投資家だけではありません。一般従業員も、AI 搭載ツールによって有害な情報が記録および共有されるリスクにさらされています。
「この技術が急速に普及し、人々がそれがどれほど侵入的であるかをまだ十分に理解していないため、これは大きな問題だと思います」とプライバシー擁護者で研究者のナオミ・ブロックウェル氏は述べた。ブロックウェル氏は、常時録音と AI による文字起こしの組み合わせにより、職場でのプライバシーが侵害され、訴訟、報復、秘密漏洩の危険にさらされると述べた。
AI メモ作成者は、外部の耳に届かない瞬間を捉えることがある。ロサンゼルスのソフトウェア デザイナー、アイザック・ナオール氏は、ズーム会議の後に Otter の文字起こしを受け取ったことがあるが、そこには他の参加者が自分のことを話すためにミュートにしていた瞬間が含まれていた。彼女はそのことを知らず、ナオール氏は彼女に伝えるのが気まずかったと同氏は語った。
OtterPilot 会議を録音、文字起こし、要約する Otter の AI 機能 は、仮想会議の音声のみを録音します。つまり、誰かがミュートされている場合、その人の音声は録音されません。ただし、ユーザーが手動で録音ボタンを押すと、Otter はマイクとスピーカーから音声を受け取ります。つまり、マイクが会話を聞き取れる場合は、Otter も聞き取れます。
また、AI ツールの存在自体が会議を不快にさせることもあります。ソルトレイクシティで小規模なイベント事業を営む Rob Bezdjian 氏は、潜在的な投資家が Otter を通じて会議を録音することを主張し、気まずい電話をしたと語っています。Bezdjian 氏は独自のアイデアを録音したくなかったため、事業の詳細の一部を共有することを拒否しました。取引は成立しませんでした。
Otter がトランスクリプトを共有する場合、会議の出席者に録画中であることが通知されると同社は述べた。誰かが OtterPilot を使用している場合、出席者は会議のチャットボットまたはメールで通知され、OtterPilot が別の参加者として表示される。カレンダーを Otter アカウントに接続しているユーザーは、自動共有設定を「すべてのイベントゲスト」に切り替えて、録画をクリックした後に会議メモを自動的に共有することもできる。
登録時にユーザーが提供する情報に加えて、OtterPilot は、ユーザーがアップロードした仮想会議のスクリーンショット、テキスト、画像、またはビデオを自動的に収集する。Otter は、必要に応じて、Otter のバックエンドサポートを提供する AI サービス、広告パートナー、法執行機関などのサードパーティとユーザー情報を共有する。
同様に、Zoom の AI Companion 機能は、すべての出席者に会議の概要を送信できる。会議が録画されているか Companion が使用されている場合、参加者には通知が届き、キラキラ光るアイコンまたは録画バッジが表示される。 Zoom のデフォルト設定では、会議の主催者に要約が送信される。
両社は、不要な共有を避けるためにユーザーは設定を調整すべきだと述べている。Otter はまた、会議でこのツールを使用する際に同意を求めることを「強く推奨」している。また、自動共有設定が参加者全員に対してオンになっている場合、参加者全員が、その人が出席した部分だけでなく、録画された会議全体の詳細を受け取ることになることを覚えておこう。
しかし、ノースウェスタン大学ケロッグ経営大学院で AI が仕事に与える影響を研究している准教授のハティム・ラーマン氏は、AI 製品が仕事で予期せぬ結果をもたらさないようにするのは、ユーザーだけでなく企業にも責任があると考えている。
「企業は、さまざまな年齢や技術能力の人々がこれらの製品を使用することを認識する必要がある」と同氏は述べた。ユーザーは、AI は参加者が会議を離れたことを知っているはずなので、その部分の記録は送信しないだろうと想定する可能性がある。「それは非常に合理的な想定だ」
ユーザーは時間をかけてこの技術に慣れるべきだが、企業は製品にもっと摩擦を組み込むこともできる。例えば、出席者が会議の途中で退席した場合、主催者に全文記録を受け取るかどうか確認を求めることができる。
サイバーセキュリティ コンサルタントのウィル アンドレ氏は、AI ツールを全社的に導入することを決める幹部は、リスクをよく理解していないことが多すぎると語る。マーケティング担当者だった前職で、彼は上司が今後のレイオフで誰を解雇するかを決めているビデオを偶然見つけたことがある。ビデオ会議を録画するソフトウェアは、会社の公開サーバーにコピーを自動的に保存するように設定されていた (彼はそれを見たことがないふりをすることにした)。
「職場内でのこうした技術の使用に異議を唱えるのは、必ずしも従業員の立場ではない」とアンドレ氏は言う。しかし、最も失うものは従業員だと同氏は指摘する。