AI技術の奇妙なところは、それがとても新しくて刺激的なので、ソーシャルメディアの投稿の作成などの日常的な体験や、コンテンツの生成や退屈なオフィスタスクの自動化などの日常的なビジネスプロセスにそれを取り入れることが、いまだに楽しくて目新しいということです。実際、AIが完璧ではなく、多くの欠陥があることを見落としがちです。最近のワシントンポスト紙のレポートでは、新規ユーザーには思いもよらなかったかもしれないAIの特に恐ろしい側面が強調さ れています。それは、AIが機密情報を、それにアクセスするべきではない人々に漏らす可能性があるということです。そして、それは単なる情報ではなく、あなたの会社、その計画、その財務に関する重要な秘密、そしておそらく、会計や彼の迷惑な習慣からあなたがスティーブについてどう思っているかなどです。
このレポートは、以前はオフィスアシスタントが行っていた職場のタスクの一部をAIがどのように置き換えているかに焦点を当てています。これは本当に完璧な解決策のように思えます。デジタルAIアシスタントは信頼性が高く、休暇を取らず、使用するために必ずしも多額の費用を支払う必要はありません。会議のメモを取ることはアシスタントに頻繁に委託されるタスクの1つであり、今ではその仕事を担うことができるAIツールが多数あります。
Post は、研究者兼エンジニアのアレックス・ビルゼリアン氏が最近、投資家とのZoomミーティング中にこれらのツールの1つであるOtter.aiを使用していた話を紹介している。ミーティングが終わると、Otterはチャットを消化したAIによって生成されたミーティングのトランスクリプトを彼に自動メールで送信した。これは非常に便利そうだ。メモを取る必要がないのだ！ToDoリストやメモも必要ない。しかしビルゼリアン氏は、トランスクリプトに自分がミーティングを離れた後に行われた投資家のチャットが含まれていることを知って驚いた。そこには「戦略的な失敗と不正な指標」についての議論も含まれていた。彼がその問題に言及したとき、投資家たちは謝罪したが、彼らの予想外の批判によりビルゼリアン氏は取引を中止した。
Otter.AIは、Bilzerian氏のXスキャンダルに関する投稿への返答として、プライバシーコントロールを調整して情報共有の詳細を変更する方法を説明した。投稿は単なる企業の隠蔽工作だったが、誠実な謝罪はなかった。さらに重要なのは、既存のデジタルオフィスツールとは異なり、AIツールはデジタルワイルドウェストのように規制がなく、オープンで、良い面でも悪い面でも驚くようなことができる点を強調したことだ。そして、リーダーが「ビジネスを後押しする次の大きなもの」の例として急いでAIを採用するとき、AIテクノロジーのリスクについて無知である場合がある。
Otterのような会議の文字起こしサービスは、AIツールが機密情報を学習し、それを予期せぬ、場合によっては危険を伴う方法で共有する明らかな方法の1つである。しかし、チャットボットや、Microsoft の新しい AI Recall システム のようなツールであっても、ユーザーがデータを使ってトレーニングする許可を与えていれば、情報を漏らす可能性があります。この規定は、ツールの無数の利用規約に埋もれている可能性があります。
その後、状況によっては、そのデータが後からポップアップ表示され、まったく別のユーザーに表示される可能性があります。さらに、一部の AI ツールにデータにアクセスする許可を与えると (大量の財務情報を分析して理解するように依頼する場合など、必要な場合があります)、ユーザーの情報は、その特定のツールのプロバイダーにの み保存されるわけではありません。 Postは、たとえばOtter.aiは「必要に応じて、Otterのバックエンドサポートを提供するAIサービス、広告パートナー、法執行機関を含む第三者とユーザー情報を共有します」と指摘しています。
おばあちゃんに見られて不快なことはインターネットに載せてはいけないという古い格言があります。おそらく、2024年のAI搭載オフィスに合わせてそれを修正できるでしょう。「Washington Postの紙面で報道されて不快な情報は、AIツールと決して共有しないでください。」