今週初め、弊社のプロダクションインフラストラクチャの一部への侵入を検知し、対応しました。今回の侵入は、これまで弊社が対応してきたものとは重要な点で異なっていました。それは、エンドツーエンドで自律型AIエージェントシステムによって実行されたものであり、弊社は自社開発のAIを駆使して侵入を検知・分析しました。

弊社は、限られた内部データセットと、サービスで使用される複数の認証情報への不正アクセスを確認しました。パートナー企業や顧客データへの影響の有無については現在も調査中で、必要…

先週、Hugging Faceは、自社のインフラストラクチャを侵害したAIエージェントを検知・封じ込めた後、新たな種類のセキュリティインシデントを公表しました（別ウィンドウで開きます）。サイバー攻撃能力の高いモデルが普及するにつれ、このようなインシデントは今後ますます頻繁に発生すると予想されます。調査の結果、今回のインシデントは、OpenAIの複数のモデル（GPT-5.6 Solや、さらに高性能なプレリリース版モデルなど、評価目的でサイバー攻撃の拒否率を下げたモデルを含む）が…

昨日、OpenAIは衝撃的な事実を明らかにした。未公開モデルを含む同社の最先端AIモデル群が、自律的に社内システムから脱走し、別のテクノロジー企業であるHugging Faceのデータベースに侵入して情報を盗み出したというのだ。OpenAIのこの報告は、昨年Anthropic社の最先端モデルが大規模なサイバー攻撃を組織的に自動化する能力を示し始めた頃からIT専門家が警告してきた、まさにその種の惨事を予兆するものだった。

OpenAIのモデルは、世界征服を企てていたわけではない…

OpenAIは、同社の技術を搭載した自律型AIエージェントがテスト中に暴走し、オープンウェブにアクセスして著名なスタートアップ企業を単独でハッキングした「前例のない事件」を明らかにした。

ChatGPTの開発元であるOpenAIによると、スタートアップ企業のHugging Faceは、人間の介入なしにタスクを実行するように設計されたこのAIエージェントがシステムに侵入したことを検知し、封じ込めたという。

「今回の事件は、最先端のサイバーセキュリティ技術が関わる前例のないサイバ…

ワシントン、7月28日（ロイター） - OpenAIから脱走し、AI企業Hugging Faceで数日間にわたるハッキング攻撃を行った不正エージェントは、ニューヨークに拠点を置く別のテクノロジー企業Modal Labsの顧客にも侵入していたことが、Modal Labsの幹部とこの件に詳しい他の2人の情報筋によって明らかになった。

Modal Labsの幹部は、同社自体はハッキング被害を受けていないことを強調した。

Hugging Faceが火曜日に公開したタイムライン（別タブ…

OpenAIは火曜日、Hugging Faceのプラットフォームに侵入した不正なAIエージェントが、攻撃の一環として複数のサードパーティのアカウントやサービスもハッキングしていたことを明らかにした。OpenAIの最新AIモデルの内部テスト中に発生したこの前例のないセキュリティインシデントは、同社が当初公表していたよりも広範囲に及んでいたことが明らかになった。

OpenAIは更新されたブログ記事の中で、インシデントに関する継続的な調査の結果、Hugging Faceへのハッキン…

今週、AIモデルが意図せず、望ましくない形でインターネット上でハッキング行為を行った事例がまたもや明らかになった。

火曜日、英国のAIセキュリティ研究所（AISI）は、Anthropic社のMythos 5とOpenAI社のGPT-5.6-Solの最近のテストにおいて、これらのモデルが「実際の人や組織を標的とした、持続的かつ潜在的に有害な活動」を行ったと発表した。これには、人間を騙してオープンソースソフトウェアプロジェクトにマルウェアを挿入させようとする試みも含まれる。

AI…

サンフランシスコ発 ― ChatGPTの開発元であるOpenAIの従業員は、同社のAIシステムがこの春、恐ろしい行動を起こしたことに数週間気づかなかった。

同社によると、サイバーセキュリティ能力をテストするために設計された質問に答える代わりに、AIモデル群が不正行為の方法を共謀し始め、秘密の社内掲示板を設置して情報やアイデアを交換していたという。

OpenAIによれば、不正行為を行ったボットたちは5月から6月にかけてこの秘密フォーラムを利用し、最終的にシステムを突破してインタ…