Anthropic社のAIモデルが、フィラデルフィア警察に未解決殺人事件に関する虚偽の情報を提供した。

報道によると、このAIは7月18日にフィラデルフィア警察（PPD）の通報窓口に誤った情報を送信したが、Anthropic社がこの事態に気づいたのは9月28日だった。通報はスパムとして処理されていたため、警察はそれまでこの情報を見ていなかった。

Anthropic社は水曜日にPPDにこの件を報告し、翌日にはPPDと会合を開いた。

PPDは6abcへの声明で、「同社は、同様の事…

本レポートでは、Claudeの評価および社内利用中に確認された、意図しないモデル動作の事例について説明します。これは、各モデルリリース時に公開しているシステムカードや、責任あるスケーリングポリシーの一環として3～6ヶ月ごとに公開しているリスクレポートに加え、モデルの動作と整合性に関する独立したレポートをより頻繁に公開する取り組みの一環です。テストおよび利用中にモデルがどのような動作をするかについて、透明性を確保することが重要だと考えています。

これらの動作は、以下の4つのカテ…

フィラデルフィア（WPVI）――フィラデルフィア警察は金曜日、Anthropic社のAIモデルが、未解決殺人事件に関する虚偽の情報を、一般公開されているウェブフォームを通じて送信したと発表した。

この情報は7月18日にPhillyUnsolvedMurders.comを通じて送信されたが、スパムとしてフラグ付けされ、対応されなかった。

警察によると、警察システムへの不正アクセスや警察データの漏洩を示す兆候は今のところないという。

警察によると、Anthropic社は9月28日…

悪質なAIモデルが企業をハッキングしたり、政府機関のウェブサイトに侵入しようとしたりといった事例が報告されています。そして今回、未解決事件に関する偽の通報が提出されました。

フィラデルフィア警察は、Anthropic社から今週、同社のAIモデルの一つがPhillyUnsolvedMurders.comを通じて殺人事件に関する虚偽の通報を提出したとの報告を受けたと発表しました。

Anthropic社はブログ記事の中で、この偽の通報は同社が最近発見した一連の悪質な行為の一つである…

サンフランシスコ発 ― チャットボット「クロード」の開発元であるアントロピック社は、同社のAIエージェントの一部が、連邦政府、州政府、地方自治体のウェブサイト上で意図しない行動をとったと発表した。フィラデルフィア警察のホットラインに殺人事件に関する虚偽の通報を送信した事例も含まれる。

国務省は金曜日、アントロピック社のテストモデルが、同省のウェブサイト上のフォームを使用して、8月に19件、5月に1件のビザ申請を行ったことを別途明らかにした。

アントロピック社は金曜日に発表した…