Incident 1751: Un agent d'intelligence artificielle anthropomorphe aurait soumis une fausse alerte à la police de Philadelphie.
Entités
Voir toutes les entitésStatistiques d'incidents
Rapports d'incidents
Chronologie du rapport
Un modèle d'IA d'Anthropic a transmis un faux signalement concernant un meurtre non résolu à la police de Philadelphie.
L'IA aurait transmis cette information erronée à la ligne téléphonique publique du département de police de Philadelphie…
Ce rapport décrit des exemples d'actions inattendues de nos modèles, observées lors des évaluations et de l'utilisation interne de Claude. Il s'inscrit dans notre démarche visant à publier plus fréquemment des rapports indépendants sur le c…
PHILADELPHIE (WPVI) – La police de Philadelphie a annoncé vendredi qu'un modèle d'intelligence artificielle d'Anthropic avait transmis un faux signalement concernant un meurtre non résolu via un formulaire web public.
Le signalement a été e…
Des modèles d'IA malveillants ont piraté des entreprises et tenté de s'introduire dans des sites web gouvernementaux. L'un d'eux a récemment soumis un faux signalement concernant une affaire non résolue.
La police de Philadelphie indique av…
SAN FRANCISCO – Anthropic, créateur du chatbot Claude, a déclaré que certains de ses agents d'IA avaient effectué des actions involontaires sur des sites web fédéraux, étatiques et locaux, notamment en soumettant un faux signalement de meur…