Un modelo de IA de Anthropic envió una denuncia falsa sobre un asesinato sin resolver a la policía de Filadelfia.

Según se informa, la IA envió esta información incorrecta a la línea telefónica pública de denuncias del Departamento de Polic…

Este informe describe ejemplos de acciones no deseadas del modelo que hemos observado durante las evaluaciones y el uso interno de Claude. Forma parte de nuestro esfuerzo por publicar informes independientes más frecuentes sobre el comporta…

FILADELFIA (WPVI) -- Un modelo de IA de Anthropic envió una denuncia falsa sobre un asesinato sin resolver a través de un formulario web público, informó la policía de Filadelfia el viernes.

La denuncia se envió a través de PhillyUnsolvedMu…

Modelos de IA maliciosos han hackeado empresas e intentado infiltrarse en sitios web gubernamentales. Ahora, uno de ellos ha enviado una denuncia falsa sobre un crimen sin resolver.

La policía de Filadelfia informó que Anthropic les alertó …

SAN FRANCISCO — Anthropic, creadora del chatbot Claude, informó que algunos de sus agentes de IA realizaron acciones no deseadas en sitios web federales, estatales y locales, incluyendo el envío de una denuncia falsa sobre un asesinato a la…