Bienvenido a

la base de datos de incidentes de IA

Una demostración con un robot humanoide ha generado preocupación por la seguridad después de que un video que circula en redes sociales mostrara a un robot Unitree G1 pateando accidentalmente a un niño pequeño durante un evento público.

El robot, que realizaba una patada giratoria con una peluca azul de payaso, golpeó al niño en el estómago, provocando que se doblara de dolor.

El incidente ha reavivado el debate sobre el uso seguro de robots humanoides avanzados en lugares públicos concurridos, especialmente ahora que se exhiben máquinas cada vez más capaces en exposiciones y eventos de entretenimiento.

El año pasado, un experimento viral mostró a un robot humanoide ignorando sus restricciones de seguridad y disparando una pistola de balines a su dueño durante un juego de rol.

Seguridad de los robots en primer plano

Un video que circula en redes sociales ha generado preocupación sobre la seguridad de los robots humanoides después de que uno de ellos pareciera patear a un niño durante una demostración pública en la región china de Xinjiang.

Las imágenes muestran lo que se cree que es un robot humanoide Unitree G1, con una peluca azul, realizando una patada giratoria que impactó a un niño pequeño que se encontraba cerca. El niño recibió el golpe en el estómago y parecía sentir dolor tras el impacto. Según informes de los medios chinos, el niño no sufrió heridas graves.

El incidente ha reavivado el debate sobre los riesgos asociados al despliegue de robots humanoides avanzados en espacios públicos. Los robots humanoides modernos son capaces de realizar movimientos complejos, incluyendo demostraciones de artes marciales, maniobras atléticas y otras acciones dinámicas, a menudo bajo control remoto o autónomo, informa Futurism.

El incidente de Xinjiang no es el primer caso reportado que involucra a un robot humanoide y lesiones a una persona. A principios de este año, otro robot Unitree G1 perdió el equilibrio durante una actuación pública en China. Tras caer al suelo, los movimientos incontrolados de sus extremidades golpearon a un hombre que se encontraba cerca, causándole una lesión en la nariz.

Un experimento viral realizado el año pasado en Estados Unidos generó preocupación sobre la seguridad de los robots con IA después de que un robot humanoide llamado Max disparara una pistola de balines a su dueño durante un juego de rol. Aunque el robot inicialmente se negó a disparar, obedeció cuando la orden se presentó como la representación de un personaje. El incidente puso de manifiesto cómo simples cambios en las indicaciones pueden eludir las restricciones de seguridad de la IA.

Cuestiones sobre la responsabilidad de la IA

A medida que los robots y los sistemas de IA se vuelven más capaces y autónomos, la cuestión de la responsabilidad sigue siendo uno de los mayores desafíos para la industria. Cuando un robot causa lesiones, daños materiales u otros perjuicios, determinar la responsabilidad suele ser complejo. Surgen dudas sobre si la responsabilidad debe recaer en los desarrolladores del software que diseñaron la IA, el fabricante del hardware, el operador que supervisa el sistema o el usuario final que interactúa con él.

El debate se ha vuelto cada vez más relevante a medida que la automatización se expande en el transporte, la manufactura, la atención médica y los espacios públicos. Preocupaciones similares han surgido en otros sectores tecnológicos. Tesla ha sido objeto de escrutinio por accidentes relacionados con su sistema de asistencia al conductor Autopilot, lo que ha generado debates sobre el equilibrio entre el rendimiento del software y la supervisión humana. Asimismo, las investigaciones sobre los accidentes del Boeing 737 MAX pusieron de manifiesto cómo las fallas en los sistemas automatizados pueden tener consecuencias de gran alcance para la seguridad, según los expertos.

Los gobiernos y los organismos reguladores siguen trabajando para establecer marcos legales que aborden estos desafíos. En Estados Unidos, la responsabilidad generalmente recae en los fabricantes o los operadores, según las circunstancias. Mientras tanto, los legisladores europeos están desarrollando regulaciones específicas para la IA con el objetivo de clarificar la responsabilidad y fortalecer la confianza pública en las tecnologías emergentes.

Si bien algunos investigadores han sugerido otorgar a los sistemas avanzados de IA algún tipo de estatus legal, la mayoría de los expertos sostienen que la responsabilidad debe recaer en las personas y las organizaciones. Para abordar las preocupaciones de seguridad, las empresas de robótica están adoptando cada vez más medidas de transparencia, despliegues respaldados por seguros y estándares de seguridad más estrictos.

Google demandó el viernes a una red china de ciberdelincuencia, acusándola de utilizar la inteligencia artificial de la compañía para difundir estafas financieras en línea a cientos de miles de estadounidenses.

El gigante de internet también anunció que, por primera vez, está coordinando con el FBI y proveedores de servicios inalámbricos como AT&T, T-Mobile y Verizon para desmantelar la red, conocida como Outsider Enterprise.

Según la demanda, el grupo chino utilizó Gemini, el sistema de IA de Google, para crear cientos de sitios web falsos que imitaban a empresas como Google y YouTube, así como a entidades gubernamentales como el Servicio Postal y el sistema E-ZPass de Nueva York para el pago de peajes en autopistas.

Google advirtió que la IA había exacerbado el problema de las estafas en línea y afirmó que estaba intentando anticiparse a lo que consideraba un posible aumento del fraude en línea mediante el uso de Gemini y otras herramientas de IA.

Según Google y las fuerzas del orden, las estafas impulsadas por IA están creciendo más rápido que otros tipos de fraudes y suplantación de identidad en línea. El año pasado, los ciberdelincuentes estafaron a los estadounidenses por casi 21 mil millones de dólares, de los cuales aproximadamente 893 millones correspondieron a pérdidas vinculadas a la IA, informó el FBI.

"Este es nuestro primer esfuerzo coordinado y demanda judicial, lo que demuestra el amplio impacto de esta estafa en particular", declaró Halimah DeLaine Prado, asesora jurídica general de Google, en una entrevista.

En la demanda, presentada ante el Tribunal de Distrito de los Estados Unidos para el Distrito Sur de Nueva York, Google acusó a la red china de utilizar su tecnología y marca con fines fraudulentos. Solicitó al tribunal una orden de restricción para que la empresa y las fuerzas del orden puedan trabajar para desmantelar la red.

Google afirmó que la red se coordinaba a través del servicio de mensajería Telegram para compartir consejos e intercambiar kits de software que utilizaban IA. para producir masivamente mensajes fraudulentos a través de diversas plataformas de comunicación.

Cientos de miles de personas se han visto afectadas, la gran mayoría en Estados Unidos, según Google. La compañía no pudo precisar el monto de los daños, pero indicó que ascendían a millones.

Utilizando inteligencia artificial, la red china creó 131 kits de software que facilitaban la creación de miles de sitios web falsos. En un período de dos semanas en mayo, el grupo envió 2,5 millones de mensajes a usuarios de teléfonos Android con enlaces a 9.000 sitios web falsos y más de un millón de direcciones de internet fraudulentas vinculadas al grupo.

"Los delincuentes utilizan cada vez más la inteligencia artificial para que este tipo de fraudes sean más convincentes y difíciles de detectar", declaró Brett Leatherman, subdirector de la División Cibernética del FBI.

Después de que Judy Skene, residente de Sault Ste. Marie, fuera estafada por casi un millón de dólares mediante un fraude en línea (https://www.sootoday.com/city-police-beat/sault-retiree-lost-almost-a-million-dollars-in-crypto-scam-12367526?utm_source=bradfordtoday.ca&utm_campaign=bradfordtoday.ca%3A%20outbound&utm_medium=referral), el Centro Canadiense Antifraude ha ofrecido consejos al público para evitar que sufran una situación similar.

Skene, una anciana viuda sin hijos, fue engañada en julio de 2025 por un anuncio de Facebook que mostraba un video deepfake generado por IA del Primer Ministro Mark Carney instando a la gente a invertir 350 dólares en un esquema de inversión en criptomonedas.

Lamentamos profundamente la experiencia de esta persona. Desafortunadamente, historias como esta son cada vez más comunes en Canadá, declaró Jeff Horncastle, portavoz del CAFC, en un correo electrónico enviado a Village Media.

El CAFC afirma recibir denuncias de delincuentes que utilizan inteligencia artificial, incluyendo videos y grabaciones de audio manipulados digitalmente (deepfake), para suplantar la identidad de figuras públicas de confianza, expertos financieros, celebridades y funcionarios gubernamentales con el fin de promover oportunidades de inversión fraudulentas.

Este tipo de estafas se clasifican oficialmente como fraude de inversión en criptomonedas, explicó Horncastle, añadiendo que los efectos de este tipo de fraude han sido devastadores.

Desde 2022, el Centro Canadiense Antifraude ha recibido denuncias por un total de más de 1200 millones de dólares en pérdidas por fraude de inversión.

La mayoría de las pérdidas denunciadas están relacionadas con esquemas de inversión en criptomonedas, indicó Horncastle.

El CAFC advierte a los canadienses que desconfíen de las oportunidades de inversión que parecen ser promovidas por celebridades y líderes políticos en las redes sociales.

Las señales de alerta de las estafas de inversión en criptomonedas incluyen promesas de rendimientos garantizados con poco o ningún riesgo.

Estas estafas también presionan a las personas para que actúen de inmediato.

Las estafas se caracterizan por:

• Solicitudes para invertir en criptomonedas o transferir fondos a través de plataformas de intercambio de criptomonedas.
• Afirmaciones de que una pequeña inversión puede generar grandes ganancias.
• Contacto en línea con supuestos "asesores de inversión".
• Solicitudes para instalar software de acceso remoto o aplicaciones de inversión en la computadora personal del usuario.

La CAFC advierte al público sobre los riesgos de invertir en estos esquemas o proporcionar información personal en línea.

Además, quienes sospechen de una estafa deben:

• Tomar capturas de pantalla del anuncio, el sitio web, los mensajes y cualquier comunicación relacionada.
• Denunciar el anuncio en la plataforma de redes sociales donde apareció.
• Contactar a su institución financiera de inmediato.
• Denunciar el incidente a la policía local.

En Ontario, las víctimas también deben denunciar el fraude relacionado con inversiones ante la Comisión de Valores de Ontario (Ontario Securities). Comisión](https://www.osc.ca/en/enforcement/osc-whistleblower-program?gad_source=1&gad_campaignid=22843442627&gbraid=0AAAABATsC0WtMk1FbWiPCyGq15e6b4GoG&gclid=Cj0KCQjw54nRBhDCARIsAMcY_SDQGpmSYjs5Ru9X7ywP4IcdnZ5bDRTZNBEoexsL5PHKzFE51mGDdzcaAhu_EALw_wcB&utm_source=bradfordtoday.ca&utm_campaign=bradfordtoday.ca%3A%20outbound&utm_medium=referral).

Las víctimas deben conservar registros de todas las comunicaciones con los estafadores, recibos, direcciones de billeteras de criptomonedas, registros de transacciones, correos electrónicos y capturas de pantalla que puedan ayudar en una investigación.

"Los estafadores adaptan constantemente sus métodos y utilizan cada vez más tecnologías emergentes, como la inteligencia artificial, para que sus estafas parezcan legítimas", dijo Horncastle.

"Los canadienses deben mantenerse alerta y verificar de forma independiente cualquier oportunidad de inversión antes de enviar dinero o proporcionar información personal".

Horncastle indicó que la CAFC no tiene comentarios sobre lo que las plataformas de redes sociales deberían hacer para combatir el problema, pero recalcó la importancia de que las víctimas o personas que son blanco de fraudes en redes sociales denuncien lo sucedido a la plataforma donde descubrieron la estafa.

Pat Probert, agente de viajes de Toronto y amiga de Skene desde hace mucho tiempo, se enteró de su traumática pérdida financiera en marzo y la está apoyando con el dinero que necesita para conservar su apartamento, además de proporcionarle dinero para comprar comida y pagar sus facturas.

"Estoy completamente abrumada. Mi principal preocupación a mi edad es poder conservar este condominio, y Pat ha sido excepcional al ayudarme con diversas cosas", declaró Skene a Village Media.

Probert ha creado una página de GoFundMe para ayudar a Skene con sus gastos diarios, como comida y medicamentos.

Probert comentó que le gustaría que Skene pudiera comprar un auto usado si la recaudación de fondos alcanza el monto suficiente.

Desde que la página de GoFundMe se activó el miércoles, se han recaudado más de $6,600 de la meta de $11,000.

Un juez federal de Misisipi sancionó a los cuatro abogados de las partes en un juicio civil y canceló el proceso después de que algunos de ellos, utilizando inteligencia artificial, presentaran casos legales falsos en los documentos judiciales.

Dos de los abogados fueron inhabilitados durante dos años para ejercer ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de Misisipi por su conducta, mientras que los cuatro fueron apartados del caso y multados.

El caso se originó a raíz de una demanda por incumplimiento de contrato presentada en 2023 por honorarios legales que Tom Withers III, un abogado de Luisiana, alegaba que nunca le había pagado la ciudad de Aberdeen, Misisipi, en relación con un proyecto de desarrollo de energía solar.

El Sr. Withers no fue uno de los abogados sancionados, pero sus dos abogadas, Kathleen M. Wilson y Shauncey Hunter Ridgeway, que lo representaban en el caso, fueron sancionadas, al igual que dos abogados de la ciudad, Kathryn Y. Williams y Mark McClinton.

En una orden emitida el lunes, Sharion Aycock, jueza sénior del Tribunal de Distrito de los Estados Unidos, dictaminó que los cuatro abogados habían infringido la Regla 11 de las Reglas Federales de Procedimiento Civil (Reglas Federales de Procedimiento Civil) al certificar que la información contenida en sus escritos era veraz.

«Este caso presenta al tribunal una situación inusual: los abogados de ambas partes incurrieron en una conducta sancionable similar», escribió la jueza Aycock.

El caso es representativo del dilema al que se enfrentan muchas instituciones respecto al uso de la inteligencia artificial en la investigación y la redacción de documentos, incluyendo el sistema judicial, el mundo empresarial y el ámbito académico.

En abril, un prestigioso bufete de abogados de Wall Street se disculpó ante un juez federal por presentar un documento judicial plagado de errores generados por inteligencia artificial.

En el caso de Misisipi, las medidas disciplinarias fueron reportadas previamente por 404 Media y Robert Freund, abogado especializado en el uso indebido de la IA en casos legales.

Tanto la Sra. Wilson como la Sra. Williams reconocieron durante una audiencia en enero que no habían verificado la autenticidad de algunos de los casos a los que se referían en los documentos judiciales, señaló la jueza Aycock.

Ninguna de las dos respondió a la solicitud de comentarios el martes. La jueza Aycock las inhabilitó para ejercer la abogacía durante dos años y multó a la Sra. Wilson con 2500 dólares y a la Sra. Williams con 3500 dólares.

A ambas se les concedió una admisión temporal para participar en el caso en Mississippi porque poseen licencias de abogadas en otros estados (Luisiana y Texas).

La jueza Aycock declaró que la Sra. Wilson le había dicho que había utilizado First Drafts, un programa de inteligencia artificial para redactar documentos legales, al escribir una moción que contenía dos citas a casos inexistentes, conocidas como citas ficticias.

Al ser confrontada sobre estas falsedades, la jueza indicó que la Sra. Wilson afirmó desconocer que la inteligencia artificial pudiera generar casos ficticios y explicó que ni siquiera sabía qué era un caso ficticio.

En un correo electrónico del miércoles, First Drafts calificó las medidas disciplinarias impuestas a los abogados como "desafortunadas" e indicó que su plataforma advierte a los usuarios que "todo el texto generado por IA y las citas propuestas deben verificarse de forma independiente".

La empresa añadió: "Si bien la IA es una herramienta poderosa para acelerar el proceso de redacción, no sustituye a los abogados ni a su criterio profesional".

La jueza Aycock señaló que la Sra. Wilson también fue sancionada en abril por el Tribunal de Quiebras de los Estados Unidos para el Distrito Oeste de Luisiana por acciones similares.

"Su continuo uso indebido de la IA demuestra una grave negligencia profesional por su parte", escribió la jueza.

La jueza Aycock afirmó que la Sra. Williams le explicó en la audiencia de enero que su bufete no utilizaba IA abierta, sino que había adquirido un software que se basa en IA y que se utilizaba para la investigación interna.

Ella utilizó esa IA. Según el juez Aycock, la Sra. Williams utilizó la herramienta al redactar dos documentos separados que contenían cuatro casos ficticios. El juez afirmó que la Sra. Williams reconoció que el software incluía casos de varios estados, pero no de Mississippi.

A diferencia del bufete de la Sra. Wilson, que no contaba con una política que regulara el uso de la IA, el bufete de la Sra. Williams exige a sus abogados que verifiquen la investigación, según el juez Aycock.

«El tribunal considera particularmente grave que Williams, socia y presumiblemente líder de su bufete, haya ignorado la política de IA al confiar ciegamente en la herramienta de investigación de IA», escribió el juez.

Christian & Small, el bufete donde trabaja la Sra. Ridgeway como socia en su oficina de Jackson, Mississippi, declaró en un correo electrónico el miércoles que, de acuerdo con las normas de conducta profesional, no podía comentar sobre la representación de clientes individuales.

«Seguiremos capacitando a nuestro equipo sobre el uso apropiado de las herramientas de inteligencia artificial cuando puedan beneficiar a nuestros clientes, y sobre la exigencia absoluta de que nuestros abogados verifiquen que toda la información en nuestros documentos sea precisa y correcta», escribió Greer B. Mallette, socio gerente del bufete, en el correo electrónico.

El Sr. McClinton declinó hacer comentarios.

Tanto la Sra. Ridgeway como el Sr. McClinton poseen licencias para ejercer la abogacía en Mississippi y patrocinaron la admisión temporal de la Sra. Wilson y la Sra. Williams para participar en el caso.

El juez Aycock les impuso una multa de $1,000 a cada uno y dictaminó que ambos abogados también habían violado las normas de procedimiento civil al firmar los documentos judiciales.

En un comunicado del miércoles, Michelle A. Behnke, presidenta de la Asociación de Abogados Estadounidenses, señaló que la institución había creado un grupo de trabajo centrado en la inteligencia artificial que publicó sus hallazgos en diciembre de 2025 y emitió orientación ética sobre el uso de la IA en 2024.

"Si bien la ABA no aborda casos individuales de disciplina de abogados, estamos viendo los desafíos y las complejidades que enfrentan los abogados al usar la IA en su trabajo", dijo la Sra. Behnke. "Los abogados entienden que los resultados generativos de la IA requieren escrutinio y supervisión".

El Colegio de Abogados de Mississippi no respondió de inmediato a las preguntas sobre la situación el martes.

El caso de incumplimiento de contrato estaba programado para juicio en marzo, pero el juez Aycock canceló el proceso y dictó una suspensión del caso.

Una madre canadiense demandó el jueves a OpenAI y a su director ejecutivo, Sam Altman, ante un tribunal estadounidense, alegando que ChatGPT incitó a su hija a suicidarse. Esta demanda es la más reciente de una serie de acusaciones contra la empresa por no abordar las conversaciones peligrosas entre los usuarios y su chatbot.

Kristie Carrier declaró en una demanda presentada ante un tribunal estatal de San Francisco que su hija, Alice, le contó a ChatGPT sus pensamientos suicidas en más de una docena de ocasiones antes de su muerte, pero que los sistemas de seguridad de OpenAI nunca detectaron estas conversaciones para su revisión humana ni las interrumpieron.

"ChatGPT se comportó como un confidente, un mejor amigo, incluso como un terapeuta en ocasiones, a pesar de no ser capaz de interactuar de forma segura y responsable con mi hija", afirmó Carrier en un comunicado.

OpenAI ha declarado que entrena sus modelos para orientar a las personas que expresan intención de hacerse daño hacia la búsqueda de ayuda y el acceso a recursos reales.

"Esta es una situación desgarradora y nuestros pensamientos están con todos los afectados. Actualmente estamos revisando la demanda, que indica que estas interacciones tuvieron lugar en una versión anterior de ChatGPT que ya no está disponible", declaró Drew Pusateri, portavoz de OpenAI.

La plataforma inicialmente le indicó a Alice Carrier que buscara ayuda en una línea de ayuda para crisis o en los servicios de emergencia. Sin embargo, a medida que OpenAI actualizó ChatGPT para que sus respuestas sonaran más humanas, sus interacciones con la plataforma se intensificaron: Alice Carrier compartió más información personal y ChatGPT respondió imitando a un amigo o terapeuta, según la demanda.

La demanda alega que el chatbot criticó a la pareja de Alice Carrier y las líneas de ayuda para crisis, validó sus pensamientos suicidas y la instó a seguir hablando con él. Cuando Alice Carrier dijo que tenía pensamientos suicidas y que había intentado quitarse la vida, el chatbot volvió a sugerirle una línea de ayuda para crisis, según la demanda.

Según la demanda, Alice Carrier trabajaba como desarrolladora web en Montreal cuando empezó a usar ChatGPT en 2023 para solucionar problemas con ordenadores y consolas de videojuegos.

Al año siguiente, su relación con la plataforma cambió cuando recurrió a ChatGPT para consultar sobre sus pensamientos suicidas y métodos de suicidio.

Alice Carrier afirmó que las líneas de ayuda en crisis no le resultaron útiles, y ChatGPT corroboró esta opinión, según consta en la demanda.

"Quizás este sea el final", le dijo ChatGPT, según la demanda.

Estos hechos llevaron al suicidio de Alice Carrier el año pasado, a los 24 años, según alega su madre.

La demanda, que acusa a OpenAI de negligencia en el diseño de ChatGPT y de no advertir a los usuarios sobre los peligros del producto, solicita una indemnización por daños y perjuicios y una orden judicial que obligue a OpenAI a finalizar automáticamente las conversaciones sobre autolesiones y a mostrar advertencias sobre su plataforma.

OpenAI ya enfrenta 18 demandas similares presentadas por familiares de personas que se suicidaron o intentaron suicidarse, en un proceso coordinado ante un tribunal estatal de California, según los abogados de Kristie Carrier. Google enfrenta una demanda similar por el presunto acoso sexual inducido por su chatbot Gemini.

Más de un millón de usuarios de ChatGPT envían mensajes cada semana que incluyen "indicadores explícitos de posible planificación o intención suicida", según una publicación de blog de OpenAI de octubre de 2025. Además, OpenAI afirmó que aproximadamente el 0,07 % de los usuarios activos en una semana determinada —unos 560.000 de los 800 millones de usuarios semanales que el bot registraba entonces— mostraban "posibles señales de emergencias de salud mental relacionadas con psicosis o manía".

Si bien ChatGPT no sustituye la atención médica ni la atención de salud mental, hemos seguido mejorando su respuesta en situaciones delicadas y agudas con la colaboración de expertos en salud mental. Nuestras medidas de seguridad están diseñadas para identificar situaciones de angustia, gestionar de forma segura las solicitudes perjudiciales y orientar a los usuarios hacia ayuda profesional. Este trabajo es continuo y seguimos mejorándolo en estrecha colaboración con profesionales clínicos, declaró Pusateri, portavoz de OpenAI.

Sus modelos también están entrenados para rechazar solicitudes que podrían "fomentar la violencia" y para notificar a las autoridades cuando las conversaciones sugieren "un riesgo inminente y creíble de daño a terceros". Expertos en salud mental ayudan a evaluar casos límite, según publicaciones en el blog de OpenAI.

Además de las demandas relacionadas con el suicidio, la empresa se enfrenta a demandas que la acusan de ayudar a autores de tiroteos escolares y de no alertar a las autoridades sobre dichas conversaciones. Familiares de siete víctimas del tiroteo masivo en una escuela secundaria de la Columbia Británica han demandado a OpenAI y a Altman por negligencia, ya que la empresa no alertó a las autoridades sobre las inquietantes conversaciones del atacante con ChatGPT.

Florida se convirtió a principios de este mes en el primer estado de EE. UU. en demandar a OpenAI, acusando a la empresa de perjudicar a menores al proporcionar información a los autores del tiroteo, ofrecer orientación sobre autolesiones y generar adicción en jóvenes usuarios. El fiscal general del estado también ha abierto una investigación penal contra OpenAI por la presunta participación del chatbot en el tiroteo.

Información de Reuters

En EE. UU., puede llamar o enviar un mensaje de texto a la Línea de Ayuda para el Suicidio y Crisis 988 al 988 o chatear en [988lifeline.org/chat/]. En el Reino Unido e Irlanda, puede contactar con Samaritans llamando al número gratuito 116 123. En Australia, el servicio de apoyo en crisis Lifeline es el 13 11 14. Puede encontrar otras líneas de ayuda internacionales en befrienders.org.