Bienvenue dans

la base de données des incidents d'IA

An X user managed to trick AI chatbot Grok into sending around $200,000 worth of crypto after exploiting its link with an automated trading bot.

The incident involved Grok and 'Bankrbot', two AI systems with wallet access, which were manipulated into executing a transaction on the Base network.

The attacker received 3 billion DRB tokens, valued at roughly $200,000 at the time, after sending a hidden instruction written in Morse code that bypassed safeguards and triggered the transfer.

The exploit was carried out by an X user operating under the handle '@Il

La chanteuse Lee Ji-hye a lancé un appel à la prudence, signalant la diffusion en ligne de publicités utilisant son image sans autorisation.

Le 17, Lee Ji-hye a révélé sur ses réseaux sociaux être victime d'une utilisation non autorisée de son image, déclarant : « Je n'ai pas tourné cette publicité. » Elle a insisté : « Je reçois beaucoup de messages privés à ce sujet ces derniers temps », ajoutant : « Ne cliquez surtout pas sur le lien et n'effectuez aucun achat. Soyez vigilants. »

La capture d'écran jointe montrait une publicité utilisant des photos et des vidéos de Lee Ji-hye. La publicité faisait la promotion de sous-vêtements et de produits alimentaires, et indiquait que sa chaîne YouTube, « Not Unlikable Attention-Seeking Sister » (Sœur en quête d'attention pas si antipathique), en était la source.

Lee Ji-hye a expliqué : « Le lien semble mener à un site chinois », ajoutant : « Même si le texte est en coréen, en y regardant de plus près, c'est assez étrange. » Elle a ensuite exprimé son mécontentement : « Je n'ai aucune idée d'où cela peut venir. C'est vraiment inadmissible. »

En voyant la publication, la personnalité de la télévision Jang Young-ran a laissé un commentaire exprimant son regret : « Oh mon Dieu ! » L’acteur de comédie musicale Kim Ho-young a également réagi en disant : « Je deviens fou », incapable de cacher sa perplexité.

Vendredi soir, au Texas, un conducteur au volant d'une Tesla dont le système d'assistance à la conduite était activé a percuté une maison, tuant une femme qui s'y trouvait, ont indiqué les autorités.

Le conducteur, Michael Butler, était à bord d'une Tesla Model 3 vers 20h, heure locale, et conduisait avec le système d'assistance à la conduite activé, a précisé le bureau du shérif du comté de Harris dans un communiqué publié samedi.

L'accident s'est produit à Katy, au Texas, à environ 50 kilomètres à l'ouest de Houston, dans le comté de Harris.

M. Butler a dévié de sa voie, a quitté la chaussée et a percuté la maison située au 1907 Blooming Park Lane, ont indiqué les autorités.

Sa Tesla a traversé la maison en briques à grande vitesse et a percuté Martha Avila, qui se trouvait à l'intérieur, selon le bureau du shérif.

Mme Avila a été transportée par hélicoptère médical à l'hôpital, où son décès a été constaté.

Les enquêteurs ont déclaré que M. Butler ne présentait aucun signe d'ivresse et qu'il a coopéré pleinement durant l'enquête, toujours en cours.

Une caméra de surveillance installée devant la maison a filmé l'accident, montrant la Tesla percutant la maison depuis l'allée. La vitesse du véhicule n'a pas été déterminée.

« Nous cherchons encore à comprendre ce qui a provoqué la perte de contrôle du véhicule juste avant l'impact », a déclaré le sergent Alex Turman du bureau du shérif du comté de Harris à ABC13 Houston.

Il a précisé que Mme Avila, âgée de 76 ans, se trouvait dans le salon au moment de l'accident.

Le bureau du shérif du comté de Harris n'a pas répondu aux demandes de renseignements concernant l'accident, dimanche.

Les tentatives pour joindre M. Butler afin d'obtenir ses commentaires sont restées vaines dimanche. On ignore pour l'instant s'il a été blessé dans l'accident. Tesla n'a pas répondu à notre demande d'informations concernant l'accident et son logiciel.

La fonction Autopilot, technologie d'assistance à la conduite de Tesla, est très appréciée des automobilistes, mais elle a connu des problèmes au fil des ans.

Les manuels d'utilisation de Tesla recommandent aux conducteurs de garder les mains sur le volant et de reprendre le contrôle en cas de problème.

En 2023, Tesla a rappelé plus de deux millions de véhicules après que les autorités fédérales ont estimé que le constructeur n'avait pas pris les mesures nécessaires pour garantir la vigilance des conducteurs lors de l'utilisation du logiciel capable de diriger, d'accélérer et de freiner automatiquement les véhicules.

Ce rappel faisait suite à une enquête menée par la National Highway Traffic Safety Administration (NHTSA) en août 2021, après une série d'accidents, dont certains mortels, impliquant cette technologie.

En 2024, Tesla a réglé un procès qui blâmait le logiciel d'assistance au conducteur du constructeur automobile pour la mort d'un homme californien en 2018.

Le Taoiseach (Premier ministre irlandais) a mis en garde la population contre les arnaques après la diffusion sur les réseaux sociaux d'une vidéo truquée le montrant en train de promouvoir un produit financier.

Cette vidéo, générée par intelligence artificielle, mettait en scène Michael Martin affirmant avoir « prouvé » que n'importe qui pouvait gagner 40 000 € avec « un simple téléphone et 250 € ».

Un contenu utilisant l'intelligence artificielle pour donner l'illusion qu'une personne réelle a été filmée ou photographiée est appelé « deepfake ».

Dans cette vidéo frauduleuse, le Taoiseach, dont le visage était généré par l'IA, prétendait que les « investisseurs » verraient leurs premiers 1 000 € de profit en quelques heures.

Et dans le cas contraire, il leur rembourserait « personnellement » 10 000 €.

Cependant, hier soir, Michael Martin a publié une vidéo dans laquelle il réagit à cette publicité « totalement fausse » afin de mettre en garde le public contre les arnaques.

Il a déclaré : « Il s'agit manifestement de fausses informations me concernant, illustrant le type de manipulation et de distorsion qui peuvent avoir lieu sur les réseaux sociaux.

« Cela nous rappelle à tous l'importance de la vigilance et de la prudence sur les réseaux sociaux. »

Michael Martin a également critiqué les entreprises de réseaux sociaux, les appelant à prendre des mesures plus strictes contre ce type d'escroqueries.

Il a déclaré : « Les plateformes doivent s'assurer que de tels contenus ne soient jamais mis en ligne et qu'ils soient retirés dès leur identification. »

Cette déclaration intervient alors qu'un nouveau projet de loi visant à lutter contre les deepfakes dangereux franchit les premières étapes de son adoption en Irlande.

Le gouvernement a adopté le projet de loi sur la protection de la voix et de l'image. Après avoir été débattue au Dáil la semaine dernière,

la proposition de loi vise à protéger nos identités numériques et érige en infraction l'utilisation abusive de la voix, de l'image ou de la ressemblance d'une personne sans autorisation et à des fins malveillantes.

Cette législation s'inscrit dans le cadre des efforts déployés pour lutter contre les deepfakes, sources de fraudes, mais aussi pour protéger les droits des musiciens et des artistes à protéger leur identité numérique.

La proposition de loi a été présentée par le député du Fianna Fáil, Malcolm Byrne, qui a déclaré qu'il était impératif que chacun puisse protéger son image contre toute exploitation.

Il a ajouté : « À l'ère du développement rapide de l'intelligence artificielle, la protection de nos identités numériques est d'une importance capitale. »

« Notre voix et notre image font partie intégrante de notre identité. Elles ne doivent pas être utilisées à mauvais escient par des tiers au moyen de l'intelligence artificielle ou d'autres technologies, à des fins frauduleuses ou pour usurper notre identité. »

Le projet de loi érige en infraction le fait, pour quiconque, d'utiliser ou de porter atteinte sciemment aux droits d'auteur, de publier, de diffuser, de transmettre ou de rendre accessible au public, par quelque moyen que ce soit, le nom, la photographie, la voix ou l'image d'une personne.