Incidents associés
Le monde est un endroit extraordinairement complexe. J'ai l'impression que nous venons tout juste de nous faire à l'idée que les images sont retouchées, et maintenant les voix et vidéos truquées par l'IA rendent difficile de faire confiance à quoi que ce soit. Il est important d'écouter cette voix dans votre tête comme l'a fait un dirigeant de Ferrari, car l'entreprise a probablement évité une erreur coûteuse et embarrassante en déjouant les escrocs d'une manière délicieusement ironique.
Akio Toyoda ne peut pas blâmer l'IA pour la perte de confiance dans son entreprise. Non, mes amis, c'est un cas classique d'une entreprise qui en fait trop trop vite. Les constructeurs automobiles japonais en tant que groupe sont, en général, dans une situation étrange, c'est pourquoi il se murmure que Mitsubishi va rejoindre l'alliance logicielle Honda/Nissan.
Et, enfin, terminons cet épisode de The Morning Dump avec quelques nouvelles sur la prochaine Cadillac Celestiq.
Comment un livre a vaincu un deepfake d'IA
La scène dépeinte par cet article Bloomberg est assez inquiétante. Un dirigeant anonyme de Ferrari reçoit une série de messages WhatsApp du PDG Benedetto Vigna lui disant qu'un gros contrat est en cours et que le plus grand secret est de mise.
C'est un peu risqué, cela implique beaucoup d'argent et doit être gardé secret pour le moment, selon le rapport. Vigna utilise un numéro différent car il ne veut pas que quiconque le sache. Le dirigeant doit s'attendre à ce qu'un accord de confidentialité soit signé dès que possible.
De toute évidence, personne ne voudrait qu'un dirigeant envoie une grosse somme d'argent à cause d'un e-mail et d'un message WhatsApp en l'année de notre Logano 2024, mais un appel téléphonique de Vigna a suivi :
La voix se faisant passer pour Vigna était convaincante --- une imitation parfaite de l'accent du sud de l'Italie.
Le deepfaker de Vigna a commencé à expliquer qu'il appelait depuis un autre numéro de téléphone portable parce qu'il avait besoin de discuter de quelque chose de confidentiel --- un accord qui pourrait rencontrer des problèmes liés à la Chine et nécessiterait une transaction de couverture de change non spécifiée.
Le dirigeant a été choqué et a commencé à avoir des soupçons, selon les personnes. Il a commencé à capter la plus légère des intonations mécaniques qui n'ont fait qu'approfondir sa méfiance.
"Désolé, Benedetto, mais je dois vous identifier", a déclaré le dirigeant. Il a posé une question : quel était le titre du livre que Vigna venait de lui recommander quelques jours plus tôt ?
Je dois dire que ce simple article a déclenché une vague de pensées dans mon cerveau.
Tout d'abord, un excellent reportage de Bloomberg. Deuxièmement, il existe de nombreuses applications permettant de créer un bot vocal IA en environ 11 minutes, et il existe de nombreuses informations audio publiques de la part d'un PDG pour que cela fonctionne.
Troisièmement, le monde est un endroit extrêmement complexe, rempli de mauvais acteurs numériques. Au cours des dernières semaines, nous avons vu CDK Global remettre potentiellement des centaines de millions de dollars à des pirates informatiques. Bon sang, même postuler à un emploi dans un magasin de pièces détachées il y a cinq ans était risqué !
Quatrièmement, le directeur général a fait un excellent travail en ayant la présence d'esprit de combattre tout cela.
Cinquièmement, et enfin, l'ironie de la façon dont tout cela a été résolu est presque trop parfaite. Non seulement une attaque d'ingénierie sociale/deepfake par IA a été repoussée par un livre, mais le livre lui-même est si évident qu'on pourrait croire qu'ils l'inventent : Décalogue de la complexité : agir, apprendre et s'adapter dans le devenir incessant du monde
Voici la description (traduite) :
Pourquoi la complexité augmente-t-elle toujours ? Quel est le dilemme de la complexité ? Que signifie danser avec des systèmes complexes ? Quelles sont les implications de la loi de la variété nécessaire ? Quel est le lien entre paradoxe et métamorphose ? Voilà quelques-unes des questions auxquelles ce Décalogue tente de répondre. Dans l'immense littérature existante sur la complexité, dix sujets traités de manière synthétique peuvent représenter pour le lecteur novice une occasion de découvrir un thème fascinant et pour le lecteur expert une occasion de relire, avec un fil conducteur différent, des thèmes clés du sujet.
Le livre semble spécifiquement porter sur la complexité des systèmes en relation avec les entreprises et, ici, nous voyons un exemple de la façon dont la complexité (en termes de communication et de structure d'entreprise) a presque contribué à une perte de capital importante. C'est fou.