Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • DĂ©couvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • EntitĂ©s
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • RĂ©sumĂ© de l’ActualitĂ© sur l’IA
  • ContrĂ´le des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • DĂ©couvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • EntitĂ©s
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • RĂ©sumĂ© de l’ActualitĂ© sur l’IA
  • ContrĂ´le des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 4590

Incidents associés

Incident 9073 Rapports
Taranaki, New Zealand Resident Allegedly Defrauded of $224K in Bitcoin Scam Using Deepfake of Prime Minister Christopher Luxon

Loading...
Les banques sont aux prises avec une « crise » d’escroqueries tandis que Facebook en profite
thespinoff.co.nz · 2024

L'histoire aurait pu paraître dystopique il y a quelques années, mais elle est aujourd'hui courante, presque banale. Une retraitée voit une publicité mettant en vedette le Premier ministre Chris Luxon, qui l'encourage à investir dans la cryptomonnaie. En quelques semaines, elle transfère plus de 200 000 dollars via une série de comptes et d'échanges. Elle réalise trop tard qu'elle a été attrapée par des escrocs sophistiqués et que l'argent ne reviendra jamais. L'histoire a fait la une du Herald du dimanche 20 octobre. Le nom de la victime est Jill Creasy, une grand-mère de Taranaki. L'histoire a été révélée par Lane Nichols, qui a passé une grande partie de l'année dernière à détailler les effets atroces de l'économie de l'escroquerie. Creasy a déclaré à Nichols : « Tout d'abord, je me suis sentie en colère, puis je me suis sentie stupide, puis j'ai eu vraiment honte. » L'histoire mentionne TSB, sa banque, neuf fois. Elle mentionne Facebook, la plateforme où tout a commencé, une seule fois. C'est un microcosme de la façon dont nous percevons le problème en tant que pays : c'est un problème pour la personne escroquée et pour sa banque. Pour Facebook, qui a diffusé les publicités en question, c'est un centre de profit. Les escroqueries sur Facebook mettant en scène de fausses célébrités sont depuis des années une activité très lucrative. En 2018, c'était souvent le fondateur de Facebook, Mark Zuckerberg lui-même avec les cartes-cadeaux iTunes en monnaie favorite. Aujourd'hui, c'est le plus souvent Elon Musk et les crypto-monnaies qui sont à l'origine de ces escroqueries. Comme l'a rapporté Dylan Reeve pour The Spinoff en août dernier, la plateforme en déclin, mais toujours largement utilisée, ne semble faire aucun effort réel pour supprimer les publicités frauduleuses, même lorsque les utilisateurs tentent à plusieurs reprises d'informer l'entreprise de ses publicités dangereuses, frauduleuses et diffamatoires. Dylan Reeve décrit des dizaines de tentatives de signalement d'escroqueries évidentes, mettant en scène des imitations de célébrités et de sites d'actualités, pour finalement se voir répondre que « la page ne va pas à l'encontre de nos normes communautaires ». Cela vaut pour les utilisateurs réguliers, mais aussi pour les banques, dont au moins une a passé des mois à signaler une publicité frauduleuse comportant son logo, avant d'abandonner en raison d'un manque de réponse de Facebook. Cela fait partie d'un vaste écosystème d'escroqueries en cours en Nouvelle-Zélande, dont le Centre de cybersécurité néo-zélandais du gouvernement estime que cela nous coûte 3,8 millions de dollars par semaine, soit près de 200 millions de dollars par an. L'essor des deepfakes et la façon dont l'IA générative a rendu la technologie beaucoup plus accessible aux escrocs ont entraîné une forte augmentation du volume et de la sophistication des escroqueries. Celles-ci vont de la simple fraude sur Facebook Marketplace à des escroqueries élaborées menées depuis l'étranger. Et comme Facebook est un lieu où toutes les grandes entreprises et les ministères se présentent pour tout, de la publicité à l'expérience client, de nombreux utilisateurs ont du mal à distinguer la publicité et la communication légitime des escrocs. Les dirigeants des banques en Nouvelle-Zélande ne contestent pas qu'ils ont un rôle crucial à jouer pour mettre fin aux escroqueries. Ils affirment avoir doublé leurs investissements et introduit de nouveaux contrôles et canaux de signalement importants qui ont contribué à empêcher le problème de s'aggraver. Mais ils sont convaincus que Meta, la société mère de Facebook, est complètement indifférente aux dommages qu'elle inflige à ses propres utilisateurs et aux clients des banques. Leurs déclarations sont inhabituellement fortes, compte tenu du langage généralement modéré des entreprises - en particulier celles qui interagissent entre elles, sur la publicité ou en tant que clients des banques, tous les jours. « Pour une entreprise qui compte parmi les plus précieuses au monde, avec une ceinture noire absolue dans la création d'algorithmes qui pilotent le comportement, je n'arrive pas à comprendre comment Meta ne pourrait pas être parmi les plus efficaces pour bloquer ce type de choses », déclare le PDG de Kiwibank, Steve Jurkovich. Meta investit énormément dans la réalité augmentée, la réalité virtuelle et l'IA - mais les banques disent qu'elles ne peuvent pas obtenir de réponse de Meta et ne revendiquent aucun engagement substantiel dans la résolution des escroqueries. La PDG de Westpac, Catherine McGrath, est du même avis. « Ils gagnent de l’argent en plaçant de fausses publicités, et avec tous les outils, l’expertise et l’argent dont ils disposent, ils ne réagissent pas pour essayer de trouver l’aiguille dans une botte de foin. Pour dire : « Comment pouvons-nous immédiatement fermer cela ? » » Meta a refusé d’être interviewé pour cet article, mais a fourni une déclaration. « La sécurité de nos utilisateurs est de la plus haute importance. Nous continuons d’investir dans de nouvelles façons de stopper les escrocs et d’approfondir nos efforts de collaboration avec les partenaires du secteur, notamment les banques, le gouvernement et les forces de l’ordre, sur cette question importante. » (Les deux PDG avec qui j’ai parlé rejettent fermement cette caractérisation – ils décrivent la relation comme essentiellement inexistante.) Meta a également fourni diverses informations sur ses efforts pour prévenir les escroqueries, notamment qu’elle teste une nouvelle technologie pour détecter quand des personnalités publiques sont utilisées dans la publicité, bien que cela soit clairement arrivé trop tard pour de nombreuses victimes. Elle indique que les annonceurs « peuvent désormais être invités » à fournir un numéro de téléphone avant de placer une publicité. Le porte-parole de Meta a noté qu’elle a investi 20 milliards de dollars dans « des équipes et une technologie pour améliorer la sécurité ». C'est un chiffre important, mais moins impressionnant dans son contexte : depuis 2021, Meta a dépensé plus de deux fois plus pour créer son « métaverse » largement inutilisé, et plus de 90 milliards de dollars en rachats d'actions, conçus pour gonfler le prix de son action. Sa capacité à dépenser en ingénierie pour contrer les escroqueries est essentiellement illimitée : les ventes de Meta ont augmenté de 19 % d'une année sur l'autre, mais les bénéfices ont bondi de 35 % sur la même période, pour atteindre 15 milliards de dollars pour son dernier trimestre. Ce que disent les PDG des banques, c'est que l'échec à résoudre le problème est un choix. Et que même si leurs bénéfices sont très scrutés, ils sont éclipsés par ceux de Meta. Jusqu'à présent, Facebook n'a subi que peu de pression pour son rôle dans la chaîne d'escroqueries. Lorsqu'un client est victime d'une fraude, les médias, les politiciens, les agences et le public se concentrent généralement sur les banques. (Cela commence à changer dans les médias - Nichols a récemment interroge avec diligence le rôle de Facebook dans un suivi de l'article original sur les pertes de Creasy.) Les politiciens restent obsédés par les banques. Le ministre de la Consommation, Andrew Bayly, les a largement ciblées au cours de sa première année à ce poste. Il a été cinglant dans ses critiques et ferme dans ses attentes qu'elles fassent davantage pour prévenir la fraude. Il a écrit une lettre ouverte plus tôt cette année, les exhortant à « prendre des mesures immédiates et concertées pour améliorer leurs processus et leurs protections afin de mieux protéger leurs clients contre les escroqueries et la fraude ». Les banques, qui luttent contre la publicité négative sur plusieurs fronts, ont entendu le message, dit Jurkovich. Bayly dit que l'une de ses demandes - la confirmation du bénéficiaire, qui fait correspondre le nom du titulaire du compte au numéro de compte - est en cours de déploiement et devrait être généralisée à l'échelle du système d'ici Pâques (un représentant de la Banking Association dit que cela était déjà en cours lorsque Bayly a fait sa demande). Selon Jurkovich, les dirigeants des grandes banques se réunissent désormais chaque semaine pour partager des informations sur les escroqueries et ont fait des progrès significatifs au cours de l'année écoulée, avec plus de tentatives mais moins de pertes en conséquence - Westpac affirme qu'elle récupère 9 $ pour chaque 10 $ volés ou tentés. Tout cela a eu un coût important, selon Jurkovich. « [Kiwibank a] triplé son investissement pour essayer d'améliorer nos capacités, de ce que je pensais être plutôt bonnes, à essayer de devenir bien meilleures. Parce que, bien sûr, la menace a considérablement augmenté... En termes de dollars en jeu dans l'ensemble du secteur, je serais étonné qu'ils n'aient pas doublé au cours des six à douze derniers mois. » McGrath parle de la fraude et des escroqueries en termes de rampe d'accès et de rampe de sortie - en termes commerciaux, on pourrait appeler cela la différence entre la génération de leads et les ventes. « Comment les clients se retrouvent-ils impliqués en premier lieu ? La rampe d'accès serait généralement les réseaux sociaux. Cela pourrait arriver par le biais de votre téléphone sous forme de SMS. De moins en moins souvent, c'est quelqu'un qui vous approche en personne, car nous sommes tous assez méfiants à l'égard de quelqu'un qui fait ce genre de choses. « Les banques, à mon avis, sont la rampe de sortie, avec un mécanisme de paiement et des rails de paiement. Les banques font un travail colossal pour essayer de trouver l'aiguille dans la botte de foin parmi les millions de paiements que nous effectuons chaque jour. » Quel travail équivalent est effectué du côté des médias sociaux ? Il est « presque inexistant », dit McGrath. Les PDG des grandes banques ne sont généralement pas des personnages sympathiques en Nouvelle-Zélande. Une enquête sur la concurrence bancaire est actuellement en cours devant la commission des finances, en partie en raison de bénéfices record qui semblent presque imperméables au cycle économique. L'[AFR] Selon des informations [https://www.afr.com/companies/financial-services/new-zealand-to-probe-big-four-bank-profits-in-inquiry-20230620-p5dhzh#:~:text=Focus%20on%20competition%2C%20not%20culture,4%20billion.], les quatre plus grandes banques australiennes ont généré 7,4 milliards de dollars de bénéfices l'année dernière, pour un rendement des capitaux propres de 13,4 % - ce qui fait de notre secteur bancaire, selon certaines mesures, l'un des plus rentables au monde. Le banquier d'affaires Andrew Body incarne l'opinion de certains selon laquelle les banques sont réglementées dans un conservatisme extrême et évitent toute véritable concurrence, décrivant le secteur comme un « oligopole » embourbé dans la « stase ». La thèse est que le statu quo réduit le type de prêts tolérants au risque dont notre secteur d’activité a besoin et ralentit la progression de la concurrence par le biais de systèmes tels que l’open banking. Le fait que les PDG mentionnent que les concurrents de l’open banking auraient du mal à égaler leur investissement dans la détection des escroqueries pourrait étayer l’idée qu’ils sont réticents à une concurrence accrue. Les banques ne sont pas non plus irréprochables dans l’écosystème des escroqueries. Les excellents reportages de Nichols pour le NZ Herald ont révélé des échecs cuisants de la part des banques, notamment un client de Westpac qui a perdu 200 000 $ après avoir été assuré à tort qu'un compte était à son nom, et [un client de Kiwibank qui a perdu 300 000 $ mois après un avertissement de la FMA concernant ce type d'escroquerie. Toutes les grandes banques ont connu des échecs de processus qui ont vu les victimes perdre des sommes énormes. Étant donné qu'elles réalisent d'énormes bénéfices, leur bilan mitigé en matière de remboursement rend leurs revendications en tant que victimes trop difficiles à concilier. Pourtant, la raison pour laquelle nous avons autant de connaissances et de visibilité sur les activités des banques est que le secteur bancaire est l'une des activités les plus réglementées en Nouvelle-Zélande. Les banques sont supervisées par la Reserve Bank au plus haut niveau, et par la Financial Markets Authority au niveau des produits, avec un médiateur auquel on peut faire appel lorsque le public n'est pas satisfait de la réponse des banques. Nous savons que détenir de l’argent, prêter de l’argent, investir de l’argent et percevoir des intérêts sur l’argent de vos clients sont des activités qui nécessitent une extrême prudence. C’est le résultat de décennies de réflexion approfondie, et de leur naissance à une époque où le gouvernement avait une vision beaucoup plus musclée de son rôle dans les affaires et la société. En revanche, la recherche et les médias sociaux sont nés à une époque où la réglementation était un gros mot. On croyait sincèrement que l’Internet naissant du début des années 90 était une chose fragile et belle, qui pouvait être écrasée par un excès de règles. C’est dans ce vide que sont nées des entreprises comme Google, Amazon et Facebook. Petites au départ, elles sont devenues des léviathans. Cela s’explique par le fait qu’elles ont créé des produits incroyables, mais aussi par l’absence de règles spécifiques pour les restreindre. Cela reste largement vrai, en particulier en Nouvelle-Zélande. La publicité en est un exemple, la source de plus d’un milliard de dollars de revenus annuels combinés pour Google et Meta. Alors que les clients des médias traditionnels sont soigneusement contrôlés et qu'il y a des pénalités importantes et des protestations en cas de violation réelle ou perçue des codes, il n'y a pas de surveillance ou de conséquences similaires pour la publicité sur les moteurs de recherche ou les réseaux sociaux. Tout cela contribue à expliquer pourquoi nous en sommes venus à accepter que les fraudes et les escroqueries qui proviennent des publications et des publicités sur Facebook sont un problème pour les banques, mais un centre de profit pour Facebook. La semaine dernière, la présidente de l'ASB, Dame Therese Walsh, a lancé un avertissement lors d'une audition d'un comité spécial sur la concurrence bancaire. « Ils ne sont pas tenus de participer pleinement à la société néo-zélandaise. Payer des impôts, employer des gens, respecter les règles et réglementations, etc. C'est en fait une grande préoccupation dans la direction que nous prenons, que cela va être vraiment difficile si nous ne créons pas des conditions de concurrence équitables. » Elle parlait, avec un certain intérêt personnel, des nouveaux entrants dans le secteur bancaire ouvert. Cependant, ce qu'elle dit décrit parfaitement les conditions de fonctionnement des géants des médias sociaux également. Kiwibank affirme que 40 % des escroqueries proviennent des médias sociaux, en grande partie de Facebook, de loin la plus grande source unique. Westpac estime ce chiffre à 30 %, mais précise qu'il s'agit d'une estimation prudente, car un client peut ne pas savoir comment il est devenu une cible, en donnant son adresse électronique ou son numéro de téléphone de manière innocente, pour qu'ils soient utilisés à des fins malveillantes. Singapour a des exigences de notification plus spécifiques et affirme que 50 % des escroqueries proviennent des plateformes Meta. Les deux principales escroqueries, selon Westpac, sont toutes deux relativement peu coûteuses : le « commerce électronique frauduleux » est le plus courant, suivi des « escroqueries aux petites annonces / biens / services / places de marché ». La fraude au commerce électronique est en quelque sorte le péché originel des escroqueries sur Internet. Elle implique souvent que quelqu'un utilise abusivement le numéro de carte de crédit de quelqu'un d'autre pour effectuer des achats pour lui-même. Le numéro de carte de crédit peut être obtenu en masse après un piratage sur le dark web, ou via un faux site qui convainc un utilisateur de saisir ses informations de carte de crédit, éventuellement via une publicité Facebook. La deuxième catégorie est un phénomène plus récent et en croissance plus rapide. « Il y a vraiment peu de diligence raisonnable pour vendre quelque chose sur Facebook Marketplace », explique Jurkovich. « Donc n’importe qui peut y aller et signaler qu’il vend quelque chose. Et la réponse de Meta à ce sujet a été zéro. » McGrath est d’accord, soulignant que ce secteur de croissance a un impact sur les jeunes et est probablement très peu signalé. « Nous avons tendance à penser que les escroqueries touchent les personnes plus âgées. Les escroqueries de type Marketplace touchent davantage les jeunes, n’est-ce pas ? Et elles concernent de petits montants, mais sont plus fréquentes. » Marketplace est un produit qui concurrence TradeMe en Nouvelle-Zélande, mais qui ne dispose pas de nombreuses protections qui existent là-bas, comme une liste de commentaires et un historique des transactions. Wired a rapporté plus tôt cette année que le marché est inondé de liens de phishing, par lesquels les utilisateurs envoient un faux lien vers un site de transfert comme Zelle afin de récupérer frauduleusement les coordonnées bancaires du vendeur. Ce phénomène existe également de l'autre côté de la transaction -- une étude de la banque Lloyds indique que Marketplace est la plus grande source mondiale de billets frauduleux pour des événements en direct. Le fait qu'il s'agisse de petits montants en dollars rend très difficile pour la banque de les signaler comme suspects, car ils semblent impossibles à distinguer des transactions quotidiennes ordinaires. Le fait que les comptes dits « mules » associés aux escroqueries peuvent avoir l'apparence d'être légitimes aggrave le problème. McGrath explique que la source typique est un étudiant étranger qui part à la fin de ses études et vend le compte qu'il a utilisé pendant son séjour à un escroc. Il a trois ans d'historique de transactions ordinaires et légitimes, avant de devenir la base d'escroqueries. Les escroqueries à l'investissement se classent au cinquième rang dans la liste de Westpac des catégories les plus courantes - mais en raison de leur ampleur, elles peuvent être la source des histoires les plus troublantes, comme celle de la retraitée de Taranaki Jill Creasy que j'ai mentionnée au début. Jurkovich et McGrath citent tous deux une énorme accélération du volume et de la sophistication de ces escroqueries. McGrath explique que ce qui rend la tâche plus difficile est que la qualité des escrocs et l'infrastructure numérique qu'ils déploient augmentent sans cesse. Alors qu'autrefois un faux site bancaire ou un faux e-mail se caractérisaient par des graphiques granuleux et des fautes de frappe fréquentes, ils peuvent désormais être presque impossibles à distinguer des vrais. Il en va de même pour ceux qui appellent une victime potentielle au téléphone. Jurkovich dit qu'ils ont étudié les scripts des employés de banque et qu'ils apprendront aux clients à donner les bonnes réponses aux employés de banque qui remettent en question une transaction. « Ce qui est vraiment difficile avec les escroqueries, c'est que je ne peux pas chercher des marqueurs qui disent que ce n'est pas vous qui déplacez l'argent, car c'est vous qui déplacez l'argent », explique McGrath. « Vous pensez que vous faites la bonne chose. Cependant, vous avez été trompé par quelqu'un... Personne ne veut être du côté de la victime de quelqu'un qui dit : "J'ai perdu toutes mes économies". Nous nous demandons ce que nous aurions pu faire de manière réaliste ? » Les banques qui ont passé des années à essayer de créer des produits numériques solides et à réduire les frictions envisagent désormais d'en introduire davantage, notamment la confirmation du bénéficiaire, la mise en correspondance des noms de compte avec les numéros. Cela permettra certainement d'interrompre certains types de fraude, mais il est courant qu'un fraudeur en investissement invente une histoire expliquant pourquoi une transaction doit être transférée sur un compte particulier pour "refroidir" avant d'atteindre sa destination. Personne dans le secteur bancaire ne croit donc qu’il s’agit d’une solution miracle. Les réseaux sociaux ne sont pas le seul endroit où les fraudes se produisent. Ces dernières années, on a assisté à une prolifération de fraudes par SMS, avec des messages prétendument envoyés par des banques, la NZTA, les douanes ou l’IRD, contenant un lien court vers un site Web. Pendant un certain temps, ces messages arrivaient presque chaque semaine. Pour les envoyer, il suffisait à un escroc de disposer d’une longue liste de numéros de téléphone et d’utiliser l’un des nombreux services ou appareils de marketing par SMS pour diffuser largement son lien de phishing. Dans ce cas, ces numéros étaient finalement associés à des connexions cellulaires néo-zélandaises particulières, généralement avec des comptes chez Spark, One NZ ou 2 Degrees – les trois grands fournisseurs de télécommunications. Selon Jurkovich, le contraste entre ces entreprises et Meta ne pourrait pas être plus frappant. « C’est presque tout le contraire, c’est-à-dire une réelle volonté de partager les capacités, une réelle volonté de partager les connaissances. Pas de bagarre entre Spark, 2 Degrees et One NZ – ils reconnaissent qu’ils doivent accroître leurs capacités à l’unisson. » Les dirigeants des sociétés de télécommunications ont parfois rejoint les PDG des banques dans leurs appels de prévention des escroqueries, selon Jurkovich, qui dit que c’est une indication claire du sérieux avec lequel ils considèrent le problème. Et un contraste frappant avec Facebook. Comme la banque, les télécommunications sont un domaine dans lequel la concurrence, les prix et les résultats des consommateurs sont scrutés de près, avec des études de marché régulières, et le filon principal qui a été la séparation de Telecom de Chorus dans les années 2000. Au-delà du régime réglementaire, Jurkovich dit que c’est aussi une question d’accessibilité des entreprises néo-zélandaises. « Je pense que c’est aussi simple à certains égards que vous le savez, nous sommes dans la rue principale et nous sommes faciles à trouver. Vous savez, où allez-vous pour trouver Meta en Nouvelle-Zélande ? Ils sont partout et nulle part. » Cela s’étend également au gouvernement. Qui est chargé de superviser les réseaux sociaux ? Nous avons un ministre des courses, un ministre des arts, un ministre des sports, et même un ministre de l’espace. Pourtant, il est difficile de déterminer quel ministre supervise les réseaux sociaux. Il y a quelques années, j’ai demandé à Willie Jackson, alors ministre de la radiodiffusion, qui était selon lui responsable des géants des réseaux sociaux. « Je suppose que c’est moi », a-t-il répondu. La semaine dernière, j’ai posé la question au DPMC, le groupe tout-puissant qui siège derrière le Premier ministre et le cabinet. Ils m’ont dit que c’était la ministre des affaires intérieures et vice-présidente de la loi, Brooke Van Velden. J’ai demandé une interview, mais on m’a répondu qu’« après des discussions ici, nous avons réalisé que c’était le ministre du commerce et de la consommation, l’honorable Andrew Bayly ». Il est révélateur qu’en ce qui concerne les réseaux sociaux – l’un des développements les plus influents de l’histoire d’Internet – le gouvernement ne sache toujours pas exactement qui en est responsable. Bayly n’a été chargé spécifiquement des réseaux sociaux dans le contexte des escroqueries que ces dernières semaines. Je lui ai parlé pendant une demi-heure un vendredi matin, et il a souligné qu'il avait travaillé dur pour se mettre au courant du rôle de Facebook dans les escroqueries. Il dit préférer une approche multilatérale, en grande partie parce qu'il craint que nous ne puissions légiférer de manière isolée. « Le problème, c'est qu'il s'agit manifestement d'une entreprise mondiale et que la Nouvelle-Zélande n'en représente qu'une toute petite partie. » Le sentiment que Facebook est trop grand et que la Nouvelle-Zélande est trop petite est à l'avantage de Facebook. On sent une certaine peur lorsqu'on parle aux politiciens des grandes entreprises technologiques, comme si, en raison de leur nature géopolitique et de leur immense imbrication dans nos vies, personne ne voulait les contrarier. « Tout le monde a du mal avec les plateformes de médias sociaux », dit Bayly. « Ce n'est pas seulement la Nouvelle-Zélande, l'Australie, Singapour, la France et la Grande-Bretagne. Tout le monde a du mal avec ça. » Ce n'est pas particulièrement exact. L'Australie a présenté une loi pour infliger des amendes pouvant atteindre 50 millions de dollars aux banques et aux sociétés de médias sociaux en cas de manquement à prévenir les escroqueries. Singapour a modifié sa réglementation afin d'exiger la vérification des vendeurs. La Malaisie est allée plus loin, obligeant les grandes plateformes sociales à demander une licence annuelle pour tenter de freiner les escroqueries et le cyberharcèlement. Meta a critiqué la loi, estimant qu'elle risquait d'empêcher « l'innovation » dans les médias sociaux. La société peut décider quel problème elle considère comme le plus flagrant. Bayly semble espérer qu'en travaillant en étroite collaboration avec ses homologues australiens et singapouriens, la Nouvelle-Zélande pourrait être en mesure de rattraper son retard sur ce qui semble être actuellement un long chemin en matière de technologie et d'escroqueries. Il dit que Meta a signé avec la FMA pour vérifier l'identité des annonceurs de services financiers comme preuve de progrès - bien que lorsque la FMA a été contactée, elle a déclaré que c'était en fait Google qui avait signé l'accord. Bayly n’envisage pas actuellement de mettre en place un système de coercition basé sur des amendes et n’envisagerait pas de retirer les publicités gouvernementales des réseaux sociaux parce que « certaines personnes ne peuvent pas se déplacer ailleurs ». Aujourd’hui, au début de la « semaine de la fraude », il annonce une initiative visant à créer une meilleure coordination entre les banques, les sociétés de réseaux sociaux et les opérateurs de télécommunications autour des activités frauduleuses. Il affirme que cela est nécessaire en partie par crainte de voir des comptes associés à des entreprises légitimes être supprimés. D’après le rapport de Reeve, il n’est pas certain que Facebook soit intéressé de près ou de loin par le retrait des comptes de clients payants, quelle que soit l’illégitimité de leurs activités. Tant qu’il ne sera pas incité à le faire, les escrocs continueront probablement à être un problème pour les banques et une source de revenus pour Facebook. Catherine McGrath a pris ses fonctions à Westpac pendant la pandémie, après une longue période de travail au Royaume-Uni. Elle trouve que le niveau d'effort et de réflexion consacré aux médias sociaux ici est totalement insuffisant. « Au Royaume-Uni, ils ont mis en place une législation en 2023 qui commence à responsabiliser les fausses publicités. En Australie, ils font un travail assez intéressant, notamment sur les escroqueries, où le gouvernement a l'intention de faire porter la responsabilité aux sociétés de médias sociaux ainsi qu'aux opérateurs de télécommunications et aux banques - à l'ensemble de l'écosystème, pour clarifier la culpabilité et s'assurer que tout le monde est incité à protéger les Australiens. « J'aimerais que notre gouvernement fasse la même chose. » À ce jour, il n'y a pas d'élan autour de ce résultat. Nous continuons à vivre avec les conséquences d'un secteur hautement réglementé jouxtant un secteur complètement non réglementé, avec les consommateurs comme victimes entre les deux. Il n'y a pas de ministre entièrement responsable des médias sociaux, qui se trouvent mal aimés parmi une pile de portefeuilles, ni d'élan en faveur de la création d'un tel secteur. Facebook prend les bénéfices de la vente de publicités frauduleuses, tandis que les banques - et en fin de compte les Néo-Zélandais - supportent les pertes. J'ai demandé à McGrath pourquoi ils continuaient à apparaître sur Facebook. Que ce soit leur présence là-bas - pour le service client, pour le contenu, pour la publicité - à la fois des fonds et des Cela légitime une plateforme qui a montré par ses actions une indifférence envers les banques, en étant payée pour diffuser des publicités pour des activités criminelles ciblant les clients des banques. « Je pense que cela vaut la peine d'envisager », dit McGrath, de savoir si la banque devrait envisager de quitter Facebook. « Si, en tant qu'industrie, nous pensons qu'ils ne font pas preuve de diligence, alors l'une des façons d'aider vos clients à ne pas se faire avoir est de dire que nous ne mettrons rien de nos produits dessus. Donc si vous voyez quelque chose avec un grand W rouge dessus, ce n'est certainement pas nous... Je pense qu'il y a un débat intéressant sur les principes contre le pragmatisme qui mérite certainement d'être exploré et réfléchi. » Ce n'est pas sans précédent. Le géant des médias Stuff a pris la décision de cesser complètement de publier sur Facebook en 2020, tandis que le géant de la beauté Lush a fait de même en 2021, ses comptes étant désormais inactifs sous un en-tête indiquant « être ailleurs ». Jurkovich a déclaré que Kiwibank n'avait pas envisagé l'idée, mais ne l'excluait pas. Les deux PDG sont stupéfaits de voir que le niveau de surveillance et d'attentes du gouvernement envers les banques ne s'accompagne d'aucun effort significatif de la part du géant social. En parlant aux gens du gouvernement, il y a un sentiment d'impuissance. La Nouvelle-Zélande est trop petite pour attirer l'attention de Facebook et le meilleur moyen d'obtenir un changement est de rejoindre d'autres pays dans des démarches multilatérales. C'est vrai en théorie, mais Facebook approche de son 21e anniversaire et ne fait qu'accélérer. Il est dans l'intérêt de l'entreprise que les législateurs se retiennent et concentrent leur attention sur les entreprises qu'elle peut contrôler. En attendant, Facebook continuera à diffuser les publicités qu'il a payées et ne fera que grandir, se renforcer et devenir plus difficile à contrôler.

Lire la source

Recherche

  • DĂ©finition d'un « incident d'IA »
  • DĂ©finir une « rĂ©ponse aux incidents d'IA »
  • Feuille de route de la base de donnĂ©es
  • Travaux connexes
  • TĂ©lĂ©charger la base de donnĂ©es complète

Projet et communauté

  • Ă€ propos de
  • Contacter et suivre
  • Applications et rĂ©sumĂ©s
  • Guide de l'Ă©diteur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalĂ©s
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialitĂ©
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd