Problème 2801

Hoan Ton-That, PDG de Clearview AI a rencontré Cliquez ici pour discuter des opérations de son entreprise en Ukraine et des controverses qui ont pesé sur ce qui est devenu la plus grande reconnaissance faciale au monde réseau. (Il veut 100 milliards d'images dans la base de données d'ici un an. C'est presque 13 photographies pour tout le monde sur terre.)

Entre autres choses, quelque 400 enquêteurs en Ukraine utilisent Clearview AI pour monter des dossiers de crimes de guerre, identifier les morts – russes et ukrainiens – et dire aux familles restées en Russie que leurs enfants sont morts pendant la guerre.

Peu de temps après que l'entreprise a commencé à fournir des connexions gratuites aux enquêteurs ukrainiens, une [force de piratage bénévole appelée l'armée informatique d'Ukraine](https://podcasts.apple.com/us/podcast/7-fighting-russia-with-computers- not-rifles/id1225077306?i=1000554821180) semblaient utiliser un programme qui ressemble à Clearview AI à des fins similaires.

Le ministère ukrainien de la transformation numérique a confirmé à Click Here qu'il utilise également Clearview pour informer les familles des soldats tombés au combat. Ils disent que c'est en partie pour donner aux Russes un avant-goût du véritable coût de la guerre et en partie pour dire aux familles que si elles souhaitent récupérer les corps de leurs proches, elles peuvent se rendre en Ukraine pour le faire.

Hoan Ton-That a parlé de la controverse entourant son entreprise biométrique, des dangers liés à l'utilisation de la technologie dans une zone de guerre et de ce à quoi s'attendre de Clearview à l'avenir.

L'interview a été modifiée pour plus de clarté.

Cliquez ici : Comment Clearview en est-il venu à jouer un rôle aussi important en Ukraine ?

Hoan Ton-That : Lorsque la guerre a commencé, c'était vraiment choquant pour moi et beaucoup de membres de notre équipe de voir en particulier les séquences vidéo de femmes et d'enfants souffrant et cela m'a fait réfléchir, comment pouvons-nous aider ? À l'origine, je voyais des photos de soldats russes capturés, et j'ai réalisé qu'avec ce genre de qualité photo, notre technologie de reconnaissance faciale pouvait être utile. J'ai donc contacté de nombreux membres de notre conseil consultatif pour leur demander : connaissez-vous quelqu'un au sein du gouvernement ukrainien, et une personne — Lee Wolosky — il au Conseil de sécurité nationale sous trois présidents, il a rapidement dit oui. Nous avons pensé que cela pourrait être utile pour identifier les soldats décédés et suivre la désinformation.

CH : En quoi pourrait-il être utile de suivre la désinformation ?

HT-T : Vous verriez beaucoup de choses sur les réseaux sociaux disant qu'il s'agit d'un soldat russe capturé, mais vous pourriez voir des gens de l'autre côté dire en fait que c'est un acteur rémunéré et voici le nom de l'acteur rémunéré . Ainsi, avec cette technologie, le niveau de précision peut être utilisé pour identifier si quelqu'un est bien celui qu'il prétend être.

CH : Qui en Ukraine a accès à Clearview AI ?

HT-T : C'est dans six agences différentes, y compris la police nationale d'Ukraine. Ensuite, les gens sur le terrain l'utiliseraient. Donc, une fois que nous avons fait une démonstration, nous leur avons donné une formation sur la façon d'utiliser la technologie de reconnaissance faciale de manière responsable. Donc, une partie de la formation consistait à envoyer des photos de personnes non identifiées et à les faire passer dans le système et nous pouvions leur montrer : "Hé, c'est comme ça que vous vérifiez qui c'est." Ainsi, par exemple, s'ils ont un tatouage qui correspond en ligne, il y a de fortes chances qu'il s'agisse de la même personne.

CH : Vous avez inséré cette technologie dans une zone de guerre, ce qui présente beaucoup plus de problèmes que de la faire utiliser par un service de police aux États-Unis. Comment comptabilisez-vous cela ?

HT-T : Vous devez faire attention à ce qu'ils sachent vraiment comment l'utiliser correctement. Il y a donc tous ces scénarios dont nous voulons nous assurer qu'ils ne se produisent pas. Par exemple, que se passe-t-il si quelqu'un prend une photo de quelqu'un et dit : « Hé, je pense que tu es un traître russe. Et puis ils les arrêtent. Et tout est incorrect basé sur des informations incorrectes. Nous ne voudrions donc jamais qu'une telle chose se produise. Tant que ces enquêtes sont menées par des enquêteurs formés, cela peut être un outil très utile. S'il était utilisé par tout le monde, je pense que c'est là que les problèmes surviennent.

CH : Quelle est l'utilisation la plus surprenante que vous ayez vue en Ukraine ?

HT-T : Enquêtes sur les crimes de guerre. Nous parlions à des gens de la police nationale d'Ukraine et d'autres où ils ont des images vidéo de caméras de surveillance. Les smartphones sont plus répandus, il y a donc plus de chances que quelque chose soit enregistré. Maintenant, avec cette technologie, s'il est facile d'identifier quelqu'un, je pense que les gens vont réfléchir à deux fois aux crimes de guerre. C'était donc une surprise pour moi.

CH : Il s'agit donc d'un service d'abonnement, et vous dites que cela vous donne plus de contrôle si quelqu'un en abuse... comment fonctionne Clearview AI ?

HT-T : Nous examinons chaque personne pour nous assurer qu'il s'agit bien d'un représentant du gouvernement qui l'utilise. Il existe également une authentification à deux facteurs, de sorte qu'ils doivent toujours vérifier leur appareil avant de se connecter. Une fois qu'ils ont un compte, il y a un administrateur pour chaque agence. Ainsi, l'administrateur peut voir qui effectue des recherches et pour quelle raison ils effectuent la recherche. Il existe un formulaire d'admission qui exige un numéro de dossier et un type de crime avant d'effectuer une recherche. Ainsi, lorsqu'ils sont embarqués et qu'ils découvrent le logiciel, les gens savent que leurs recherches peuvent être auditées parce que nous voulons nous assurer qu'ils l'utilisent pour le bon type de choses. Parce qu'il s'agit d'un service Cloud, nous avons la possibilité de révoquer l'accès. S'il y a un abus flagrant de la technologie, vous voulez vous assurer que nous avons la capacité de le supprimer.

**CH : L'IT Army semble l'utiliser. Dans une vidéo, le groupe a démontré l'utilisation d'un programme de reconnaissance faciale qui semble ressembler à Clearview AI. Il s'agit d'une force de piratage bénévole, alors comment se fait-il que l'armée informatique ukrainienne semble utiliser Clearview AI ? **

HT-T : Tout ce que je peux dire, c'est que toutes les personnes que nous avons intégrées sont des fonctionnaires. Nous n'avons embarqué personne directement dans l'IT Army. Tous ceux à qui nous parlons et à bord, nous leur donnons une formation appropriée sur son utilisation. La spéculation selon laquelle l'armée informatique exécute une recherche Clearview AI ne correspond à aucune information dont nous disposons à ce sujet. Clearview AI est destiné à être utilisé en Ukraine par les forces de l'ordre et les responsables gouvernementaux.

CH : Est-ce que quelqu'un a peut-être donné un nom d'utilisateur et un mot de passe à quelqu'un qui est dans l'armée informatique ?

HT-T : il est possible que quelqu'un partage une capture d'écran ou partage son fonctionnement, mais nous voulons nous assurer que, quelle que soit l'utilisation de la technologie (par exemple, pour identifier une personne décédée), cela soit fait d'une manière c'est positif. La politique de la Police Nationale et de tous nos usagers est de prévenir les membres de la famille de manière humaine.

CH : Aviez-vous pensé que l'armée informatique utiliserait cette technologie pour informer les familles des soldats morts comme outil de propagande ?

HT-T : J'ai parlé à certains responsables [du gouvernement russe] et j'ai dit : "Écoutez, est-ce quelque chose que vous saviez ?" Est-ce votre procédure pour faire cela ? Puis dit que ce n'est pas notre procédure officielle. Et ils m'ont assuré que ce n'était pas non plus ce qu'ils voulaient qu'il se passe. Encore une fois, c'est le temps de la guerre. Les tensions sont vraiment fortes. Ces choses peuvent arriver.

Si je pensais qu'il serait utilisé d'une très mauvaise manière, je ne pense pas que je leur donnerais accès. Nous pensons que le plus important est de diffuser l'information de manière humaine. Ce que nous pouvons contrôler en tant que Clearview, c'est donner accès aux bonnes personnes. Ainsi, par exemple, nous ne donnons pas accès aux Russes ou quoi que ce soit du genre et nous veillons à ce que l'Ukraine soit entraînée de la manière la plus appropriée possible.

CH : Avez-vous révoqué un accès lié à l'Ukraine parce que vous pensiez qu'il n'était pas utilisé correctement ?

HT-T : Non, pas pour le moment, mais les administrateurs de ces agences en Ukraine ont la possibilité de le faire. Ils peuvent entrer et vérifier les recherches, supprimer l'accès à un compte et donner l'accès qu'ils jugent approprié. Clearview AI ne révoquerait l'accès à une agence que s'il y avait une quantité flagrante d'abus dans cette agence. Jusqu'à ce que quelque chose dégénère vraiment à ce niveau, nous n'avons révoqué aucun accès.

CH : Le groupe NSO est une société israélienne qui fabrique des logiciels de surveillance pouvant être implantés à distance dans les smartphones. Il a fait l'objet de vives critiques pour sa technologie utilisée par des gouvernements autoritaires pour espionner les citoyens. Avec votre technologie de reconnaissance faciale, comment évitez-vous le piège NSO ?

HT-T : Je pense que NSO est un type de technologie très différent de ce que nous faisons. Nous recherchons des informations publiques sur Internet. C'est donc vraiment comme Google. Si vous pouvez taper le nom de quelqu'un et le mot LinkedIn dans Google et que vous trouvez sa photo, alors Clearview peut essentiellement faire la même chose, mais c'est une recherche par photo. Nous travaillons également avec les forces de l'ordre. NSO est différent parce qu'il s'introduit dans les téléphones, des données très privées. De plus, lorsqu'ils vendent leur logiciel, ils n'ont pas la possibilité de le reprendre s'ils le vendent au mauvais acteur ou au mauvais gouvernement. Alors que le logiciel Clearviews est déployé dans le cloud. Si jamais nous trouvions quoi que ce soit de totalement flagrant ou abusif, nous avons la possibilité de révoquer l'accès. Nous voulons également nous aligner sur les pays démocratiques, en veillant à ce qu'il s'agisse d'une technologie qui peut être utilisée de manière responsable et dans tous les pays démocratiques.

CH : Pouvez-vous imaginer un scénario, dans des années et des années, où tout le monde aura cette capacité que ce serait comme des lunettes VR ou intégré dans un téléphone ?

HT : Je peux imaginer que la réalité augmentée est un moyen intéressant où elle pourrait être déployée sur des bases militaires. En Afghanistan, ils ont eu une situation où, lorsqu'ils se retiraient à un point de contrôle, les terroristes pouvaient faire exploser des gens. Ils regardent de près les ID. Pour vérifier quelqu'un à distance de manière mains libres, je pense que c'est un cas d'utilisation très positif.