Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 1932

Loading...
Puis-je scanner votre visage ?
thecrimson.com · 2021

Une idée qui a commencé comme une blague entre étudiants de première année à Annenberg s'est rapidement transformée en une application à part entière dont le nom évoque un certain projet de 2004 par un étudiant en deuxième année de Harvard. Au début de la tentative de création de l'application FaceTag, les préoccupations concernant l'éthique et la confidentialité ont commencé à éclipser ce qui semblait à l'origine un moyen simple de connecter les étudiants.

La transition vers l'université présente aux étudiants de première année un certain nombre de défis : vivre seuls pour la première fois, reconstruire une routine et être bombardés de noms et de visages inconnus sans fin. L'application créée par Yuen Ler Chow '25 cherche à résoudre ce dernier problème, en utilisant la technologie de reconnaissance faciale pour faciliter ces nouvelles interactions sociales. Son idée originale, FaceTag, permet à ses utilisateurs de scanner les visages d'autres étudiants de Harvard et d'acquérir leur nom et leurs coordonnées, répondant ainsi au problème de la dissociation visage-nom sur le campus.

Chow se souvient quand le deuxième jour d'école, il parlait avec deux connaissances à Annenberg et s'est soudain rendu compte qu'il "ne connaissait même pas leurs noms". En plaisantant, il a proposé sa prochaine aventure : "Ce ne serait pas super sympa si je pouvais te scanner et obtenir ton nom ?"

Au cours des jours suivants, il a codé son idée, inspiré par l'idée que sa blague pourrait en fait être utilisée pour aider à rationaliser les échanges de contacts. Sans FaceTag, dit Chow, il « faudra au moins une minute pour simplement taper dans votre téléphone, puis le taper mal, puis redémarrer – tout ce problème. Je pensais : et si un scan du visage pouvait résoudre ce problème ? »

Chow a pris environ une semaine pour coder le projet à partir du moment où il a eu l'idée. Bien qu'il ait reçu les commentaires de son colocataire sur la programmation, il dit que FaceTag est "99%" de son travail.

"Le but est que ce soit le moyen standard de rencontrer quelqu'un", déclare Chow.

Chow dit que l'application compte actuellement environ 100 utilisateurs, mais il espère la voir grandir dans les prochaines semaines alors qu'il intensifie ses efforts de marketing et de promotion. Le matériel promotionnel de l'application assure actuellement aux utilisateurs qu'elle est "exclusivement destinée aux étudiants de Harvard", mais Chow espère étendre FaceTag à d'autres collèges et communautés sur toute la ligne.

La professeure d'informatique Barbara J. Grosz, fondatrice d'Embedded EthiCS, une organisation de Harvard qui intègre l'éthique dans les programmes d'informatique, a déclaré qu'elle espère que Chow a pris en compte les implications éthiques de la création de FaceTag.

Grosz note que "les étudiants qui s'engagent dans ce type d'entreprise sont la raison pour laquelle nous avons Embedded EthiCS à Harvard, qui, nous l'espérons, incitera les étudiants à réfléchir non seulement s'ils pourraient construire un certain type de système, mais s'ils devraient le construire et de quelle manière. ils devraient le concevoir.

Grosz espère que les développeurs d'applications tiennent compte de l'éthique de leur application et interrogent les "valeurs concurrentes": "En ce qui concerne une application qui connecte les gens entre eux, la vitesse et l'efficacité ne sont pas les seules valeurs pertinentes", dit-elle.

Chow a écrit dans un e-mail que ces préoccupations ne concernent pas FaceTag.

"Que je doive le faire dépend de la façon dont (et de la qualité) je le conçois", a écrit Chow, notant qu'il a intégré des fonctionnalités de sécurité et que "l'utilisateur a essentiellement un contrôle total sur qui a accès aux données".

Chow a également rencontré des inquiétudes concernant l'accès aux informations de contact via la photographie d'une personne, ou le visage de quelqu'un scanné à son insu. Avec ces préoccupations à l'esprit, Chow a développé une fonction de confidentialité dans laquelle un utilisateur doit donner sa permission avant que quelqu'un d'autre puisse accéder à son profil. Après la mise en œuvre de cette fonctionnalité, cependant, Chow a continué à entendre des inquiétudes similaires, il espère donc qu'au fur et à mesure que les gens apprendront les fonctionnalités de confidentialité, leurs préoccupations seront résolues.

Il pense que "si vous ne comprenez pas le fonctionnement de l'application, vous pourriez penser que c'est effrayant".

Des questions ont également été soulevées quant à savoir si les données collectées par FaceTag pourraient être consultées par d'autres personnes. Cependant, Chow dit que les données doivent être sécurisées car elles sont stockées dans la Firebase de Google. Bien que Chow ait accès à toutes les données collectées par l'application, il pense que ce n'est pas un problème. "Techniquement, j'ai accès à tout cela, mais encore une fois, [for] chaque application de médias sociaux existante, les personnes qui ont créé l'application y ont accès", a-t-il déclaré. "Donc je ne pense pas que ce soit quelque chose de spécial."

Rebecca O. Thompson '22 pense que FaceTag "rend simplement les rencontres et les conversations avec les gens beaucoup plus impersonnelles", ajoutant: "Je comprends, mais je ne comprends pas. Je ne sais pas pourquoi le truc du visage est nécessaire.

Chow pense que FaceTag est utile pour accroître l'efficacité de l'échange d'informations de contact. "Le temps passé à leur donner votre téléphone pourrait maintenant être remplacé par une conversation significative", dit-il.

Chow a clôturé un e-mail promotionnel plus tôt cette année avec : « FaceTag est le prochain Facebook. Je suis Zuck, mais en mieux. Il maintient son approche légère de l'application qui a commencé comme une blague en se comparant à Mark Zuckerberg : "Je pense que c'était juste assez drôle que The FaceTag ressemble à The Facebook. Il a une histoire de démarrage similaire à Harvard, c'est pourquoi je l'ai gardé.

Et pourtant, Chow veut préciser que son application a "beaucoup plus" de confidentialité que Facebook en ce sens qu'elle ne collecte pas les "données inutiles" que Facebook fait. C'est cette distinction que Chow considère comme rendant son application différente.

Il dit: "J'essaie d'être plus que Mark Zuckerberg."

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd