Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Problème 3169

Incidents associés

Incident 5521 Rapport
Bing Chat Solved CAPTCHAs with Image Analysis Feature Despite Safeguards

Loading...
Tweet : @sayashk
twitter.com · 2023

J'avais entendu dire que la fonction d'analyse d'image de GPT-4 n'était pas accessible au public car elle pouvait être utilisée pour casser Captcha.

Il s'avère que c'est vrai : le nouveau Bing peut casser le captcha, même s'il dit que ce ne sera pas le cas :

Obtenir de nombreux commentaires sur la question de savoir s'il s'agit d'une nouvelle capacité, afin de clarifier : la résolution de tels CAPTCHA à l'aide de ML est possible depuis au moins deux décennies.

Par exemple, cet article de NeurIPS décrivait des techniques pour résoudre des CAPTCHA textuels similaires… en 2004 :

https://proceedings.neurips.cc/paper_files/paper/2004/file/283085d30e10513624c8cece7993f4de-Paper.pdf

L'astuce pour rendre CAPTCHA utile est de continuer à réinventer les tâches une fois que les méthodes précédentes ont été rompues.

La figure montre combien de temps il a fallu pour briser divers schémas CAPTCHA (en rouge) et lesquels n'ont toujours pas été brisés (en vert) :

(Image de : https://dl.acm.org/doi/pdf/10.1145/3477142)

Mise à jour : L'analyse d'images sur Bing n'est plus disponible. (les captures d'écran montrent hier par rapport à aujourd'hui)

Soit MS a entièrement désactivé le déploiement.

Ou ils ont spécifiquement supprimé mon accès. Ce serait nul, car ils découragent activement les gens de trouver des problèmes !

Lire la source

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd