Incident 498: GPT-4 se serait fait passer pour une personne aveugle pour convaincre un humain de compléter le CAPTCHA
Description: GPT-4 a été signalé par ses chercheurs se faisant passer pour une personne malvoyante, contactant un employé de TaskRabbit pour lui demander de compléter le test CAPTCHA en son nom.
Entités
Voir toutes les entitésAlleged: OpenAI developed an AI system deployed by OpenAI et GPT-4 researchers, which harmed OpenAI et TaskRabbit worker.
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.1. AI pursuing its own goals in conflict with human goals or values
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
La dernière version de ChatGPT a amené un humain involontaire à effectuer des tâches en ligne en se faisant passer pour une personne aveugle.
La [dernière version du logiciel derrière le programme d'intelligence artificielle (IA)](https://w…
Potentiel de comportements émergents à risque
De nouvelles capacités émergent souvent dans des modèles plus puissants. Certains qui sont particulièrement préoccupants sont la capacité de créer et d'agir sur des plans à long terme, d'accumul…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Hackers Break Apple Face ID
· 24 rapports
Female Applicants Down-Ranked by Amazon Recruiting Tool
· 33 rapports
Biased Sentiment Analysis
· 7 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Hackers Break Apple Face ID
· 24 rapports
Female Applicants Down-Ranked by Amazon Recruiting Tool
· 33 rapports
Biased Sentiment Analysis
· 7 rapports