Description: Microsoft was reported by a Twitter user for deploying image analysis feature capable of solving CAPTCHAs for its GPT-based chatbot despite it being safeguarded against solving them for users.
インシデントのステータス
インシデントID
552
レポート数
1
インシデント発生日
2023-06-22
エディタ
Khoa Lam
インシデントレポート
レポートタイムライン
twitter.com · 2023
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
I'd heard that GPT-4's image analysis feature wasn't available to the public because it could be used to break Captcha.
Turns out it's true: The new Bing can break captcha, despite saying it won't:
Getting many comments about whether this i…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。イン シデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents