Description: New York City's chatbot, launched under Mayor Eric Adams's plan to assist businesses, has been reportedly providing dangerously inaccurate legal advice. The Microsoft-powered bot allegedly informed users that landlords can refuse Section 8 vouchers and that businesses can operate cash-free, among other falsehoods. The city acknowledges the chatbot is a pilot program and commits to improvements while the errors are addressed.
Alleged: Microsoft と New York City Office of Technology and Innovation developed an AI system deployed by New York City Government と Eric Adams administration, which harmed Eric Adams administration , New York City small business owners , New York City landlords and tenants と New York City employers and employees.
インシデントのステータス
インシデントID
714
レポート数
2
インシデント発生日
2024-03-29
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
themarkup.org · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
This article is copublished with Documented, a nonprofit newsroom that covers New York City's immigrant communities, and The City, a non-profit newsroom that serves the people of New York. Sign up for Documented's newsletters and The City's…
qz.com · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
New York City's plan to use AI to help residents and businesses doesn't appear to be going smoothly. In fact, the city's own chatbot is encouraging users to break the law.
The city's Microsoft-powered AI chatbot is giving users false and --…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents