Problème 3236
La Federal Trade Commission a ouvert une vaste enquête sur OpenAI, cherchant à déterminer si le fabricant du populaire robot ChatGPT a enfreint les lois sur la protection des consommateurs en mettant en danger la réputation et les données personnelles.
L'agence a envoyé cette semaine à l'entreprise de San Francisco une demande de 20 pages pour obtenir des informations sur la façon dont elle gère les risques liés à ses modèles d'IA, selon[ un document examiné par le Washington Post](https://www.washingtonpost.com/documents /67a7081c-c770-4f05-a39e-9d02117e50e8.pdf?itid=lk_inline_manual_4). Cette salve représente la menace réglementaire la plus puissante à ce jour pour les activités d'OpenAI aux États-Unis, alors que l'entreprise[ se lance dans une offensive de charme mondiale](https://www.washingtonpost.com/technology/2023/04/09/sam- altman-openai-chatgpt/?itid=lk_inline_manual_4) pour façonner l'avenir de la politique en matière d'intelligence artificielle.
Les analystes ont qualifié ChatGPT d'OpenAI d'application grand public connaissant la croissance la plus rapide de l'histoire et ses premiers succès[ ont déclenché une course aux armements parmi les entreprises de la Silicon Valley](https://www.washingtonpost.com/podcasts/post-reports/the-ai- arms-race-is-on/?itid=lk_inline_manual_5) pour déployer des chatbots concurrents. Le directeur général de l'entreprise, Sam Altman, est devenu une figure influente dans le débat sur la réglementation de l'IA,[ témoignant à Capitol Hill](https://www.washingtonpost.com/technology/2023/05/16/sam-altman- open-ai-congress-hearing/?itid=ap_catzakrzewski&itid=lk_inline_manual_5), dîner avec des législateurs et[ rencontre avec le président Biden](https://www.washingtonpost.com/technology/2023/05/04/white-house-ai -ceos-meeting/?itid=ap_catzakrzewski&itid=lk_inline_manual_5) et le vice-président Harris.
Mais maintenant, l'entreprise est confrontée à un nouveau test à Washington, où la FTC a [émis plusieurs avertissements](https://www.washingtonpost.com/technology/2023/04/25/artificial-intelligence-bias-eeoc/?itid= ap_catzakrzewski&itid=lk_inline_manual_7) que les lois existantes sur la protection des consommateurs s'appliquent à l'IA, alors même que l'administration et le Congrès [luttent pour définir de nouvelles réglementations.](https://www.washingtonpost.com/technology/2023/06/17/congress-regulated- ai-schumer/?itid=ap_catzakrzewski&itid=lk_inline_manual_7) Le chef de la majorité au Sénat, Charles E. Schumer (DN.Y.) [a prédit](https://www.washingtonpost.com/technology/2023/06/21/ai-regulation -us-senate-chuck-schumer/?itid=lk_inline_manual_7) que la nouvelle législation sur l'IA sera dans des mois.
Les exigences de la FTC envers OpenAI sont la première indication de la manière dont elle entend appliquer ces avertissements. Si la FTC constate qu'une entreprise enfreint les lois sur la protection des consommateurs, elle peut imposer des amendes ou soumettre une entreprise à un [décret de consentement](https://www.washingtonpost.com/technology/2022/09/12/mudge-twitter-ftc -consent-decrees/?itid=lk_inline_manual_10), qui peut dicter la manière dont l'entreprise gère les données. La FTC est devenue le principal flic du gouvernement fédéral dans la Silicon Valley, imposant de lourdes amendes à [Meta](https://www.washingtonpost.com/technology/2019/07/12/ftc-votes-approve-billion-settlement-with -facebook-privacy-probe/?itid=lk_inline_manual_10), [Amazon ](https://www.washingtonpost.com/technology/2023/05/31/amazon-alexa-ring-ftc-lawsuit-settlement/?itid= lk_inline_manual_10) et Twitter pour violations présumées des lois sur la protection des consommateurs.
La FTC a demandé à OpenAI de fournir des descriptions détaillées de toutes les plaintes qu'elle a reçues concernant ses produits faisant des déclarations « fausses, trompeuses, désobligeantes ou préjudiciables » à l'égard des personnes. La FTC enquête pour savoir si l'entreprise s'est livrée à des pratiques déloyales ou trompeuses ayant entraîné une « atteinte à la réputation » des consommateurs, selon le document.
La FTC a également demandé à l'entreprise de fournir des enregistrements relatifs à un incident de sécurité que l'entreprise a divulgué en mars lorsqu'un bug dans ses systèmes a permis à certains utilisateurs de voir des informations relatives au paiement, ainsi que certaines données de l'historique de discussion d'autres utilisateurs. La FTC cherche à savoir si les pratiques de sécurité des données de l'entreprise violent les lois sur la protection des consommateurs. OpenAI a déclaré dans un article de blog que le nombre d'utilisateurs dont les données ont été révélées à quelqu'un d'autre était "extrêmement faible".
La FTC a refusé de commenter. Le PDG d'OpenAI, Sam Altman, a déclaré jeudi soir dans un tweet que la société travaillerait "bien sûr" avec l'agence.
"[I]t est très décevant de voir la demande de la FTC commencer par une fuite et ne contribue pas à instaurer la confiance", a-t-il tweeté. "[C]ela dit, il est très important pour nous que [notre] technologie soit sûre et favorable au consommateur, et nous sommes convaincus que nous respectons la loi."
Altman a également déclaré que la société protège la vie privée des utilisateurs et conçoit ses systèmes « pour en apprendre davantage sur le monde, et non sur les particuliers ».
La nouvelle de l'enquête a été annoncée peu de temps avant que la présidente de la FTC, Lina Khan, ne fasse face à [une audience combative](https://www.washingtonpost.com/politics/2023/07/12/tech-giants-racking-up-wins-antitrust-battles/ ?itid=ap_cristianolima&itid=lk_inline_manual_18) jeudi devant le comité judiciaire de la Chambre, où les législateurs républicains ont analysé son bilan en matière d'application et l'ont accusée de [mauvaise gestion ](https://www.washingtonpost.com/technology/2023/03/09/musk-ftc -house-republicans-twitter/?itid=lk_inline_manual_18)l'agence. Les projets ambitieux de Khan visant à contrôler la Silicon Valley ont subi des pertes importantes devant les tribunaux. Mardi, un juge fédéral a rejeté la tentative de la FTC de bloquer le programme de 69 $ de Microsoft. Un accord d'un milliard d'euros pour racheter la société de jeux vidéo Activision.
Au cours de l'audience, le représentant Dan Bishop (RN.C.) a demandé à Khan quelle autorité légale autorisait la FTC à formuler de telles exigences à l'égard d'une entreprise comme OpenAI, dans le cadre d'une enquête plus large visant à déterminer si la FTC de Khan outrepassait ses pouvoirs. Il a noté que la diffamation et la diffamation sont généralement poursuivies en vertu des lois des États, une référence aux questions posées par la FTC à OpenAI sur le dénigrement des personnes.
Khan a répondu que la calomnie et la diffamation ne sont pas au centre de l'application de la loi FTC, mais que l'utilisation abusive des informations privées des personnes dans la formation à l'IA pourrait être une forme de fraude ou de tromperie en vertu de la loi FTC. « Nous nous concentrons sur la question suivante : « Y a-t-il des blessures graves aux personnes ? » Les blessures peuvent ressembler à toutes sortes de choses", a déclaré Khan.
L'agence a averti à plusieurs reprises que des mesures étaient à venir concernant l'IA, dans des discours, articles de blog , articles d’opinion et conférences de presse. Dans un discours à la Harvard Law School en avril, Samuel Levine, le directeur du Bureau de la protection des consommateurs de l'agence, a déclaré que l'agence était prête à être « agile » pour anticiper les menaces émergentes.
"La FTC accueille favorablement l'innovation, mais être innovant n'est pas une autorisation d'être imprudent", a déclaré Levine. "Nous sommes prêts à utiliser tous nos outils, y compris l'application de la loi, pour lutter contre les pratiques néfastes dans ce domaine."
La FTC a également publié plusieurs articles de blog colorés sur son approche en matière de réglementation de l’IA, invoquant parfois des films de science-fiction populaires pour mettre en garde l’industrie contre toute infraction à la loi. L'agence a mis en garde contre les escroqueries liées à l'IA, en utilisant l'IA générative pour manipuler les clients potentiels et exagérant faussement les capacités des produits d’IA. Khan a également participé à une conférence de presse avec des responsables de l'administration Biden en avril sur le risque de discrimination liée à l'IA.
"Il n'y a aucune exemption de l'IA aux lois en vigueur", a déclaré Khan lors de cet événement.
Les efforts de la FTC se sont heurtés à une réaction rapide de la part de l'industrie technologique. Adam Kovacevich, fondateur et PDG de la coalition industrielle Chamber of Progress, a déclaré qu'il était clair que la FTC surveillait la sécurité des données et les fausses déclarations. Mais il a déclaré qu'il n'était pas clair si l'agence avait le pouvoir de « contrôler la diffamation ou le contenu des résultats de ChatGPT ».
"L'IA fait actuellement la une des journaux, et la FTC continue de présenter des arguments tape-à-l'oeil pour obtenir des résultats", a-t-il déclaré.
Parmi les informations que la FTC recherche auprès d'Open AI figurent des recherches, des tests ou des enquêtes évaluant dans quelle mesure les consommateurs comprennent « l'exactitude ou la fiabilité des résultats » générés par ses outils d'IA. L'agence a fait de nombreuses demandes concernant les enregistrements liés à la manière dont les produits d'OpenAI pourraient générer des déclarations désobligeantes, demandant à l'entreprise de fournir des enregistrements des plaintes envoyées par les gens concernant les fausses déclarations de son chatbot.
L'accent mis par l'agence sur de telles fabrications fait suite à de nombreux rapports très médiatisés selon lesquels le chatbot produisait des informations incorrectes susceptibles de nuire à la réputation des gens. Mark Walters, un animateur de radio en Géorgie, a poursuivi OpenAI pour diffamation, alléguant que le chatbot avait intenté une action en justice contre lui. Le procès allègue que ChatGPT a faussement affirmé que Walters, l'animateur de "Armed American Radio", a été accusée d'avoir fraudé et détourné des fonds de la Second Amendment Foundation. La réponse a été fournie en réponse à une question concernant un procès contre la fondation auquel Walters n'est pas partie, selon la plainte.
ChatGPT a également déclaré qu'un avocat avait fait des commentaires à caractère sexuel et tenté de toucher une étudiante lors d'un voyage scolaire en Alaska, citant un article qui, selon lui, aurait paru dans le Washington Post. Mais aucun article de ce type n'existait, le voyage scolaire n'a jamais eu lieu et l'avocat a déclaré qu'il n'avait jamais été accusé de harcèlement d'un étudiant, The Post [rapporté précédemment](https://www.washingtonpost.com/technology/2023/04/05/chatgpt -lies/?itid=lk_inline_manual_39).
La FTC, dans sa demande, a également demandé à l'entreprise de fournir des détails détaillés sur ses produits et la manière dont elle en fait la publicité. Il a également exigé des détails sur les politiques et procédures qu'OpenAI suit avant de publier un nouveau produit au public, y compris une liste des fois où OpenAI a retenu un grand modèle de langage en raison de risques de sécurité.
Le chef de la majorité au Sénat, Charles E. Schumer (DN.Y.), s'adresse aux journalistes à la suite d'un briefing classifié de l'ensemble du Sénat sur l'intelligence artificielle au Capitole des États-Unis mardi. (Drew Angerer/Getty Images)
L'agence a également exigé une description détaillée des données qu'OpenAI utilise pour former ses produits, qui imitent la parole humaine en ingérant du texte, principalement extrait de Wikipédia, Scribd et d'autres sites du Web ouvert. L'agence a également demandé à OpenAI de décrire comment elle affine ses modèles pour répondre à leur tendance à « halluciner », [ inventer des réponses ](https://www.washingtonpost.com/technology/2023/05/30/ai-chatbots-chatgpt -bard-trustworthy/?itid=lk_inline_manual_42)lorsque les modèles ne connaissent pas la réponse à une question.
OpenAI doit également fournir des détails sur le nombre de personnes touchées par l'incident de sécurité de mars et des informations sur toutes les mesures prises pour y répondre.
La demande d'enregistrement de la FTC, appelée Civil Investigative Demand, se concentre principalement sur les abus potentiels en matière de protection des consommateurs, mais elle demande également à OpenAI de fournir des détails sur la manière dont elle concède ses modèles sous licence à d'autres sociétés.
Les États-Unis ont suivi les autres gouvernements dans l’élaboration d’une législation sur l’IA et dans la réglementation des risques pour la vie privée associés à cette technologie. Les pays de l'Union européenne ont pris des mesures pour limiter les chatbots des entreprises américaines en vertu de la loi européenne sur la protection de la vie privée, le Règlement général sur la protection des données. Italie temporairement bloqué ChatGPT d'y fonctionner en raison de problèmes de confidentialité des données , et Google a dû reporter le lancement de son chatbot Bard après avoir reçu des demandes d'évaluation de la confidentialité de la Commission irlandaise de protection des données. L’Union européenne devrait également adopter une législation sur l’IA d’ici la fin de l’année.
Il y a une vague d’activités à Washington pour rattraper son retard. Mardi, Schumer a organisé une réunion d'information réunissant tous les sénateurs avec des responsables du Pentagone et de la communauté du renseignement pour discuter des risques de sécurité nationale liés à l'intelligence artificielle, alors qu'il travaille avec un groupe bipartisan de sénateurs pour élaborer une nouvelle législation sur l'IA. Schumer a déclaré aux journalistes après la session qu'il serait « très difficile » de réglementer l'IA, alors que les législateurs tentent d'équilibrer le besoin d'innovation et de garantir des garanties appropriées sur la technologie.
Mercredi, le vice-président Harris a accueilli un groupe de défenseurs de la protection des consommateurs et de leaders des libertés civiles à la Maison Blanche pour une discussion sur les risques liés à la sûreté et à la sécurité de l'IA.
"C'est un faux choix de suggérer que soit nous pouvons faire progresser l'innovation, soit protéger les consommateurs", a déclaré Harris. "Nous pouvons faire les deux."
Will Oremus a contribué à ce rapport.
CORRECTION
Une version précédente de cet article faisait référence à tort au nom de l'organisation d'Adam Kovacevich. Il est le fondateur et PDG de la Chambre du Progrès, et non de la Chambre de Commerce. L'article a été mis à jour.