Problema 3236
La Comisión Federal de Comercio ha abierto una amplia investigación sobre OpenAI, investigando si el creador del popular bot ChatGPT ha infringido las leyes de protección al consumidor al poner en riesgo la reputación y los datos personales.
Esta semana, la agencia envió a la compañía de San Francisco una solicitud de registros de 20 páginas sobre cómo aborda los riesgos relacionados con sus modelos de IA, según [ un documento revisado por The Washington Post](https://www.washingtonpost.com/documents /67a7081c-c770-4f05-a39e-9d02117e50e8.pdf?itid=lk_inline_manual_4). La salva representa la amenaza regulatoria más potente hasta la fecha para el negocio de OpenAI en los Estados Unidos, mientras la compañía[ emprende una ofensiva global de encanto](https://www.washingtonpost.com/technology/2023/04/09/sam- altman-openai-chatgpt/?itid=lk_inline_manual_4) para dar forma al futuro de la política de inteligencia artificial.
Los analistas han calificado a ChatGPT de OpenAI como la aplicación para consumidores de más rápido crecimiento en la historia, y su éxito inicial [ desencadenó una carrera armamentista entre las empresas de Silicon Valley](https://www.washingtonpost.com/podcasts/post-reports/the-ai- arms-race-is-on/?itid=lk_inline_manual_5) para implementar chatbots competidores. El director ejecutivo de la empresa, Sam Altman, se ha convertido en una figura influyente en el debate sobre la regulación de la IA,[ testificando en Capitol Hill](https://www.washingtonpost.com/technology/2023/05/16/sam-altman- open-ai-congress-hearing/?itid=ap_catzakrzewski&itid=lk_inline_manual_5), cenar con legisladores y[ reunirse con el presidente Biden](https://www.washingtonpost.com/technology/2023/05/04/white-house-ai -ceos-meeting/?itid=ap_catzakrzewski&itid=lk_inline_manual_5) y el vicepresidente Harris.
Pero ahora la empresa se enfrenta a una nueva prueba en Washington, donde la FTC ha [emitido múltiples advertencias](https://www.washingtonpost.com/technology/2023/04/25/artificial-intelligence-bias-eeoc/?itid= ap_catzakrzewski&itid=lk_inline_manual_7) que las leyes de protección al consumidor existentes se aplican a la IA, incluso cuando la administración y el Congreso [luchan por delinear nuevas regulaciones.](https://www.washingtonpost.com/technology/2023/06/17/congress-regulating- ai-schumer/?itid=ap_catzakrzewski&itid=lk_inline_manual_7) El líder de la mayoría del Senado, Charles E. Schumer (D-N.Y.) [ha predicho](https://www.washingtonpost.com/technology/2023/06/21/ai-regulation -us-senate-chuck-schumer/?itid=lk_inline_manual_7) que faltan meses para una nueva legislación sobre IA.
Las demandas de la FTC a OpenAI son el primer indicio de cómo pretende hacer cumplir esas advertencias. Si la FTC determina que una empresa viola las leyes de protección al consumidor, puede imponer multas o someter a una empresa a un [decreto de consentimiento](https://www.washingtonpost.com/technology/2022/09/12/mudge-twitter-ftc -consent-decrees/?itid=lk_inline_manual_10), que pueden dictar cómo la empresa maneja los datos. La FTC se ha convertido en el principal policía de Silicon Valley del gobierno federal y ha impuesto grandes multas contra [Meta](https://www.washingtonpost.com/technology/2019/07/12/ftc-votes-approve-billion-settlement-with -facebook-privacy-probe/?itid=lk_inline_manual_10), [Amazon ](https://www.washingtonpost.com/technology/2023/05/31/amazon-alexa-ring-ftc-lawsuit-settlement/?itid= lk_inline_manual_10) y Twitter por presuntas violaciones de las leyes de protección al consumidor.
La FTC pidió a OpenAI que proporcionara descripciones detalladas de todas las quejas que había recibido sobre sus productos haciendo declaraciones "falsas, engañosas, despectivas o dañinas" sobre las personas. La FTC está investigando si la empresa incurrió en prácticas desleales o engañosas que resultaron en "daño a la reputación" de los consumidores, según el documento.
La FTC también pidió a la empresa que proporcionara registros relacionados con un incidente de seguridad que la empresa reveló en marzo cuando un error en sus sistemas permitió a algunos usuarios ver información relacionada con pagos, así como algunos datos del historial de chat de otros usuarios. La FTC está investigando si las prácticas de seguridad de datos de la empresa violan las leyes de protección al consumidor. OpenAI dijo en una publicación de blog que la cantidad de usuarios cuyos datos fueron revelados a otra persona era "extremadamente baja".
La FTC se negó a hacer comentarios. El director ejecutivo de OpenAI, Sam Altman, dijo en un tweet el jueves por la noche que la empresa "por supuesto" trabajará con la agencia.
"Es muy decepcionante ver que la solicitud de la FTC comienza con una filtración y no ayuda a generar confianza", tuiteó. "Dicho esto, es muy importante para nosotros que [nuestra] tecnología sea segura y favorable al consumidor, y estamos seguros de que cumplimos la ley".
Altman también dijo que la compañía protege la privacidad del usuario y diseña sus sistemas "para aprender sobre el mundo, no sobre individuos privados".
La noticia de la investigación se conoció poco antes de que la presidenta de la FTC, Lina Khan, se enfrentara a [una audiencia combativa](https://www.washingtonpost.com/politics/2023/07/12/tech-giants-racking-up-wins-antitrust-battles/ ?itid=ap_cristianolima&itid=lk_inline_manual_18) el jueves ante el Comité Judicial de la Cámara de Representantes, donde los legisladores republicanos analizaron su historial de aplicación de la ley y la acusaron de [mala gestión ](https://www.washingtonpost.com/technology/2023/03/09/musk-ftc -house-republicans-twitter/?itid=lk_inline_manual_18)la agencia. Los ambiciosos planes de Khan para controlar Silicon Valley han sufrido pérdidas clave en los tribunales. El martes, un juez federal rechazó el intento de la FTC de bloquear el pago de 69 dólares de Microsoft Acuerdo de mil millones para comprar la empresa de videojuegos Activision.
Durante la audiencia, el representante Dan Bishop (R-N.C.) preguntó a Khan qué autoridad legal facultaba a la FTC para hacer tales demandas a una empresa como OpenAI, como parte de una línea de investigación más amplia sobre si la FTC de Khan se está extralimitando en sus poderes. Señaló que la calumnia y la difamación suelen ser procesadas conforme a las leyes estatales, en referencia a las preguntas de la FTC a OpenAI sobre el menosprecio de las personas.
Khan respondió que la calumnia y la difamación no son un objetivo de la aplicación de la ley de la FTC, pero que el uso indebido de la información privada de las personas en el entrenamiento de IA podría ser una forma de fraude o engaño según la Ley de la FTC. "Estamos centrados en '¿Hay lesiones importantes a las personas?' Las lesiones pueden verse como todo tipo de cosas", dijo Khan.
La agencia ha advertido repetidamente que se tomarán medidas en relación con la IA, en discursos, publicaciones de blog , artículos de opinión y conferencias de prensa. En un discurso en la Facultad de Derecho de Harvard en abril, Samuel Levine, el director de la Oficina de Protección al Consumidor de la agencia, dijo que la agencia estaba preparada para ser "ágil" a la hora de adelantarse a las amenazas emergentes.
"La FTC da la bienvenida a la innovación, pero ser innovador no es una licencia para ser imprudente", dijo Levine. "Estamos preparados para utilizar todas nuestras herramientas, incluida la aplicación de la ley, para desafiar las prácticas nocivas en esta área".
La FTC también ha publicado varias publicaciones coloridas en blogs sobre su enfoque para regular la IA, invocando en ocasiones películas populares de ciencia ficción para advertir a la industria contra el incumplimiento de la ley. La agencia ha advertido contra las estafas de IA, que utilizan IA generativa para manipular a clientes potenciales y exagerar falsamente las capacidades de los productos de IA. Khan también participó en una conferencia de prensa con funcionarios de la administración Biden en abril sobre el riesgo de discriminación por IA.
"No existe ninguna exención de IA en las leyes vigentes", dijo Khan en ese evento.
El impulso de la FTC enfrentó un rápido rechazo por parte de la industria tecnológica. Adam Kovacevich, fundador y director ejecutivo de la coalición industrial Chamber of Progress, dijo que está claro que la FTC supervisa la seguridad y la tergiversación de los datos. Pero dijo que no está claro si la agencia tiene la autoridad para "vigilar la difamación o el contenido de los resultados de ChatGPT".
"La IA está en los titulares en este momento, y la FTC continúa anteponiendo casos llamativos a la obtención de resultados", afirmó.
Entre la información que la FTC busca de Open AI se encuentra cualquier investigación, prueba o encuesta que evalúe qué tan bien los consumidores entienden "la precisión o confiabilidad de los resultados" generados por sus herramientas de IA. La agencia hizo extensas demandas sobre los registros relacionados con las formas en que los productos de OpenAI podrían generar declaraciones despectivas, pidiendo a la compañía que proporcionara registros de las quejas que la gente envía sobre su chatbot haciendo declaraciones falsas.
El enfoque de la agencia en tales mentiras se produce después de numerosos informes de alto perfil sobre el chatbot que produce información incorrecta que podría dañar la reputación de las personas. Mark Walters, locutor de un programa de radio en Georgia, demandó a OpenAI por difamación, alegando que el chatbot inventó reclamos legales en su contra. La demanda alega que ChatGPT afirmó falsamente que Walters, el presentador de "Armed American Radio", fue acusado de defraudar y malversar fondos de la Fundación de la Segunda Enmienda. La respuesta se proporcionó en respuesta a una pregunta sobre una demanda sobre la fundación de la que Walters no es parte, según la denuncia.
ChatGPT también dijo que un abogado había hecho comentarios sexualmente sugerentes e intentó tocar a un estudiante en un viaje de estudios a Alaska, citando un artículo que, según decía, había aparecido en The Washington Post. Pero no existía tal artículo, el viaje de estudios nunca ocurrió y el abogado dijo que nunca fue acusado de acosar a un estudiante, The Post [informó anteriormente](https://www.washingtonpost.com/technology/2023/04/05/chatgpt -mentiras/?itid=lk_inline_manual_39).
En su solicitud, la FTC también pidió a la empresa que proporcionara detalles detallados sobre sus productos y la forma en que los anuncia. También exigió detalles sobre las políticas y procedimientos que OpenAI sigue antes de lanzar cualquier producto nuevo al público, incluida una lista de ocasiones en las que OpenAI retuvo un modelo de lenguaje grande debido a riesgos de seguridad.
El líder de la mayoría del Senado, Charles E. Schumer (D-N.Y.), habla con los periodistas después de una sesión informativa clasificada de todo el Senado sobre inteligencia artificial en el Capitolio de los Estados Unidos el martes. (Drew Angerer/Getty Images)
La agencia también exigió una descripción detallada de los datos que OpenAI utiliza para entrenar sus productos, que imitan el habla humana al ingerir texto, en su mayoría extraído de Wikipedia, Scribd y otros sitios de la web abierta. La agencia también pidió a OpenAI que describiera cómo refina sus modelos para abordar su tendencia a "alucinar"[ inventando respuestas ](https://www.washingtonpost.com/technology/2023/05/30/ai-chatbots-chatgpt -bard-trustworthy/?itid=lk_inline_manual_42)cuando los modelos no saben la respuesta a una pregunta.
OpenAI también tiene que entregar detalles sobre cuántas personas se vieron afectadas por el incidente de seguridad de marzo e información sobre todos los pasos que tomó para responder.
La solicitud de registros de la FTC, que se denomina Demanda de Investigación Civil, se centra principalmente en posibles abusos de protección al consumidor, pero también solicita a OpenAI que proporcione algunos detalles sobre cómo otorga licencias de sus modelos a otras empresas.
Europa avanza en la regulación de la IA, desafiando el poder de los gigantes tecnológicos
Estados Unidos ha ido a la zaga de otros gobiernos en la redacción de leyes sobre inteligencia artificial y la regulación de los riesgos de privacidad asociados con la tecnología. Los países de la Unión Europea han tomado medidas para limitar los chatbots de las empresas estadounidenses según la ley de privacidad del bloque, el Reglamento General de Protección de Datos. Italia bloqueado temporalmente ChatGPT impide operar allí debido a preocupaciones sobre la privacidad de los datos y Google tuvo que posponer el lanzamiento de su chatbot Bard después de recibir solicitudes de evaluaciones de privacidad de la Comisión Irlandesa de Protección de Datos. También se espera que la Unión Europea apruebe una legislación sobre IA a finales de año.
Hay una oleada de actividad en Washington para ponerse al día. El martes, Schumer organizó una reunión informativa para senadores con funcionarios del Pentágono y la comunidad de inteligencia para discutir los riesgos de seguridad nacional de la inteligencia artificial, mientras trabaja con un grupo bipartidista de senadores para elaborar una nueva legislación sobre IA. Schumer dijo a los periodistas después de la sesión que será "muy difícil" regular la IA, ya que los legisladores intentan equilibrar la necesidad de innovación con garantizar que existan salvaguardas adecuadas para la tecnología.
El miércoles, el vicepresidente Harris recibió a un grupo de defensores de la protección del consumidor y líderes de libertades civiles en la Casa Blanca para una discusión sobre los riesgos de seguridad de la IA.
"Es una opción falsa sugerir que podemos promover la innovación o proteger a los consumidores", dijo Harris. "Podemos hacer ambas cosas".
Will Oremus contribuyó a este informe.
CORRECCIÓN
Una versión anterior de este artículo hacía referencia incorrectamente al nombre de la organización de Adam Kovacevich. Es el fundador y director ejecutivo de la Cámara del Progreso, no de la Cámara de Comercio. El artículo ha sido actualizado.