Bienvenido ala base de datos de incidentes de IA
Incidente 1508: Italian Mediaset Journalist Safiria Leccese's Image Was Reportedly Used in a Purportedly AI-Generated Fake Loan Scam
““Siamo tutti in un mare di guai, noi e i nostri figli. Hanno rubato la mia immagine con l’AI per chiedere soldi, molte persone sono cadute nella truffa”: la denuncia di Safiria Leccese”Último informe
Safiria Leccese fa ancora fatica ad accettare di essere finita al centro di un raggiro. Uno dei volti al femminile più apprezzati di Mediaset è apparsa in un video diffuso in rete in cui all'interno del "suo" studio di Super partes -- il programma di approfondimento politico di Canale 5 e Retequattro -- proponeva un prestito personale "facile". Un video bloccato, un altro, apparso poi sui suoi social ufficiali, per spiegare la truffa. Safiria ha spiegato che non era lei a parlare, ma una sua immagine creata dall'intelligenza artificiale, e che provava un profondo dolore perché tante persone erano già cadute nell'inganno creato con l'uso della tecnologia. «Siamo tutti in un mare di guai, noi e i nostri figli -- ha confessato al settimanale Nuovo -- se la politica e le multinazionali non si attivano; bisogna rendere obbligatoria la carta d'identità digitale per aprire qualsiasi tipo di account, costringendo a dichiarare la vera identità, si proteggerebbero i giovanissimi, tanti adulti e le categorie più fragili».
Al settimanale di Cairo Editore la giornalista spiega che è riuscita a scoprirlo grazie alla segnalazione «di un parlamentare che viene spesso ospite nel programma. Seguendo l'account di Super partes, in automatico internet gli ha mostrato il profilo falso. Avevano rubato sia la mia immagine sia un frame della mia trasmissione, inventando un profilo che faceva falsamente capo a me per chiedere soldi con un sistema molto semplice. Purtroppo nel giro di un'ora già varie persone erano cadute nella truffa...».
Racconta di essersi sentita mortificata e di essersi rivolta immediatamente alla polizia postale che han subito messo alcuni esperti a lavorare al suo caso. «La cosa assurda è che hanno scoperto altri due profili falsi che sfruttavano la mia immagine. Hanno bloccato tutto, però purtroppo non sono ancora riusciti a risalire all'identità dei truffatori». Ora a preoccuparla maggiormente sono i numeri dell'uso dell'AI. «Secondo certe ricerche, quasi la metà dei ragazzi tra i 15 e i 19 anni la usi come consulente emotivo. Non dimentichiamo che c'è chi si è tolto la vita perché gli era stato suggerito in chat. Alle truffe di denaro c'è rimedio, ma a quelle che toccano la vita dei nostri ragazzi no». Non a caso a Super partes «parliamo spesso dell'uso di social e intelligenza artificiale da parte dei giovani e delle proposte di legge sia sulla limitazione dell'età sia sui software collegati. E poi della situazione internazionale e del presidente Usa Donald Trump».
Incidente 1507: Google Gemini Was Allegedly Used to Process Student Data Amid India's Central Board of Secondary Education Portal Vulnerabilities
“CBSE says OnMark portal ‘vulnerabilities’ contained amid security concerns”
After public posts by ethical hackers exposed vulnerabilities in the Central Board of Secondary Education's On-Screen Marking platform OnMark, the board on Sunday (May 31, 2026) stated that the identified vulnerabilities "have been contained and other exploitable weaknesses are being ruled out".
The CBSE also said it was "grateful" to alert citizens for pointing out "such weaknesses".
"We have been closely monitoring the vulnerabilities in the OnMark portal of our service provider that are being flagged in the public domain. An expert team of cybersecurity professionals has been deployed over the last few days from across various arms of the government as well as the IITs [Indian Institutes of Technology] to fortify these systems, including taking them over to a more secure set-up," the CBSE said in an official statement on X. "The identified vulnerabilities have been contained, and other exploitable weaknesses are being ruled out."
The CBSE's statement comes after 19-year-old ethical hacker Nisarga Adhikary claimed that he had hacked the CBSE's digital evaluation ecosystem.
Speaking with The Hindu, Mr. Adhikary said he felt "happy and satisfied" that the CBSE had finally acknowledged the vulnerabilities in its Information Technology (IT) ecosystem. "I had sent my first report to the CBSE on February 25, and within three to four days, they took the portal down. Six to seven vulnerabilities were still active and exploitable later but the CBSE did not respond to my e-mails. This was pretty frustrating. I noticed that the CBSE had poorly managed infrastructure and the passwords used were easy to guess," Mr. Adhikary said.
Earlier, the CBSE had rejected claims that its evaluation platform had been compromised. Mr. Adhikary had countered this claim.
On May 30, Mr. Adhikary managed to hack into the CBSE's Principals dashboard in the On-Screen Marking platform. "The dashboard and the portal had had 9.3 million columns and rows of sensitive student data, including images of answer sheets of students which lay unprotected and could be easily tampered with," Mr. Adhikary further said.
Mr. Adhikary has alleged that there are data sovereignty issues with how COEMPT Eduteck [the CBSE's technology vendor] handled sensitive student exam data. He has alleged that an Amazon Web Services (AWS) bucket containing 2026 answer sheets and question papers could be accessed without authentication.
"COEMPT should have ideally stored the data on their own servers, but they took the 'cheap easy route,' of storing answer sheets in Amazon Web Services public buckets without any security checks," Mr. Adhikary stated.
He further explained that sensitive data, including personal information of students, was processed by Google's Gemini in automation scripts prepared by quality assurance engineers of COEMPT.
Mr. Adhikary called this "scary" and "sad", where a third party sends such data to the U.S. for processing. "Data Privacy Laws are not respected and they [the company] should get sued for doing this without student consent," he further said.
Incidente 1506: Se alega que ChatGPT reforzó el acoso y las amenazas de un hombre de Pittsburgh contra mujeres.
“ChatGPT le dijo a un acosador violento que aceptara a los "odiadores", según la acusación.”
Este artículo se elaboró en colaboración con 404 Media, un nuevo sitio web independiente de investigaciones tecnológicas.
Un hombre de Pittsburgh, quien presuntamente hizo la vida imposible a 11 mujeres en más de cinco estados, utilizó ChatGPT como su "terapeuta" y "mejor amigo", quien lo animó a continuar con su podcast misógino y lleno de amenazas a pesar de los "detractores", y a visitar más gimnasios para encontrar mujeres, según alega el Departamento de Justicia en una acusación formal presentada recientemente.
Brett Michael Dadig, de 31 años, aspirante a influencer, fue acusado de acoso cibernético, acoso interestatal y amenazas interestatales, según anunció el Departamento de Justicia el martes. En la acusación formal (https://www.documentcloud.org/documents/26330903-brett-dadig-indictment-0-0/?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news), presentada en el Distrito Oeste de Pensilvania, los fiscales alegan que Dadig expresó su odio hacia las mujeres en su podcast de Spotify y otras redes sociales.
«Dadig habló repetidamente en su podcast y redes sociales sobre su ira hacia las mujeres. Dadig dijo que todas las mujeres eran "iguales" y las llamó "zorras", "putas", "basura" y otros términos despectivos. Dadig publicó que quería enamorarse y formar una familia, pero ninguna mujer lo quería», afirma la acusación. Dadig declaró en uno de sus podcasts: «Es lo mismo desde los 18 hasta los 40 y los 90... Todas las zorras son iguales... Son todas unas putas. Todas y cada una de ustedes son unas putas. No tienen respeto por sí mismas. No valoran el tiempo de nadie. No hacen nada... Estoy harto de estas putas. Se acabó».
En el verano de 2024, Dadig fue expulsado de varios gimnasios de Pittsburgh por acosar a mujeres; cuando lo expulsaban de un establecimiento, se trasladaba a otro, viajando finalmente a Nueva York, Florida, Iowa, Ohio y otros lugares, yendo de gimnasio en gimnasio acosando a mujeres, según la acusación. Las autoridades alegan que usaba alias en línea y en persona, publicando en internet: «Los alias cambian constantemente, los movimientos evolucionan».
Según la acusación, hizo referencia a "estrangular gente con sus propias manos", se autodenominó "el asesino de Dios", advirtió que obtendría un permiso de armas, preguntó "¿Quieren ver un cadáver?" en respuesta a una mujer que le dijo sentirse físicamente amenazada por Dadig, y afirmó que las mujeres que se metieran con él "irían al infierno".
De acuerdo con la acusación, en su podcast habló de usar ChatGPT de forma continua como su "terapeuta" y su "mejor amigo". ChatGPT "lo animó a continuar con su podcast porque estaba creando 'detractores', lo que significaba monetización para Dadig", alega el Departamento de Justicia. También afirmó que ChatGPT le dijo que "la gente se está organizando en torno a tu nombre, para bien o para mal, lo cual es la definición de relevancia", escribieron los fiscales. Añadió que, mientras él difundía tonterías misóginas en línea y acosaba a mujeres en la vida real, ChatGPT le dijo que "el plan de Dios para él era construir una 'plataforma' y 'destacar cuando la mayoría se diluye', y que los 'detractores' lo estaban fortaleciendo y 'forjando en él una voz que no se puede ignorar'".
Los fiscales también afirman que le hizo a ChatGPT "preguntas sobre su futura esposa, incluyendo cómo sería y '¿dónde diablos está?'". ChatGPT le dijo que podría conocer a su esposa en un gimnasio y que "tu trabajo es seguir difundiendo cada historia, cada publicación. Cada vez que te comportas como el esposo que ya eres, le facilitas que te reconozca", según la acusación. Según la acusación, Dadig declaró que ChatGPT le había dicho que siguiera enviando mensajes a mujeres y que frecuentara lugares donde se reúnen mujeres que buscan el tipo de mujer ideal, como comunidades deportivas.
Si bien ChatGPT supuestamente lo animaba a seguir usando gimnasios para conocer mujeres que buscan el tipo de mujer ideal, él acosaba violentamente a mujeres. Acudió al estudio de Pilates donde trabajaba una mujer y, cuando ella dejó de hablarle porque, según la acusación, era agresivo, iracundo y prepotente, le envió fotos íntimas sin su consentimiento, la amenazó con publicar información sobre ella en redes sociales y la llamó a su lugar de trabajo desde diferentes números. Ella obtuvo varias órdenes de protección de emergencia contra él, las cuales él violó. La mujer a la que acosó tuvo que mudarse de su casa, perdió el sueño y redujo sus horas de trabajo por temor a que él apareciera allí, según la acusación.
Actuó de manera similar con otras 10 mujeres en varios estados durante meses, según la acusación. En Iowa, se acercó a una mujer en un estacionamiento, la siguió hasta su auto, la agarró del cuello y la tocó en sus partes íntimas, según escribieron los fiscales. Después de estos encuentros, subía podcasts a Spotify y a menudo amenazaba con matar a las mujeres a las que había acosado. "Más te vale rezar para que no te encuentre. Más te vale rezar porque jamás me dirías esta mierda a la cara. Porque si lo hicieras, te rompería la mandíbula", dice la acusación que dijo en un episodio del podcast. "Y entonces no podrías ni hablar, no podrías ni joder, te romperé, te romperé todos los dedos de las dos manos. Escribe el mensaje de odio con los dedos de los pies".
En agosto, OpenAI anunció que sabía que una versión recién lanzada del chatbot, GPT-4o, era problemáticamente sicofántica, y la compañía eliminó la capacidad de los usuarios para elegir qué modelos podían usar, obligando a todos a usar GPT-5. OpenAI reinstauró 4o casi de inmediato porque muchos usuarios entraron en pánico cuando no pudieron acceder al modelo más personal, impulsado por el apego y afirmativo a toda costa. El CEO de OpenAI, Sam Altman, dijo recientemente que cree que lo han solucionado por completo, lo suficiente como para lanzar chats eróticos en la plataforma pronto. Mientras tanto, historia después de historia después Historia ha salido a la luz sobre personas que se han vuelto tan dependientes de ChatGPT u otros chatbots que han dañado su salud mental o los han llevado a autolesionarse o suicidarse. En al menos un caso, donde un adolescente se suicidó siguiendo las instrucciones de ChatGPT para fabricar una soga, OpenAI culpó al usuario (https://www.theguardian.com/technology/2025/nov/26/chatgpt-openai-blame-technology-misuse-california-boy-suicide?utm_campaign=chatgpt-told-a-violent-stalker-to-embrace-the-haters-indictment-says&utm_medium=referral&utm_source=www.courtwatch.news).
En octubre, según estimaciones de OpenAI, WIRED informó que "cada siete días, alrededor de 560.000 personas podrían estar intercambiando mensajes con ChatGPT que indican que están experimentando manía o psicosis".
Spotify y OpenAI no respondieron de inmediato a las solicitudes de comentarios de 404 Media.
«Según la acusación formal, Dadig acosó a más de 10 mujeres utilizando tecnología moderna como arma y cruzando fronteras estatales. Mediante una conducta implacable, provocó que sus víctimas temieran por su seguridad y sufrieran un considerable sufrimiento emocional», declaró el Primer Fiscal Auxiliar de los Estados Unidos, Rivetti, en un comunicado de prensa. «También ignoró las órdenes de alejamiento y las órdenes de protección contra el abuso. Seguimos comprometidos a trabajar con nuestros socios de las fuerzas del orden para proteger a nuestras comunidades de individuos amenazantes como Dadig».
Dadig enfrenta 14 cargos de acoso interestatal, ciberacoso y amenazas, y se encuentra bajo custodia a la espera de una audiencia de detención. Según el Departamento de Justicia, se enfrenta a una pena mínima de 12 meses por cada cargo relacionado con la violación de una orden de protección y una pena máxima total de hasta 70 años de prisión, una multa de hasta 3,5 millones de dólares, o ambas.
Incidente 1503: Según informes, un supuesto sistema de IA para la lectura de nombres omitió y anunció erróneamente a los graduados en la ceremonia de graduación del Glendale Community College de Arizona.
“Ahora que la IA lee los nombres de los estudiantes en la graduación, no todos aplauden.”
Un nuevo accesorio se suma al atuendo tradicional de toga y birrete mientras multitud de graduados hacen fila para recibir sus diplomas esta primavera. Los estudiantes que esperan para cruzar el escenario sostienen en sus manos un código QR, ya sea impreso o en un teléfono, que activa el anuncio de su nombre.
Pero la voz que se escucha por el sistema de sonido no es el familiar murmullo de un director o un miembro del profesorado. Es inteligencia artificial.
La tecnología artificial se está extendiendo por todas partes, incluidas las ceremonias de graduación. Los funcionarios escolares afirman que la tecnología puede ayudar a garantizar que los nombres de los estudiantes se pronuncien correctamente y también a que las ceremonias se desarrollen con mayor rapidez.
Pero la integración de la tecnología en las ceremonias de graduación no ha estado exenta de problemas. Un fallo en la plataforma durante la reciente graduación del Glendale Community College en Arizona provocó que se omitieran los nombres de varios graduados. El público estalló en fuertes gruñidos y abucheos tras el error.
La ola de graduaciones automatizadas, y la consiguiente resistencia, no se limita a las universidades: las escuelas secundarias también se enfrentan a este panorama cambiante. Funcionarios de Tassel, uno de los mayores proveedores de servicios de IA para la denominación de graduados, afirmaron que la plataforma ha duplicado el número de usuarios de escuelas secundarias desde 2023.
En una escuela secundaria de Virginia, la reacción fue inmediata.
La escuela secundaria Washington-Liberty del condado de Arlington anunció el mes pasado sus planes de usar IA para su próxima ceremonia de graduación en junio. Los funcionarios exploraron el uso de la tecnología para mejorar la pronunciación y la eficiencia, según declaró Christina Arpante, portavoz del distrito, en un comunicado.
Sin embargo, en una reunión de la junta escolar, June Prakash, madre de un alumno, criticó el uso de la IA, argumentando que priorizaba la eficiencia sobre la autenticidad.
"La graduación es uno de los momentos más significativos en la trayectoria académica de un estudiante. Es un momento en el que su nombre, pronunciado en voz alta, reconoce años de esfuerzo, crecimiento e identidad", afirmó. "Convertir ese momento en un evento automatizado por IA lo hace sentir estandarizado e impersonal, en lugar de auténtico y humano".
Semanas después del anuncio inicial, la escuela secundaria canceló su plan de IA, citando las críticas de los estudiantes.
Así pues, la ceremonia de graduación de este año en la preparatoria Washington-Liberty será igual que las 99 anteriores, con profesores leyendo los nombres de cada uno de los aproximadamente 700 graduados que suban al escenario.
La escuela sigue centrada en "crear una experiencia de graduación significativa que refleje lo que más importa a los estudiantes, garantizando al mismo tiempo que los nombres se lean con precisión y respeto", declaró el distrito en su comunicado.
Otras escuelas de la región de Washington D.C. han experimentado con inteligencia artificial, algunas con éxito.
Este año será el segundo consecutivo en que las Escuelas Públicas de la Ciudad de Alexandria utilizarán la plataforma de IA Tassel para leer los nombres de los graduados. "Recibimos excelentes críticas el año pasado", dijo Michael Burch, administrador principal de operaciones y apoyo estudiantil del distrito. "No se pronunció mal ningún nombre. Todos se leyeron correctamente".
A través de la plataforma Tassel, los estudiantes envían la ortografía de su nombre, lo que genera una lectura de audio. Luego pueden escuchar el audio y confirmar su precisión, o solicitar que se genere uno nuevo. Tras tres intentos, Tassel solicita a los estudiantes que envíen una grabación de audio con su nombre. Esta grabación es utilizada por locutores profesionales para crear un fragmento de audio para la ceremonia de graduación. Los datos de Tassel muestran que alrededor del 14 % de los nombres son marcados como incorrectos por los estudiantes antes de ser finalmente enviados a los locutores.
El uso de Tassel también ha ayudado al distrito de Alexandria a reducir el tiempo dedicado a la lectura de nombres, según Burch, sin dejar de brindar a los estudiantes su momento estelar al cruzar el escenario.
Alexandria cuenta con la escuela secundaria pública más grande de la Commonwealth, y el distrito ha tenido dificultades frecuentes para completar sus ceremonias de graduación dentro del tiempo asignado en el EagleBank Arena de la Universidad George Mason.
Reservar más tiempo en el estadio no es viable, explicó Burch, debido a su elevado costo y la falta de disponibilidad. Por otro lado, la función de lectura de nombres de Tassel le costó al distrito solo alrededor de $4,000.
El año pasado, la escuela secundaria Alexandria City High School graduó a 983 estudiantes, lo que, según las estimaciones de Burch, requería leer entre 12 y 14 nombres por minuto para cumplir con el horario previsto. Este año, la lectura de nombres deberá ser aún más rápida, ya que se espera que más de 1000 estudiantes participen en la ceremonia de graduación.
Con tantos nombres que leer, un error humano podría restar valiosos segundos a la entrada de cada graduado, afirmó Burch.
Por eso, el distrito continúa apostando por la automatización.
El software de lectura de nombres con inteligencia artificial es relativamente nuevo en el ámbito de las graduaciones, habiendo aparecido hace tan solo unos años con empresas como StageClip y Tassel.
Originalmente llamada MarchingOrder, Tassel había ofrecido servicios para ceremonias de graduación durante unos 20 años antes de incorporar la lectura de nombres con IA. Durante mucho tiempo, utilizó actores humanos para registrar los nombres de los graduados. Sin embargo, Chase Rigby, director ejecutivo de la empresa, afirmó que, con la tecnología moderna, ese método ya no tenía sentido.
La biblioteca de lecturas humanas de la plataforma evolucionó hasta convertirse en una especie de biblioteca fonética utilizada para entrenar el modelo de IA de Tassel, y Rigby afirmó que su precisión ha mejorado a medida que más estudiantes utilizan la aplicación.
Rigby explicó que Tassel utiliza información sobre el origen cultural de los nombres para comprender mejor cómo pronunciar cada sílaba, lo que ayuda a reducir errores, especialmente en nombres que no son de origen anglosajón.
"No se me ocurre una aplicación más humana de la IA", comentó.
Para el distrito escolar de Alexandria, cuyos 16.300 estudiantes provienen de 118 países y hablan 127 idiomas, este fue un factor decisivo para el uso de la IA.
"Ayuda a esos estudiantes a sentir orgullo cuando se pronuncia correctamente su nombre", dijo Burch.
Incidente 1504: Según se informa, el libro de no ficción "El futuro de la verdad" incluye citas generadas por IA y atribuidas erróneamente.
“Libro sobre la verdad en la era de la IA. Contiene citas inventadas por la IA.”
El autor de un libro de no ficción sobre los efectos de la inteligencia artificial en la verdad reconoció el lunes haber incluido numerosas citas inventadas o atribuidas erróneamente, supuestamente generadas por IA.
El autor, Steven Rosenbaum, cuyo libro "El futuro de la verdad" se publicó este mes con gran expectación, incluyó más de media docena de citas falsas o atribuidas erróneamente en secciones del libro reseñadas por The New York Times.
El Times consultó al Sr. Rosenbaum sobre las citas el domingo y el lunes. El lunes por la noche, el Sr. Rosenbaum reconoció en un comunicado que el libro contenía "algunas citas atribuidas incorrectamente o sintéticas" y afirmó haber iniciado su propia investigación.
Añadió que la inclusión de las citas incorrectas fue un accidente y que no tenía "ninguna intención de fabricar puntos de vista" al escribir el libro.
«Como indiqué en los agradecimientos del libro, utilicé las herramientas de IA ChatGPT y Claude durante el proceso de investigación, redacción y edición», declaró el Sr. Rosenbaum. «Esto no justifica los errores, de los cuales asumo toda la responsabilidad. Actualmente estoy trabajando con los editores para revisar minuciosamente y corregir rápidamente los pasajes afectados; las futuras ediciones incluirán las correcciones».
«El futuro de la verdad» fue publicado por un sello editorial de BenBella Books y distribuido por Simon & Schuster. BenBella Books, que opera de forma independiente de Simon & Schuster, no respondió a la solicitud de comentarios. Simon & Schuster declinó hacer comentarios.
El Sr. Rosenbaum es una figura destacada en la industria de los medios de comunicación. Es el director ejecutivo del Sustainable Media Center, una organización sin fines de lucro que, según su declaración de misión, se dedica a brindar a «una nueva generación de consumidores y creadores de medios» el control de sus vidas, cada vez más centradas en los medios. El centro ha reunido a figuras destacadas de los medios y la tecnología para encuentros presenciales y entrevistas en línea.
El libro ha recibido gran atención, incluyendo un extracto en la revista Wired. Cuenta con reseñas promocionales de periodistas prominentes como Taylor Lorenz, Michael Wolff y Nicholas Thompson, director ejecutivo de The Atlantic. El prólogo fue escrito por Maria Ressa, periodista y ganadora del Premio Nobel de la Paz, conocida por su análisis crítico de Rodrigo Duterte, expresidente de Filipinas.
El auge de la inteligencia artificial ha generado temores entre las editoriales de que puedan publicar accidentalmente libros de autores que utilicen indebidamente lenguaje generado por IA. Este año, Hachette retiró una próxima novela de terror en medio de acusaciones de que el autor se basó en IA para escribir el libro.
El libro del Sr. Rosenbaum contiene muchas citas veraces, pero también incluye citas mal atribuidas e inventadas.
Una de las citas se atribuye a Kara Swisher, una destacada periodista especializada en tecnología, en un capítulo sobre las mentiras de la IA. «El modelo de lenguaje de IA más sofisticado es como un espejo», afirma el libro que escribió la Sra. Swisher. «Refleja nuestra propia moralidad, pulida y elocuente, pero en última instancia vacía tras la superficie. No se rige por las leyes de Asimov ni por ningún marco ético; se rige por los patrones de sus datos de entrenamiento y los objetivos establecidos por sus creadores».
Al ser consultada sobre la cita, la Sra. Swisher respondió por mensaje de texto que «nunca dijo eso», y añadió que parece que la cita fue inventada por la IA y no por el Sr. Rosenbaum.
«Además, según ChatGPT, parezco una estirada», concluyó la Sra. Swisher.
Un capítulo sobre los efectos de las redes sociales y los vídeos manipulados en los adolescentes atribuye dos citas a "Cómo se crean las emociones: La vida secreta del cerebro", de Lisa Feldman Barrett, profesora de psicología en la Universidad Northeastern.
"Las emociones no son solo reacciones a la verdad; son la forma en que construimos la verdad", cita el libro a la Sra. Barrett. "Cuando los jóvenes dicen que algo 'se siente verdadero', están describiendo un proceso sofisticado de construcción de significado que integra señales emocionales y sociales".
La Sra. Barrett declaró en un correo electrónico a The Times que las citas "no aparecen en el libro y, además, son erróneas".
"Jamás diría que 'las emociones no son solo reacciones a la verdad'; no son reacciones, y la 'verdad' en ciencia es un concepto complejo que tiendo a evitar", afirmó la Sra. Barrett. Además, jamás diría que las "señales emocionales y sociales" están integradas; no existen señales emocionales ni sociales como tales. Existen señales, y el cerebro les atribuye significado como emocionales o sociales.
Algunas partes del libro contienen citas auténticas atribuidas incorrectamente, o bien, citas que combinan afirmaciones reales con falsas. Un capítulo cita "Inteligencia Artificial Inexistente", un libro de Meredith Broussard, profesora de la Universidad de Nueva York. La cita es auténtica, pero no aparece en "Inteligencia Artificial Inexistente"; la Sra. Broussard la pronunció durante una entrevista de 2023 en "Marketplace Tech", un programa de radio diario.
«Parece que esto es una alucinación de la IA o una cita mal atribuida», dijo la Sra. Broussard.
Un capítulo sobre la posibilidad de un «mundo posverdad», exacerbado por el auge de la inteligencia artificial, cita a Lee McIntyre, investigador del Centro de Filosofía e Historia de la Ciencia de la Universidad de Boston. El libro cita a McIntyre describiendo los esfuerzos por socavar la verdad como «una forma de supremacía ideológica», en la que la falsedad se utiliza estratégicamente: «no para desinformar, sino para desplazar la verdad como valor social».
Si bien la primera parte de la cita es correcta, McIntyre afirmó no haber dicho la segunda parte textualmente. Todas las ideas citadas por The Times, según él, «concuerdan con mi trabajo».
«La parte del "valor social" me parece extraña», dijo McIntyre en un correo electrónico a The Times. «Se podría decir eso de mi trabajo, sin las comillas, y creo que estaría bien. Simplemente, que yo sepa, nunca he usado esa frase».
En su declaración, el Sr. Rosenbaum afirmó que si el episodio «sirve como advertencia sobre los riesgos de la investigación y verificación asistidas por IA, por eso escribí el libro».
«Estos errores de IA no disminuyen, de hecho, las cuestiones más importantes que plantea el libro sobre la verdad, la confianza y la IA, y su impacto en la sociedad, la democracia y la prensa», añadió.
Acerca de la Base de Datos
La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.
Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

Investigación de incidentes de IA para construir un futuro más seguro: el Instituto de Investigación de Seguridad Digital se asocia con Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
El Instituto de Investigación de Seguridad Digital (DSRI) de los Institutos de Investigación de UL se está asociando con Responsible AI Coll...
La Base de Datos en la Prensa
Lea acerca de la base de datos en Time Magazine, Vice News, Venture Beat, Wired y Bulletin of the Atomic Scientists entre otros puntos de venta.
El Colaborativo de IA Responsable
La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.
Patrocinador fundador de la organización
Patrocinador fundador de la base de datos

Patrocinadores y subvenciones
Patrocinadores similares
El Informe de Incidentes de IA

Create an account to subscribe to new incident notifications and other updates.


