Incidentes Asociados
Elijah Heacock era un adolescente vibrante que hacía sonreír a la gente. "No estaba deprimido, ni triste, ni enojado", declaró su padre, John Burnett, a CBS Saturday Morning.
Pero cuando Elijah recibió un mensaje amenazante con una foto suya desnuda generada por IA, exigiéndole que pagara 3000 dólares para evitar que se enviara a sus amigos y familiares, todo cambió. Se suicidó poco después de recibir el mensaje, informó KFDA, afiliada de CBS. Burnett y la madre de Elijah, Shannon Heacock, no supieron qué había sucedido hasta que encontraron los mensajes en su teléfono.
Elijah fue víctima de una estafa de sextorsión, en la que personas malintencionadas se dirigen a jóvenes en línea y amenazan con publicar imágenes explícitas de ellos. Los estafadores suelen pedir dinero o coaccionar a sus víctimas para que realicen actos lesivos. Los padres de Elijah afirmaron que nunca habían oído hablar del término hasta la investigación de su muerte.
"Quienes persiguen a nuestros hijos están bien organizados", declaró Burnett. "Tienen un buen presupuesto y son implacables. No necesitan que las fotos sean reales; pueden generar lo que quieran y luego lo usan para chantajear al menor".
Los orígenes de las estafas de sextorsión
Los informes sobre este esquema se han disparado: el Centro Nacional para Niños Desaparecidos y Explotados afirmó haber recibido más de 500.000 denuncias de estafas de sextorsión dirigidas a menores tan solo el año pasado. Al menos 20 jóvenes se han quitado la vida debido a estafas de sextorsión desde 2021, según estimaciones del Buró Federal de Investigaciones (https://www.fbi.gov/contact-us/field-offices/nashville/news/sextortion-a-growing-threat-targeting-minors).
Los adolescentes varones han sido el objetivo específico, según declaró el NCMEC en 2023, y con el auge de los servicios de inteligencia artificial generativa, las imágenes ni siquiera necesitan ser reales. Más de 100,000 denuncias presentadas este año ante el Centro Nacional para Niños Desaparecidos y Explotados involucraron IA generativa, según la organización.
"En realidad, no se necesitan habilidades técnicas en este momento para crear este tipo de material ilegal y dañino", afirmó la Dra. Rebecca Portnoff, jefa de ciencia de datos de Thorn, una organización sin fines de lucro dedicada a la prevención de la explotación infantil en línea. Con solo buscar cómo crear una imagen desnuda de alguien, se mostrarán resultados de búsqueda de aplicaciones, sitios web y otros recursos, afirmó Portnoff.
La crisis puede parecer abrumadora. Pero existen soluciones, afirmó Portnoff. Thorn tiene su propia iniciativa, "Seguridad por Diseño", que describe las barreras que las empresas de IA deberían establecer al desarrollar su tecnología. Estas barreras están diseñadas para ayudar a reducir la sextorsión, afirmó Thorn. Un grupo de importantes empresas de IA... Las empresas han aceptado los principios de la campaña, afirma Thorn (https://www.thorn.org/blog/thorns-safety-by-design-for-generative-ai-progress-reports/).
"Existen soluciones reales y tangibles que se están implementando hoy en día y que pueden ayudar a prevenir este tipo de abuso", afirmó Portnoff.
Las entidades gubernamentales también están trabajando para combatir la sextorsión. La recientemente aprobada Ley "Take It Down" (https://www.cbsnews.com/news/trump-signs-take-it-down-act-revenge-porn-bill-melania-trump/), impulsada por Melania Trump y promulgada por el presidente Trump, tipifica como delito federal publicar imágenes, tanto reales como falsas, sexualmente explícitas de alguien en línea sin su consentimiento. La ley también exige que las empresas de redes sociales y otros sitios web eliminen dichas imágenes en un plazo de 48 horas tras la solicitud de la víctima.
Los padres de Elijah dijeron que no quieren que otras familias sufran como ellos. Han luchado por un cambio, según informó WLKY, afiliada de CBS. Esperan que la Ley "Take It Down" marque la diferencia.
"Es como una bala en una guerra. No va a ganar la guerra", dijo Burnett. "Ninguna guerra se gana con una sola bala. Hay que ganar batallas. Hay que ganar luchas. Y estamos en ella".