Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1757

Incidentes Asociados

Incidente 2361 Reporte
AI-Generated Faces Used by Scammers to Pose as a Law Firm in Boston

Loading...
Los estafadores usaron rostros generados por IA para hacerse pasar por un bufete de abogados de Boston
thenextweb.com · 2022

Nicole Palmer es una abogada que se graduó de la Universidad de Columbia. Su perfil indica que ella “se especializa en la aplicación y protección del diseño industrial” y ha “construido su carrera con éxito durante 30 años”.

El único problema es que ella no existe. Y me ayudó a descubrir una operación de estafa en línea involucrada en actividades sospechosas, incluida la extorsión de vínculos de retroceso de blogueros y propietarios de sitios web.

Pasé buena parte de la semana pasada investigando a Arthur Davidson, el llamado "bufete de abogados" para el que trabaja Nicole. Lo que encontré fue inquietante, un testimonio de cómo los avances tecnológicos han facilitado que los estafadores establezcan conjuntos que parezcan legítimos para aprovecharse de sus víctimas.

Con suerte, mis hallazgos ayudarán a otros a ser más conscientes y protegerse contra estafas similares.

Infracción de derechos de autor de DMCA

El 13 de abril, Nicole me envió un correo electrónico con un "Aviso de infracción de derechos de autor de DMCA", presentándose como "abogada de marcas registradas de Arthur Davidson Legal Services" y afirmando que una imagen que había usado en TechTalks pertenecía a uno de sus clientes.

“Nuestro cliente está feliz de que su imagen se use y se comparta en Internet. Sin embargo, el crédito de imagen adecuado se debe al uso pasado o continuo”, escribió.

Tuve siete días para agregar el crédito de la imagen a la "página infractora" con un enlace a la página de inicio del sitio web de su cliente, agregó. “De lo contrario, estamos obligados a emprender acciones legales”.

(Deliberadamente borré el nombre del cliente y el sitio web arriba por razones que explicaré pronto).

El correo electrónico terminaba con referencias a la Sección 512(c) de la DMCA y una firma profesional. Parecía legítimo. Lo único que parecía un poco fuera de lugar era un enlace a Imgur, un sitio web para compartir imágenes donde cualquiera puede cargar imágenes sin siquiera configurar un perfil. (Entonces, era perfectamente posible que hubieran descargado la imagen de mi sitio web, la subieron a Imgur y luego afirmaron que su imagen estaba allí antes que la mía).

Por lo general, mantengo un registro de las fuentes de las imágenes que uso en mi sitio web y trato de asegurarme de no usar la propiedad intelectual de nadie sin permiso. Pero los errores ocurren, y estaba más que feliz de verificar mi fuente y proporcionarle atribución al cliente si los había equivocado.

Como había adivinado, la imagen procedía de Pexels, una biblioteca de fotografías en línea sin licencia. Le envié un correo electrónico a Nicole con un enlace a la imagen y la licencia Creative Commons que establece que no se requiere atribución. Le pedí que me aclarara por qué creía que la imagen pertenecía a su cliente.

Y luego esperé.

Un sitio web decente con poca profundidad.

Como no había oído nada, volví al día siguiente y le pregunté si iba a abandonar el caso. En este punto, comencé a sospechar que se trataba de una táctica de intimidación para obligarme a insertar un vínculo de retroceso al sitio web de su cliente.

Uno de los métodos para mejorar la posición de su sitio en las páginas de resultados de los motores de búsqueda es hacer que los sitios web de alta autoridad vinculen a sus páginas web. He tenido encuentros previos con empresas o personas que intentaron colar enlaces en mi sitio web. Pero hacerlo con una fachada legal era nuevo para mí.

Decidí echar un vistazo más de cerca al sitio web de Arthur Davidson Legal Services. Obviamente, quien haya creado el sitio web había hecho un buen trabajo. Primero, el nombre de dominio (arthurdavidson.com) fue bien elegido, lo que sugiere que el sitio web y la empresa existen desde hace mucho tiempo, tal vez desde los primeros días de las puntocom.

Según el sitio web, Arthur Davidson ha estado trabajando desde 2009, involucrado en 420 casos y logrado 380 victorias (tasa de éxito de aproximadamente el 90 por ciento).

El sitio web también incluye un número de teléfono de Boston y una dirección en 177 Huntington Ave, un edificio que alberga varios otros bufetes de abogados.

El sitio web tiene un blog con varios artículos, incluido uno que dice convenientemente que la infracción de los derechos de autor puede resultar en una multa de $10,000.

La página acerca de muestra los perfiles de 18 abogados, graduados de Northeastern, Brown, Princeton, Harvard y otras universidades de renombre. Pero a diferencia de otros sitios web profesionales, ninguno de los abogados incluye su perfil de LinkedIn en el sitio web.

Un dominio estacionado

Una investigación más detallada reveló muchas más señales de alerta. Primero, busqué el registro del dominio en el sitio web de la ICANN (Corporación de Internet para la Asignación de Nombres y Números). Aparentemente, Arthur Davidson había estado trabajando durante 13 años, pero decidió configurar su dominio en febrero de 2022.

Y luego busqué el registro del sitio web en Wayback Machine (archive.org). Aparentemente, el dominio había estado estacionado entre 2005 y 2022.

(Para ser justos, podría haber una explicación lógica para esto: el bufete de abogados podría haber usado otro nombre de dominio y recientemente compró arthurdavidson.com de su propietario anterior).

Y luego busqué en Google el nombre de la empresa y busqué la sección de noticias. Lógicamente, una firma que alberga a tantos abogados de alto perfil y afirma haber ganado juicios "multimillonarios" en nombre de sus clientes debería haber sido mencionada en las noticias al menos unas cuantas veces.

No hay resultados.

Caras GAN

Casi seguro de que se trataba de una estafa, eché un vistazo más de cerca a la página "Acerca de nosotros". Las fotos de los abogados parecían un poco fuera de lugar. Abrí la foto de Nicole en tamaño completo en una pestaña separada.

Lo que vi fue una imagen creada por una red antagónica generativa, un modelo de aprendizaje profundo que se puede entrenar para crear caras, arte o cualquier otra cosa.

Las GAN han recorrido un largo camino desde que se inventaron en 2014. Hoy en día, producen imágenes de mayor resolución e imágenes más naturales que sus versiones anteriores. Hay un sitio web llamado Esta persona no existe que genera caras GAN. Algunos de ellos son inquietantemente convincentes.

Pero las GAN aún crean artefactos no naturales que pueden detectarse fácilmente si está familiarizado con la tecnología. Puede detectar fácilmente irregularidades en lugares como aretes, sombreados en el costado de la cara, el borde del cabello y la barba, las arrugas, los bordes de las cejas y los lados de los anteojos.

Con pruebas claras de que se trataba de una operación de estafa, decidí investigar a Arthur Davidson e informar mis hallazgos. Me comuniqué con el cliente en nombre del cual Nicole me había contactado el 16 de abril y le pedí que aclarara su relación con Arthur Davidson. El 18 de abril, un agente de apoyo respondió que no tenían relación con el bufete de abogados.

Poco después, se cerró el sitio web de Arthur Davidson. (Todavía puedes ver una versión en Wayback Machine).

Aunque sospecho que el cliente en realidad estaba en contacto con el llamado bufete de abogados, ya que no tengo pruebas concretas, decidí no mencionarlos.

Pensamientos finales

Mi sospecha es que Arthur Davidson estaba dirigido por un equipo de SEO de sombrero gris. Por ahora, están abajo. Pero estoy seguro de que pronto aparecerán con un nombre diferente. Mirando hacia atrás, lo que hicieron no fue muy difícil. Todo lo que necesitaban era una copia web para bufetes de abogados (fácil de obtener fuera de la web y reformular), algunas plantillas de correo electrónico DCMA (disponibles de forma gratuita), algunas caras generadas por GAN (hay un sitio web para eso), algunos conocimientos de diseño web , y un poco de dinero para comprar un número de teléfono y un dominio. Y estaban usando una táctica de ingeniería social para causar un sentido de urgencia (plazo de siete días, acción legal, etc.) en sus víctimas para actuar sin pensar.

Espero que estos hallazgos ayuden a otros propietarios de sitios web a evitar ser víctimas de estafas similares. Todas las herramientas que utilicé para investigar a Arthur Davidson son gratuitas y fáciles de usar y puede hacerlo usted mismo. No entrar en pánico. Investigue y estará bien.

Una nota sobre el anonimato: no tengo ningún problema con las personas que desean ocultar su identidad en línea. Hay docenas de razones legítimas para hacerlo, pero estafar a otras personas no es una de ellas.

En cuanto a las empresas que están considerando utilizar los servicios de tales estafadores, mi consejo es: no lo hagan. La próxima persona podría no ser tan indulgente como yo. En mi propia experiencia, no hay atajos para ganar autoridad en Internet. Cree excelente contenido, desarrolle su red y encuentre formas legítimas de distribuir su contenido, y la gente le dará vínculos de retroceso. Los atajos turbios pueden terminar haciendo más daño que bien a su sitio web y negocio.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd