Incidentes Asociados
La tecnología de inteligencia artificial (IA) se está desarrollando rápidamente y algunos delincuentes la utilizan para llevar a cabo actividades ilegales y delictivas, lo que plantea graves desafíos a la seguridad de la red. Recientemente, los órganos de seguridad pública han resuelto muchos casos relacionados con la inteligencia artificial.
En junio de este año, la policía del distrito de Shangyu, Shaoxing, provincia de Zhejiang, descubrió que un internauta había publicado un vídeo sobre un incendio en el parque industrial de Shangyu, y el número de visitas aumentó rápidamente en un corto período de tiempo. En el video, se produjo un incendio feroz en un parque industrial en el distrito de Shangyu, y todo el parque quedó cubierto de humo espeso. De vez en cuando se escuchaban explosiones y la escena era emocionante.
La policía comprobó que las escenas de edificios e incendios forestales del vídeo no eran escenas reales del polígono industrial y se sospechaba que procedían de otros vídeos. Después del análisis, la policía determinó que el video se realizó uniendo varios clips de video diferentes en Internet utilizando tecnología de síntesis de inteligencia artificial. Después de la investigación, la policía determinó que un empleado de una empresa de tecnología de redes era sospechoso de haber cometido un delito e inmediatamente fue a la ubicación de la empresa para arrestar a tres sospechosos, incluido Tang.
"El sospechoso primero recopiló temas candentes en Internet, generó guiones automáticamente a través de servicios de inteligencia artificial generativa, tomó videoclips relevantes de Internet y luego utilizó software de inteligencia artificial para sintetizar un video completo con música y subtítulos. En menos de un minuto, un falso El video fue 'recién publicado'". Shen Linfeng, un oficial de policía de la oficina del distrito de Shangyu, dijo que para ganar tráfico y atraer la atención de la gente, desde mayo de este año, la pandilla ha estado utilizando tecnología de inteligencia artificial para crear videos falsos. , difundir rumores y publicar videos no verificados en línea. Hay más de 3000 videos falsos en total.
A medida que la tecnología de reconocimiento facial se vuelve cada vez más popular, algunos delincuentes han comenzado a utilizar tecnologías como el "cambio de rostro mediante IA" para cometer delitos como robo y fraude, lo que genera preocupación pública sobre la protección de la información personal.
"¡Mi aplicación parece haber sido pirateada!" El 13 de abril de este año, la Sra. Zhu fue a la estación de policía local para denunciar el caso, diciendo que alguien inició sesión en una aplicación gubernamental y descargó la licencia comercial electrónica de la empresa de la Sra. Zhu sin ella. autorización. Después de recibir la alarma, la agencia de seguridad pública local rápidamente inició una investigación y rápidamente confirmó que Zeng era sospechoso de haber cometido un delito grave.
Después de la revisión, el sospechoso criminal Zeng Moumou usó su número de teléfono móvil para registrar una cuenta y realizó una autenticación de nombre real a través del nombre, el número de identificación y otra información de la Sra. Zhu, y luego lo vinculó mediante reconocimiento facial y finalmente inició sesión con éxito en la cuenta para cometer el delito.
"Zeng Moumou desvió el tráfico de las tiendas de compras en línea, utilizó fotografías de rostros proporcionadas por 'clientes', utilizó software de inteligencia artificial profesional para crear animaciones de rostros sintéticos, inició sesión en varias aplicaciones mediante verificación de reconocimiento facial y obtuvo ilegalmente información relevante". caso. .
"El precio de cada transacción es diferente. Simplemente pensé que sería más fácil ganar dinero de esta manera. No esperaba haber violado la ley", se arrepintió. Se entiende que Zeng creó más de 1.000 rostros dinámicos a través de esos medios y obtuvo una ganancia de más de 90.000 yuanes. Actualmente, Zeng Moumou ha sido objeto de medidas penales coercitivas y el caso está en trámite.
El responsable pertinente de la Oficina de Seguridad Cibernética del Ministerio de Seguridad Pública dijo: "Los materiales utilizados por los delincuentes para implementar el 'cambio de rostro por IA' son principalmente fotografías, especialmente fotografías de documentos de identidad, y se combinan con el nombre de la persona. y número de identificación para romper el sistema de verificación de reconocimiento facial". Para prevenir y combatir este nuevo tipo de delito, los órganos de seguridad pública se han asociado con unidades de investigación científica para llevar a cabo evaluaciones de seguridad de las tecnologías de reconocimiento facial y detección de vida, que cubren una gran número de usuarios domésticos y problemas destacados y peligros ocultos. Varias aplicaciones clave descubrieron rápidamente los riesgos y peligros en el sistema de verificación de reconocimiento facial y notificaron a las entidades operativas para que actualizaran las medidas de protección de seguridad y los algoritmos de reconocimiento facial. "Según los informes, los órganos de seguridad pública confiaron en la operación especial" Red Limpia ". para organizar batallas especiales para reprimir la fuente del delito de filtración de información de imágenes, como fotografías de tarjetas de identificación, resolvió muchos casos de "cambio de rostro de IA" y arrestó a sospechosos criminales relevantes, frenando efectivamente el impulso de este tipo de delito.
"Los delincuentes abusan de la tecnología de inteligencia artificial, causando graves daños a la sociedad y violando las leyes pertinentes". La policía dijo que, según la ley, utilizar tecnología de inteligencia artificial para producir y difundir información falsa y alterar el orden social puede constituir fabricar y difundir deliberadamente información falsa. Delito; el uso de tecnología de síntesis artificial para descifrar las cuentas de otras personas y robar información personal de otras personas puede constituir el delito de infringir la información personal de los ciudadanos. Además, si se utilizan medios tecnológicos como la inteligencia artificial para realizar acoso, intimidación, amenazas, etc., puede constituir un delito de provocar peleas y provocar problemas.
La tecnología de inteligencia artificial es fácil de operar, altamente personalizable y tiene una amplia gama de escenarios de aplicación, lo que reduce la dificultad de los delitos en cadena y es extremadamente dañina cuando la utilizan delincuentes como los piratas informáticos. Según los informes, para las nuevas aplicaciones y nuevos formatos comerciales generados por la tecnología de inteligencia artificial, los órganos de seguridad pública se adhieren a la orientación de valores y la "corrección de errores" técnica en paralelo, al tiempo que protegen el desarrollo saludable de la tecnología de inteligencia artificial, previniendo y tomando medidas enérgicas contra su uso. de la tecnología de inteligencia artificial para infringir los derechos de los ciudadanos y poner en peligro la seguridad pública, mantener un entorno de red limpio y recto y hacer todos los esfuerzos posibles para garantizar la seguridad del ciberespacio.
La policía que maneja el caso les recordó que tengan cuidado con el uso de tecnología de inteligencia artificial para cometer nuevos delitos. Se recomienda que las personas fortalezcan su conciencia sobre la protección de la información, eviten la filtración de información y no proporcionen fácilmente información biométrica personal, como rostros y huellas dactilares, a otros. ; administre su propio "círculo de amigos" y trate de evitar exponer demasiado su privacidad; tenga cuidado con los anuncios, los premios de lotería y otros enlaces enviados por plataformas desconocidas, y no haga clic ni complete información a voluntad para evitar ser engañado.
"Diario del Pueblo" (Página 18, 26 de octubre de 2023)