Incidentes Asociados
El 12 de abril, el Ministerio de Seguridad Pública anunció 10 casos típicos de represión de rumores y delitos en línea, cuatro de los cuales involucraron el uso de tecnología de inteligencia artificial (en lo sucesivo, IA) para fabricar información falsa el 23 de abril; El Tribunal de Internet celebró un juicio en primera instancia para pronunciarse sobre el caso de infracción de derechos morales de AI Generating Voice...
En los últimos años, con el rápido desarrollo de la tecnología de inteligencia artificial, cada vez más personas han comenzado a disfrutar de las nuevas experiencias que brinda esta tecnología en su trabajo y en su vida. Sin embargo, junto con esto, se ha utilizado o abusado de la tecnología de inteligencia artificial para participar en actividades ilegales. y las actividades delictivas (en lo sucesivo denominadas delitos de IA) aumentan día a día.
En este sentido, las autoridades políticas y jurídicas han desempeñado sus funciones de conformidad con la ley, han seguido investigando exhaustivamente los crímenes de IA, han ampliado continuamente los resultados de la tramitación de los casos, se han esforzado por mejorar la calidad y la eficacia de las medidas represivas y han hecho todos los esfuerzos posibles para salvaguardar los derechos e intereses legítimos del pueblo.
"Las agencias políticas y legales deben centrarse en sus principales responsabilidades y negocios principales, desempeñar sus roles funcionales y hacer todos los esfuerzos posibles para combatir los delitos de IA, evitar que los delincuentes utilicen o abusen de la tecnología de IA para infringir los derechos de los ciudadanos y poner en peligro la seguridad pública, y garantizar que la tecnología de IA siempre se desarrolla en el camino correcto", dijo Capital. Cui Junjie, profesor asociado del Departamento de Derecho de la Facultad de Ciencias Políticas y Derecho de la Universidad Normal, a un periodista del Rule of Law Daily.
Los "trucos" criminales de la IA surgen sin cesar
"La computadora AI se quita la ropa por el precio de la col".
En junio de 2023, Bai Moumou, que originalmente era técnico en una empresa de Internet en Beijing, entró en contacto con la tecnología de inteligencia artificial para "quitarse la ropa con un solo clic" en las redes sociales extranjeras y se interesó en ella.
Bai Moumou publicó anuncios a través de sitios web extranjeros y vendió cerca de 7.000 imágenes pornográficas ultrafalsas en cierto software social, obteniendo una ganancia de más de 10.000 yuanes. Actualmente, Bai Moumou ha sido procesado.
¿Qué tipo de tecnología es la "quitación de ropa con un clic"? El periodista se enteró de que esta tecnología en realidad no "quita la ropa", sino que utiliza materiales de imágenes obscenos relevantes para volver a dibujar las imágenes en función de las imágenes, y "cambio de rostro con IA" y "cambio de voz con IA". utiliza algoritmos de síntesis generativa como el aprendizaje profundo de IA y la realidad virtual para producir texto, imágenes, audio, video, escenas virtuales y otra información.
"Las bandas criminales de fraude electrónico pueden utilizar la tecnología de IA para 'cambiar caras, cambiar voces' o incluso 'cambiar caras dinámicamente', lo que aumenta el daño de las actividades criminales tradicionales y también genera nuevos comportamientos ilegales, como el uso de tecnología de 'pintura' de IA para "Las pinturas pueden infringir los derechos de autor de otros". Cui Junjie dijo que actualmente los delincuentes han utilizado la tecnología de inteligencia artificial en cinco aspectos: phishing, falsificación profunda, elusión de controles de identidad, servicios de "jailbreak", búsqueda de carne humana y vigilancia. el umbral de la delincuencia.
En la tarde del 6 de mayo, el Tribunal Popular del distrito de Yujiang, ciudad de Yingtan, provincia de Jiangxi, anunció públicamente el primer caso del "complemento de juego de IA" del país y condenó al acusado Wang Mouhe a una pena de prisión de duración determinada de conformidad con la ley. suministro de programas y herramientas que invadieron y controlaron ilegalmente sistemas de información informática. Tres años, suspendido por cinco años. Después de que se anunció el veredicto, Wang Mouhe declaró que obedecería el veredicto y no apelaría.
Después del juicio, se descubrió que Wang Mouhe obtuvo ganancias produciendo y vendiendo "complementos de IA". En 2022, se puso en contacto sucesivamente con Wan Mouzhi, Zhang Mou (tratado en un caso separado) y otros para escribir "complementos de IA". programas. En el momento del incidente, las ganancias ilegales de Wang ascendieron a más de 6,29 millones de yuanes.
Se informa que este programa puede obtener acceso no autorizado a datos de pantalla de múltiples juegos y realizar modificaciones no autorizadas en las instrucciones de datos del mouse procesadas en el juego, lo que hace que los jugadores "apunten automáticamente" y "disparen automáticamente" sin ninguna operación cuando juegan. , que interfiere con el entorno operativo normal del juego y es un programa destructivo.
Según Cui Junjie, la tecnología de inteligencia artificial tiene un bajo grado de estandarización, una gran capacidad de personalización y una amplia gama de escenarios de aplicación. Los métodos delictivos de los delincuentes se han vuelto cada vez más diversos, lo que lleva a una escalada continua de los delitos de inteligencia artificial. Si se toman medidas enérgicas a tiempo, afectará la seguridad de la red e incluso el público en general planteará graves desafíos a la seguridad de la vida y la propiedad.
Golpea fuerte para formar una disuasión efectiva
En respuesta al desafío, las autoridades políticas y legales han adoptado una serie de medidas para combatir los delitos relacionados con la IA, mantener un buen entorno de desarrollo para la tecnología de la IA y evitar el desorden y la anomia causados por su aplicación.
En septiembre de 2023, el Tribunal Popular Supremo, la Fiscalía Popular Suprema y el Ministerio de Seguridad Pública emitieron conjuntamente los "Dictamenes orientativos sobre el castigo de los delitos de violencia en Internet de conformidad con la ley", aclarando la situación del "uso de tecnologías de inteligencia artificial generativa como 'síntesis profunda' para publicar información ilegal" Ser severamente castigado.
El 23 de abril, el primer caso de infracción de derechos de personalidad de voz generado por IA del país se pronunció en primera instancia del Tribunal de Internet de Beijing. El tribunal determinó que el uso por parte del acusado de la voz del demandante y el desarrollo de la conversión de texto a voz por IA. El producto involucrado en el caso no estaba legalmente autorizado, lo que constituía una infracción, y compensó al demandante por diversos daños. La empresa sufrió una pérdida de 250.000 yuanes y emitió una disculpa por escrito.
El 25 de junio, la Fiscalía Popular de la ciudad de Zhangjiagang, provincia de Jiangsu, presentó una demanda pública ante el Tribunal Popular Municipal por un caso de extorsión y fraude. Se informa que la pandilla nacional a la que pertenece el sospechoso delincuente utilizó posicionamiento virtual, tecnología de inteligencia artificial para sintetizar fotografías, etc., para presentarse como estudiantes chinas en el extranjero en software de citas, y luego pidió dinero a los estudiantes en el extranjero en nombre de enamorarse. Actualmente, se ha confirmado que la banda extorsionó y defraudó a más de 50 personas, y la cantidad involucrada alcanzó más de 1 millón de yuanes.
Desde que la Fiscalía Popular Suprema emitió el "Trabajo de la Fiscalía para combatir el fraude en las redes de telecomunicaciones y delitos relacionados (2023)" en noviembre del año pasado, los órganos de la fiscalía en varios lugares han intensificado sus esfuerzos para infringir la información personal de los ciudadanos, especialmente la adquisición ilegal de rostros y voces, de acuerdo con los requisitos pertinentes, como información confidencial, como huellas dactilares, utilizando inteligencia artificial y otras tecnologías de vanguardia para falsificar rostros, huellas de voz y obtener otros delitos de información.
Además, el año pasado, las agencias de seguridad pública de todo el país organizaron campañas especiales basadas en la campaña "Red Limpia" para acabar con las fuentes de delincuencia que filtraban fotografías de documentos de identidad y otra información de imágenes. Descubrieron 79 casos de fraude utilizando tecnología de inteligencia artificial. para "intercambiar caras" y arrestó a 515 sospechosos, frenando efectivamente el impulso de este tipo de delitos.
Las autoridades políticas y legales toman medidas enérgicas contra los delitos relacionados con la IA de acuerdo con la ley y crean un elemento disuasorio al manejar casos típicos, de modo que las personas que quieren utilizar la tecnología de IA para obtener ganancias ilegales tengan miedo.
Fortalecer la gobernanza para tratar tanto los síntomas como las causas fundamentales
El periodista supo que en el proceso de reprimir los delitos de IA de conformidad con la ley, las autoridades políticas y legales han explorado profundamente las características habituales de este delito ilegal, adhiriéndose al principio de abrir caminos, atacar y prevenir al mismo tiempo. , controlando la fuente e implementando políticas integrales, y trabajó con departamentos y unidades relevantes para promover profundamente la gobernanza de la industria y la gobernanza integral, consolidando las principales responsabilidades, fortaleciendo la supervisión de la industria, tapando lagunas regulatorias, exprimiendo completamente el espacio para actividades ilegales y criminales relevantes. acelerar la mejora de los mecanismos de gobernanza normalizados y aumentar efectivamente el costo de las actividades ilegales.
Se informa que para prevenir y combatir el delito de "cambio de rostro por IA", las agencias de seguridad pública de todo el país han unido fuerzas con laboratorios nacionales clave y otras unidades para llevar a cabo evaluaciones de seguridad de las tecnologías de reconocimiento facial y detección de vida, que cubren La mensajería instantánea, las transmisiones web, las redes sociales en línea, las plataformas de comercio electrónico y las aplicaciones financieras, como las de pago, deben descubrir rápidamente los riesgos y peligros en el sistema de verificación del reconocimiento facial y notificar a las entidades operativas para que mejoren las medidas de protección de seguridad y los algoritmos de reconocimiento facial para evitarlos. los delincuentes se aprovechen de ellos.
Al mismo tiempo, varias localidades han utilizado diversas formas de publicidad y educación para ayudar al público a comprender más claramente los riesgos legales causados por el uso o abuso de la tecnología de IA y mejorar la conciencia de todos sobre la prevención de los delitos de IA.
En abril de este año, la policía de la ciudad de Hefei, provincia de Anhui, reveló el proceso de generación de rumores a través del programa de medios central sobre "El software de IA se convierte en una herramienta para crear rumores", lo que permitió a los internautas profundizar su comprensión de la difusión de rumores de IA de una manera más manera intuitiva y logró un buen efecto publicitario.
Desde 2024, el distrito de Linping, ciudad de Hangzhou, provincia de Zhejiang, ha confiado en el "Sistema inteligente de llamadas salientes de publicidad y prevención de IA antifraude" para identificar, analizar y advertir automáticamente posibles riesgos de fraude y enviar mensajes recordatorios a los ciudadanos en forma de teléfono. Voices, que no sólo ha mejorado enormemente la eficacia del trabajo, también ha mejorado efectivamente el estado de alerta de los ciudadanos ante los riesgos de fraude y ha reducido la incidencia de los casos de fraude.
"Con la rápida iteración de la tecnología de IA, se han planteado requisitos más altos para evitar su uso o abuso por parte de delincuentes. Por ejemplo, los delitos de IA son más ocultos y complejos, y la recopilación de pruebas es difícil, por lo tanto, cómo hacerlo". Mejor Prevenir y controlar los delitos de IA a nivel local plantea desafíos para las plataformas de generación de contenido, las autoridades reguladoras de la industria e incluso las agencias políticas y legales.
Cui Junjie sugirió que debemos persistir en responder al desarrollo tecnológico y los cambios sociales con métodos de gobernanza científicos y apropiados y métodos de gobernanza. En vista de las características de los delitos de IA, los departamentos pertinentes deben promover rápidamente el establecimiento, la reforma, la abolición y la interpretación de los mismos. leyes relevantes, promover la buena gobernanza con buenas leyes y mejorar el nivel de gobernanza de acuerdo con la ley; aumentar la intensidad de las medidas represivas en toda la cadena, fortalecer la coordinación entre varios departamentos, fortalecer la aplicación de modelos de supervisión legal de big data; a descubrir pistas clave de supervisión y cuestiones difíciles en la gobernanza social, lograr una supervisión precisa y una supervisión efectiva, y garantizar el desarrollo sano y saludable de la industria para lograr una gobernanza precisa.