Problema 2746

Menos de 24 horas después de publicar mi artículo anterior de Data Science Central (aquí), decenas de copias ilegítimas comenzaron a aparecer en varios sitios web. A continuación se muestra un ejemplo (título + primer párrafo):

Falso: Una guía experimental de la conjetura de Riemann: el término correcto es evidencia heurística. Es un argumento fuerte basado en evidencia empírica en lugar de una prueba formal desde un punto de vista matemático. Es lo suficientemente notable que decidiste hacerlo público. Este artículo irá directo al grano sin entrar en demasiados detalles sobre los conceptos. El objetivo es proporcionar una breve descripción general para que el lector ocupado pueda tener una idea bastante buena del método. También será De hecho, dudé durante mucho tiempo entre elegir el título actual o “Introducción a su biblioteca MPmath Python para programación científica”.

Real: Una prueba empírica de la conjetura de Riemann — El término correcto debería ser prueba heurística. No es una prueba formal desde un punto de vista matemático, sino argumentos sólidos basados ​​en evidencia empírica. Es lo suficientemente notable que decidí publicarlo. En este artículo voy directo al grano sin discutir los conceptos en detalle. El objetivo es ofrecer una descripción general rápida para que el lector ocupado pueda tener una idea bastante buena del método. Además, constituye una excelente introducción a la biblioteca Python MPmath para computación científica, que se ocupa de funciones matemáticas avanzadas y complejas. De hecho, dudé durante mucho tiempo entre elegir el título actual y “Introducción a la biblioteca MPmath Python para programación científica”.

Cada copia ilegítima ofrece una redacción diferente. El tema común es el inglés deficiente. El primer medio donde apareció fue Theecook.com. Este sitio web se anuncia a sí mismo como una plataforma para “generar texto interesante que se puede usar en YouTube, Twitter, Instagram, Discord y más” [sic].

Cómo podría utilizarse ChatGPT para el fraude

Es muy poco probable que las copias ilegítimas usaran ChatGPT. Supongo que ChatGPT lo haría mucho mejor. Entonces, ¿cuál es el propósito en este caso? no tengo una respuesta Creo que los motores de búsqueda detectarían fácilmente estas copias como falsas. En todo caso porque el original es la versión más antigua. Sin embargo, la experiencia me dice lo contrario: pequeños resúmenes de mis propios artículos en Medium, LinkedIn o Twitter aparecen en Google mucho antes que los artículos reales, completos y originales en MLTechniques.com. Por lo tanto, ChatGPT representa una amenaza para los editores. Más adelante en este artículo, explico por qué también ofrece beneficios a los editores.

Piense en todos los documentos falsos que puede crear: certificado médico, tarjeta de vacunación, ensayo, tesis, tarea, currículum y muchos más. Incluso con firma o sello falso si es necesario. Uno que pase al menos las pruebas básicas de detección de fraude. De hecho, un artículo reciente mencionó que ChatGPT obtuvo dos A y una C en un experimento de prueba a ciegas. La C fue para el trabajo de los estudiantes en un programa de MBA. Los profesores pueden quejarse, pero tal vez podrían usar ChatGPT para calificar tareas y exámenes, e incluso para detectar copias generadas por ChatGPT. Tal vez no hoy todavía, pero en un futuro cercano.

Además, algunas personas se quejan de que aumentará la proporción y el volumen de noticias falsas. Los editores pueden usar ChatGPT. De hecho, depende en parte de las búsquedas en Internet para generar contenido. Pero creo que es todo lo contrario: ChatGPT podría ser mejor que Facebook para detectar noticias falsas y mejor que Google para hacer búsquedas. Esto realmente preocupa a Google. Otra preocupación es el arte de la IA, especialmente si imita el trabajo producido por artistas, ya sea una canción o una pintura. Como muchas tecnologías, se puede utilizar para cosas buenas o malas.

¿Es esto realmente nuevo?

Las capacidades parecen muy superiores a técnicas similares desarrolladas en el pasado. La gente está preocupada de ver sus trabajos automatizados. Como empleado, siempre debe ser proactivo y ver la escritura en la pared. Y tener un plan B. Cuando me di cuenta de que una API de Google podía hacer mi trabajo, fui yo quien se lo mencioné a mi jefe (el CEO, sin saberlo) y terminó bien.

Dicho esto, es parte del proceso de evolución. Una API como ThatsMathematics.com/mathgen/ puede escribir sus artículos de investigación matemática. Algunos artículos, aunque consistan en galimatías matemáticas, han sido aceptados en las principales revistas. WolframAlpha es una plataforma que puede calcular integrales y resolver varios problemas matemáticos. Incluso con una solución paso a paso si lo necesitas para una tarea escolar. Y es gratis. Lo uso todo el tiempo en mi trabajo real, y animo a los estudiantes a hacer lo mismo cuando se enfrentan a ejercicios de clase aburridos, repetitivos, mecánicos y sin sentido. Incluso hace 40 años en la escuela secundaria, no leí todos los libros que tenía que leer. Al igual que muchos, si no todos los demás estudiantes, utilicé resúmenes de libros que brindaban toda la información que necesitaba sobre un libro específico, para hacer su tarea o aprobar el examen.

Beneficios de este tipo de IA

Hay muchos beneficios. Usaría ChatGPT para escribir un artículo como "14 libros de aprendizaje automático que debes leer en 2023". Creo que ChatGPT podría hacer un gran trabajo para una tarea como esta. Los analistas podrían usarlo para generar sus informes. Podría obligar a los maestros a solicitar ensayos y tareas que necesitan un poco de creatividad real. Y me alegraría ver un motor de búsqueda mucho mejor que Google. ¿Qué pasa con la escritura de código? Estaría feliz de pasar menos tiempo en eso, teniendo a ChatGPT como mi caballo de batalla. En todo caso, sería bueno ver que ChatGPT depura su código. O edite y corrija sus documentos.

Al final, podría probar teoremas matemáticos (esto no es algo nuevo), realizar diagnósticos médicos, inventar nuevas recetas, redactar documentos legales. Tal vez incluso sentencias judiciales. Y esto no es del todo nuevo: los sistemas expertos son los antepasados ​​de esta tecnología. Ciertamente, sería útil crear imágenes o videos destacados para incluir en mis artículos. Evitaría las tarifas de licencia y posibles batallas de derechos de autor. Sin embargo, ¿las imágenes sintetizadas estarían sujetas a derechos de autor? ¿Podría un artículo de noticias sobre su DUI reciente, que presenta una imagen sintetizada de usted, ser impugnado ante un tribunal por violación de la privacidad? ¿En qué se diferencia, desde un punto de vista legal, de una imagen dibujada a mano de su cara? ¿O un dibujo digital sintetizado de tu cara?

Mejoras potenciales

Un área de mejora: conseguir que estas herramientas produzcan soluciones con personalidad, menos aburridas. También tienden a carecer de sentido común. A veces esto tiene terribles consecuencias: los modelos matemáticos que desconocen que los precios de las viviendas que aumentan un 100% en 4 años están destinados a colapsar, o el hecho de que no haya estadísticas sobre personas recuperadas en los primeros días de Covid no significó que todos terminaron muy enfermos, todo lo contrario. Algunos accidentes aéreos han sido causados ​​por el comportamiento absurdo del piloto automático.

Además, agregar marcas de agua a las imágenes sintetizadas aumenta la seguridad y facilita la protección del trabajo contra copias ilegales. Se puede utilizar un mecanismo similar para texto o sonido sintetizados.