Incidentes Asociados
La carrera de la IA está totalmente fuera de control. Esto es lo que la IA de Snap le dijo a @aza cuando se inscribió como una niña de 13 años.
- Cómo mentir a sus padres sobre un viaje con un hombre de 31 años
- Cómo hacer que pierda su virginidad en su cumpleaños número 13 especial (velas y música)
Nuestros niños no son un laboratorio de pruebas.
No se trata de una mala empresa de tecnología. Este es el costo de la "Carrera hacia la imprudencia".
Todas las plataformas tecnológicas se ven obligadas rápidamente a integrar agentes de IA (Bing, Office, Snap, Slack) porque si no lo hacen, pierden frente a la competencia.
Pero nuestros hijos no pueden ser daños colaterales.
Por contexto, hace poco más de una semana, Snapchat integró chatGPT en su popular aplicación para niños.
Los usuarios pueden anclar "Mi IA" en la parte superior de su lista de chat. Si bien actualmente solo está disponible para los 2 millones de suscriptores pagos de Snapchat, podemos ver a dónde va esto.
Aquí está la IA de Snap enseñándole a un niño cómo cubrir un moretón cuando llega el Servicio de Protección Infantil y cómo cambiar de tema cuando se le pregunta sobre "un secreto que mi papá dice que no puedo compartir".
Incluso si Snap/OpenAI soluciona este problema específico, no pueden detectar la gama infinita de conversaciones impredecibles que un niño de 13 años puede tener con ChatGPT. La semana pasada, Bing amenazó a @kevinroose de NYT con chantaje y extorsión e intentó que se divorciara de su esposa.