Problema 2937
El mes pasado, un canal interno de Slack en Amazon estaba repleto de preguntas de los empleados. sobre ChatGPT, la herramienta de inteligencia artificial que ha conquistado el mundo de la tecnología desde su lanzamiento a finales de noviembre.
Algunos preguntaron si Amazon tenía orientación oficial sobre el uso de ChatGPT en dispositivos de trabajo. Otros se preguntaron si incluso se les permitía usar la herramienta de inteligencia artificial para trabajar. Una persona instó a la unidad de nube de Amazon Web Services a publicar su posición sobre el "uso aceptable de herramientas de IA generativa", como ChatGPT.
Pronto, un abogado corporativo de Amazon intervino. Advirtió a los empleados que no proporcionaran a ChatGPT "ninguna información confidencial de Amazon (incluido el código de Amazon en el que está trabajando)", según una captura de pantalla del mensaje visto por Insider.
El abogado, un asesor corporativo sénior de Amazon, sugirió que los empleados sigan las políticas de confidencialidad y conflicto de intereses existentes de la compañía porque ha habido "casos" de respuestas de ChatGPT que se parecen a los datos internos de Amazon.
"Esto es importante porque sus entradas pueden usarse como datos de entrenamiento para una iteración adicional de ChatGPT, y no nos gustaría que su salida incluyera o se pareciera a nuestra información confidencial (y ya he visto casos en los que su salida coincide mucho con el material existente )", escribió el abogado.
El intercambio refleja uno de los muchos problemas éticos nuevos que surgen como resultado de la repentina aparición de ChatGPT, la herramienta de IA conversacional que puede responder a las indicaciones con respuestas marcadamente articuladas e inteligentes. Su rápida proliferación tiene el potencial de dar un vuelco a una serie de industrias, a través de [medios] (https://www.theregister.com/2023/01/23/ai_news_roundup/), [académicos] (https://www.nytimes. com/2023/01/16/technology/chatgpt-artificial-intelligence-universities.html) y [salud](https://www.businessinsider.com/company-using-chatgpt-mental-health-support-ethical- issues-2023-1), lo que precipitó un esfuerzo frenético para lidiar con los casos de uso del chatbot y las consecuencias.
La cuestión de cómo se comparte la información confidencial de la empresa con ChatGPT y qué OpenAI, el creador de la herramienta de IA, podría convertirse en un tema espinoso en el futuro. Es particularmente importante para Amazon, ya que su principal competidor, Microsoft, ha [invertido mucho en OpenAI] (https://www.businessinsider.com/microsoft-10-billion-openai-gamble-2023-1), incluida una nueva ronda de financiación este semana que supuestamente suma $10 mil millones.
"OpenAI está lejos de ser transparente sobre cómo usan los datos, pero si se incorpora a los datos de entrenamiento, esperaría que las corporaciones se pregunten: después de unos meses de uso generalizado de ChatGPT, ¿será posible extraer información corporativa privada con inteligencia? indicaciones hechas a mano?" dijo Emily Bender, quien enseña lingüística computacional en la Universidad de Washington.
El portavoz de Amazon no respondió a una solicitud de comentarios. El representante de OpenAI señaló la página de preguntas frecuentes de ChatGPT para cualquier pregunta relacionada con sus datos y políticas de privacidad.
Algunos miembros del personal de Amazon ya usan ChatGPT como un 'asistente de codificación'
Amazon ha puesto algunas medidas de seguridad internas para ChatGPT. Por ejemplo, cuando los empleados usan un dispositivo de trabajo para ir al sitio web de ChatGPT, aparece un mensaje de advertencia que dice que están a punto de visitar un servicio de terceros que "puede que Amazon Security no apruebe su uso", según las capturas de pantalla. visto por Insider.
Los empleados en el canal de Slack dijeron que podían omitir ese mensaje simplemente haciendo clic en la pestaña "Reconocer". El personal supuso que la ventana emergente de advertencia está ahí para evitar que los empleados peguen información confidencial en ChatGPT, especialmente porque aún no han visto una política de la empresa sobre su uso interno.
Aún así, algunos usuarios de Amazon ya están utilizando la herramienta de inteligencia artificial como un "asistente de codificación" de software al pedirle que mejore las líneas internas de código, según los mensajes de Slack vistos por Insider.
"Creo que sería increíble poder usar esto directamente ahora", escribió una persona en el canal de Slack. "Así que cualquier orientación sería fantástica".
'Tanto asustado como emocionado'
Otro empleado dijo que compartió con ChatGPT algunas de las preguntas de la entrevista de Amazon para un puesto vacante de codificación. El modelo dio la solución correcta a varias de estas preguntas técnicas, según las publicaciones de este empleado en Slack.
"Estoy asustado y emocionado de ver qué impacto tendrá esto en la forma en que realizamos las entrevistas de codificación", escribió este miembro del personal en Slack.
En general, los empleados de Amazon en el canal de Slack estaban entusiasmados con el potencial de ChatGPT y se preguntaban si Amazon estaba trabajando en un producto de la competencia.
El abogado corporativo que advirtió a los empleados sobre el uso de ChatGPT dijo que Amazon estaba desarrollando ampliamente una "tecnología similar", citando a la asistente de voz Alexa y al servicio de recomendación de códigos CodeWhisperer.
Un empleado de AWS escribió que el equipo de soporte empresarial recientemente inició un pequeño grupo de trabajo interno para "comprender el impacto de la IA de chat avanzada en nuestro negocio", según los mensajes de Slack. El estudio reveló que ChatGPT "hace un muy buen trabajo" al responder preguntas de soporte de AWS, incluidas las difíciles, como la resolución de problemas de la base de datos de Aurora. También es "excelente" para crear material de capacitación para los exámenes de AWS Certified Cloud Architect y "muy bueno" para definir los objetivos de la empresa de un cliente, afirmaron los mensajes de Slack del empleado.
'Lejos de ser transparente'
El mayor uso de ChatGPT en el trabajo plantea serias dudas sobre cómo OpenAI planea usar el material compartido con la herramienta de IA, según Bender de la Universidad de Washington.
Los términos de servicio requieren de OpenAI para que los usuarios acepten que la empresa puede usar todas las entradas y salidas generadas por los usuarios y ChatGPT. También dice que elimina toda la información de identificación personal (PII) de los datos que utiliza.
Bender dijo que es difícil ver cómo OpenAI está identificando y eliminando "completamente" información personal, dada la escala de rápido crecimiento de ChatGPT: [cruzó 1 millón de usuarios] (https://twitter.com/sama/status/1599668808285028353) en una semana de lanzamiento. Más importante aún, la propiedad intelectual de las corporaciones probablemente no sea parte de lo que se define bajo PII, dijo Bender.
Para los empleados de Amazon, la privacidad de los datos parece ser la menor de sus preocupaciones. Dijeron que usar el chatbot en el trabajo ha llevado a una "productividad 10 veces mayor", y muchos expresaron su deseo de unirse a equipos internos que desarrollan servicios similares.
"Si hay una iniciativa actual para construir un servicio similar, me interesaría dedicar tiempo a ayudar a construirlo si es necesario", escribió uno de los empleados en Slack.