Desde que la firma de investigación de IA OpenAI lanzó ChatGPT en noviembre de 2022, no se ha hablado de nada más en el campo de la tecnología. En este sentido, el gigante del comercio electrónico (pero no solo) Amazon se ha mostrado atento e incluso ha advertido a los empleados que no interactúen con ChatGPT y compartan información confidencial.
Amazon prohíbe a sus empleados compartir información confidencial con ChatGPT
El canal Slack interno de Amazon había recibido muchas preguntas de los empleados sobre cómo usar ChatGPT. Algunos empleados le preguntaron a Amazon si había pautas oficiales para usar ChatGPT en dispositivos de trabajo. Otros cuestionaron si se les permitía trabajar con herramientas de IA. Un empleado está instando a la división de computación en la nube de Amazon, AWS, a aclarar su postura sobre el uso de "herramientas de inteligencia artificial generativa (AIGC)".
Después de poco, un abogado corporativo de Amazon se unió a la discusión. Las capturas de pantalla de las comunicaciones internas en el canal de Slack muestran al abogado advirtiendo a los empleados que no le den a ChatGPT "ninguna información confidencial de Amazon", incluido el código de Amazon que se está escribiendo. También aconsejó a los empleados que siguieran la política de no divulgación existente de la empresa, ya que algunas de las respuestas de ChatGPT parecían muy similares a las que Amazon producía internamente.
“Esto es fundamental porque su entrada puede usarse como datos de capacitación para ChatGPT y no queremos que su salida contenga o se parezca a nuestra información confidencial”, escribió el abogado.
Estos intercambios sugieren que la aparición repentina de ChatGPT ha planteado muchas cuestiones éticas nuevas. ChatGPT es una herramienta de inteligencia artificial conversacional que responde preguntas con respuestas más claras e inteligentes. La rápida proliferación de ChatGPT tiene el potencial de interrumpir varias industrias, incluidos los medios, la academia y la atención médica, lo que impulsa los esfuerzos para encontrar nuevos casos de uso para los chatbots y su posible impacto.
La forma en que los empleados comparten información confidencial con ChatGPT y lo que su desarrollador, OpenAI, hace con ella podría convertirse en un tema espinoso. Esto es especialmente importante para Amazon, ya que su archirrival Microsoft ha invertido mucho en OpenAI, incluida una nueva ronda de financiación esta semana que, según se informa, tiene un valor de $ 10 mil millones.
Emily Bender, que enseña lingüística computacional en la Universidad de Washington, dijo: "OpenAI está lejos de ser transparente sobre cómo usa los datos, pero si los datos se usan para capacitación, espero que las empresas piensen: después de varios meses de uso generalizado de ChatGPT , ¿es posible obtener información confidencial de una empresa privada a través de solicitudes cuidadosamente elaboradas?”
Amazon tiene una serie de medidas de seguridad internas para los empleados que usan ChatGPT. Por ejemplo, las capturas de pantalla del intercambio muestran que cuando los empleados usan dispositivos de trabajo para acceder al sitio web de ChatGPT, aparece un mensaje de advertencia que dice que están a punto de acceder a un servicio de terceros que "puede que Amazon Security no apruebe su uso".
Los empleados que participaron en el chat del canal de Slack dijeron que podían descartar el mensaje simplemente haciendo clic en la pestaña "Reconocer". El personal especuló que la ventana emergente de advertencia era para evitar que los empleados pegaran información confidencial en ChatGPT, especialmente porque no habían visto la política de la empresa sobre uso interno.
Sin embargo, algunos empleados de Amazon ya están utilizando herramientas de inteligencia artificial como "asistentes de codificación" de software para ayudar a mejorar las líneas internas de código. “Creo que sería genial tener esta función lista para usar ahora mismo. Así que cualquier guía sería genial”, escribió un empleado de Amazon en un canal de Slack.
Otro empleado dijo que compartió preguntas de la entrevista de Amazon para un puesto de programación abierto en ChatGPT. Según la publicación de Slack del empleado, el modelo de IA proporcionó las soluciones correctas a muchos de los problemas técnicos. “Estoy preocupado y emocionado de ver qué impacto tendrá esto en la forma en que realizamos las entrevistas de codificación”, dijo.
En general, los empleados de Amazon que participaban en los chats del canal de Slack estaban entusiasmados con el potencial de ChatGPT y se preguntaban si Amazon estaba desarrollando un producto de la competencia. El abogado de la empresa que advirtió a los empleados contra el uso de ChatGPT dijo que Amazon está acelerando el desarrollo de "tecnología similar", citando como ejemplos al asistente de voz de Alexa y al servicio de recomendación de código CodeWhisperer.
Un empleado de AWS escribió que el equipo de soporte de la compañía formó recientemente un pequeño equipo interno para "comprender el impacto de la IA de chat avanzada en nuestro negocio". La investigación muestra que ChatGPT es "muy bueno" para responder preguntas de soporte de AWS, incluida la resolución de problemas de la base de datos de Aurora, entre otros. Al mismo tiempo, también es excelente en la creación de materiales de capacitación para el examen AWS Certified Cloud Architect, abordando los objetivos comerciales del cliente.
El creciente uso de ChatGPT en el trabajo plantea serias dudas sobre cómo OpenAI planea usar material compartido con herramientas de IA, dijo Bender de UW.
