recientemente, Amazon lanzó su chatbot de IA Amazon Q, que despertó el interés de las empresas pero también la preocupación de los empleados por graves problemas de precisión y privacidad. Q fue reportado por tener “alucinaciones de no poco cuenta” y reveló datos confidenciales, lo que generó dudas sobre la seguridad de la información de la empresa. Aquí están los detalles revelados por Plataformas.
Alerta de seguridad para Amazon Q: entre datos confidenciales y respuestas incorrectas
Amazon introducido su chatbot de IA, llamado Q, hace tres días, pero no todo parece ir según lo previsto. Algunos empleados han dado la alarma por cuestiones de precisión y privacidad: Amazon Q habría manifestado "alucinaciones" y revelado información confidencial, como la ubicación de los centros de datos de AWS, programas de descuentos internos y funciones aún no lanzadas.
Esta información surgió de documentos filtrados y obtenidos por Plataformas, destacando un Problema de seguridad de nivel 2, una situación grave que requiere la intervención urgente de los ingenieros.
Pese a ello, Amazon ha restado importancia a estas discusiones internas. Un portavoz dijo que compartir retroalimentación a través de canales internos es una práctica estándar en Amazon y que no se identificaron problemas de seguridad como resultado de estos comentarios. La empresa subrayó la importancia del feedback recibido y el deseo de continuar refinar Amazon Q a medida que pasa de la vista previa a la disponibilidad general.
Amazon Q, actualmente disponible en una vista previa gratuita, se presentó como una versión de software empresarial de un chatbot, con funciones iniciales destinadas a responder preguntas de los desarrolladores sobre AWS, modificar códigos fuente y citar fuentes. Amazon ha enfatizado la seguridad y privacidad de Q, comparándola con herramientas de consumo como ChatGPT.
Sin embargo, un documento interno reveló que Q puede “alucinar” y proporcionar respuestas dañinas o inapropiadas, como información de seguridad obsoleta lo que podría poner en riesgo las cuentas de los clientes. Estos riesgos son típicos de los grandes modelos de lenguaje, todos los cuales tienden a proporcionar respuestas incorrectas o inapropiadas al menos en algunas ocasiones.
Vía | Slashdot
