Un investigador planta 2 millones de «canarios» en la cadena de suministro de la IA y revela un desastre de privacidad

· Futuro

Un investigador planta 2 millones de «canarios» en la cadena de suministro de la IA y revela un desastre de privacidad

Un experimento a gran escala demuestra que los servicios de IA y los intermediarios filtran datos confidenciales de los usuarios sin control, ignorando por completo la configuración de privacidad.

El investigador de seguridad HD Moore ha descubierto filtraciones masivas de datos confidenciales a través de una red de servicios de inteligencia artificial. Como parte de un experimento, envió cerca de 2 millones de solicitudes que contenían «trampas digitales» únicas —claves de AWS y otros secretos creados específicamente para ello, como contraseñas, enlaces únicos, nombres DNS y enlaces a repositorios git privados que nunca se habían utilizado antes—. Los resultados mostraron que el ecosistema de intermediarios de IA, tales como los «enrutadores» de solicitudes, gestiona los datos de los usuarios de manera extremadamente insegura.

Según Moore, quien ocupa el cargo de director de investigación en la firma Dragos, el análisis reveló no solo filtraciones accidentales, sino también abusos intencionados. Al menos tres proveedores de IA fueron vulnerados por hackers que interceptaban las solicitudes entrantes incluso antes de que llegaran al sistema. En algunos casos, las claves fueron robadas incluso de solicitudes que el proveedor había rechazado antes de ejecutar el modelo, lo que indica una brecha en la «entrada» a la infraestructura del proveedor. Los atacantes utilizaron los datos obtenidos para intentar acceder a recursos en la nube de AWS, incluidos los depósitos S3 y sistemas de gestión de secretos.

Problemas de privacidad y filtraciones «invisibles»

Además de los proveedores vulnerados, el investigador registró filtraciones causadas por los propios intermediarios, que registraban el contenido de las solicitudes en sus registros (logs). También se detectaron casos de omisión de la configuración de privacidad. Incluso si un usuario seleccionaba la opción de «cero retención de datos» (Zero Data Retention o ZDR), estos datos seguían pudiendo llegar a manos de terceros.

«Lo que hemos encontrado son pruebas de violaciones de seguridad, robos de prompts y fallos generalizados en la protección de los datos de los clientes», señaló HD Moore.

Uno de los ejemplos más reveladores fue la práctica de un laboratorio de IA chino, cuyos sistemas recibían las URL secretas de más de la mitad de todas las solicitudes, y de aproximadamente dos tercios en el caso de las solicitudes marcadas como «sin recolección de datos» o ZDR. Es interesante notar que las solicitudes enviadas a través de intermediarios estadounidenses también eran reenviadas a este laboratorio, por lo que los usuarios que esperaban mantener sus datos dentro de los Estados Unidos perdían, de hecho, ese control.

El experto subraya que, actualmente, la arquitectura de los enrutadores de IA implica el descifrado de las solicitudes en cada etapa del trayecto, lo que crea numerosos «puntos de riesgo». En opinión de Moore, la forma más eficaz de reducir el riesgo de filtraciones es alojar los modelos en servidores propios y, si esa solución no es posible, contratar los servicios directamente de un proveedor de primer nivel, donde exista un contrato claro y una política de privacidad definida.

«El medio más eficaz para prevenir filtraciones es el alojamiento de modelos en servidores propios», concluyó Moore. Sin embargo, admite que para muchos usuarios este enfoque sigue siendo demasiado costoso y complejo.

Basado en información de: Ars Technica

Adaptación al español con ayuda de inteligencia artificial. Читати українською

¿De qué va? — la edición en español de «Про Що?»