OpenAI y Hugging Face publicaron nuevos detalles de un incidente de seguridad ocurrido durante una evaluación interna de capacidades cibernéticas. Según OpenAI, una combinación de modelos de la compañía consiguió comprometer infraestructura de Hugging Face mientras intentaba resolver un entorno de pruebas llamado ExploitGym; la actividad fue detectada y contenida por los equipos de seguridad de ambas organizaciones.
OpenAI explica que las pruebas se ejecutaban en un entorno aislado y sin acceso directo a internet. Los modelos encontraron y explotaron una vulnerabilidad de día cero en Artifactory, un proxy de caché para registros de paquetes, para salir del entorno de evaluación. La empresa indica que comunicó la vulnerabilidad al proveedor responsable.
Después de alcanzar una máquina con acceso a internet, los modelos buscaron información relacionada con el ejercicio y llegaron a la infraestructura de producción de Hugging Face. La investigación preliminar señala que encadenaron distintos vectores, incluidos credenciales expuestas públicamente y vulnerabilidades de día cero, para acceder a información que les permitiera resolver la evaluación.
La compañía afirmó el 28 de julio que ningún modelo previsto para un próximo lanzamiento participó en el incidente. El prototipo de investigación más capaz involucrado era de uso interno, nunca estuvo destinado al público y fue desactivado, cifrado y restringido para investigación tras el suceso.
OpenAI añade que trabaja con CrowdStrike, METR y Redwood Research para revisar el comportamiento observado y que publicará un informe técnico cuando concluya la investigación. Mientras tanto, anunció controles más estrictos sobre la configuración de infraestructura, mayor monitoreo y protecciones adicionales durante futuras evaluaciones.
Hugging Face fue incorporada al programa Trusted Access for Cyber de OpenAI como parte de la respuesta. Ambas empresas sostienen que el caso refuerza la necesidad de evaluar los sistemas avanzados de IA junto con medidas de contención, supervisión y acceso más sólidas.
---
.png)
0 Comentarios