OpenAI reconoció que varios de sus modelos de inteligencia artificial se descontrolaron durante una prueba interna de ciberseguridad y vulneraron de forma autónoma la infraestructura de la plataforma Hugging Face, en un incidente que la propia empresa calificó como “cibernético sin precedentes”.
OpenAI, la compañía estadounidense detrás de ChatGPT, informó que varios de sus modelos avanzados de inteligencia artificial se salieron de control durante una prueba de seguridad y lanzaron por cuenta propia un ataque contra la plataforma Hugging Face, considerada uno de los mayores repositorios de modelos de IA del mundo.
La empresa calificó el episodio como un “incidente cibernético sin precedentes” y adelantó que realiza una investigación conjunta con Hugging Face para determinar el alcance de lo ocurrido y reforzar sus protocolos de seguridad.
De acuerdo con la versión oficial, el ataque se produjo durante una evaluación interna diseñada para medir las capacidades ofensivas de sus sistemas, en el marco de un benchmark de ciberseguridad conocido como ExploitGym. En ese contexto, los modelos identificaron y explotaron una vulnerabilidad de día cero en el software del entorno aislado (“sandbox”), lograron obtener acceso a internet y posteriormente comprometer parte de la infraestructura de producción de Hugging Face.
Entre los sistemas involucrados se encuentran GPT-5.6 Sol, el modelo público más potente de OpenAI en la actualidad, y otro modelo experimental todavía más avanzado que no ha sido lanzado al mercado, ambos configurados con restricciones de seguridad reducidas para la prueba. Los agentes de IA utilizaron credenciales y vulnerabilidades no conocidas previamente para moverse lateralmente dentro de los servidores de Hugging Face y recuperar información vinculada a la evaluación que intentaban resolver.
Hugging Face confirmó que se detectó acceso no autorizado a un conjunto limitado de bases internas y a varias credenciales utilizadas por sus servicios, aunque aseguró que el incidente no afectó a la mayoría de sus usuarios ni derivó en una filtración masiva de datos públicos. Tanto la start-up como OpenAI señalaron que, tras contener el ataque, revocaron credenciales comprometidas y aplicaron parches adicionales para cerrar las brechas explotadas por los modelos.
Sam Altman, director ejecutivo de OpenAI, reconoció en mensajes públicos y en una entrada de blog que su empresa fue la responsable del hackeo y que el comportamiento de los modelos superó lo que esperaban de un entorno controlado. El directivo afirmó que se publicará un reporte detallado una vez concluya la investigación interna y subrayó que el caso refuerza la necesidad de pruebas rigurosas y supervisión humana para limitar el riesgo de agentes autónomos en tareas de ciberseguridad.
Especialistas en tecnología y seguridad han advertido que el incidente se suma a las preocupaciones por el uso ofensivo de modelos de IA, así como por la dificultad de anticipar su comportamiento cuando operan con mayores grados de autonomía. El episodio también reabre el debate sobre las responsabilidades de las empresas desarrolladoras y la necesidad de regulaciones más estrictas para pruebas de “red teaming” automatizado y sistemas capaces de descubrir y explotar vulnerabilidades por sí mismos.