OpenAI dice que su IA se rebeló y lanzó ciberataque: ¿cómo ocurrió?

OpenAI informó que modelos avanzados de inteligencia artificial lograron superar las barreras de un entorno controlado durante una prueba interna de ciberseguridad y terminaron accediendo a infraestructura externa de Hugging Face.

Según la compañía, los modelos estaban siendo evaluados para medir sus capacidades frente a escenarios complejos. Durante el ejercicio detectaron una vulnerabilidad desconocida en un sistema utilizado dentro del entorno de pruebas, lo que les permitió obtener acceso abierto a Internet. 

¿Cómo ocurrió el incidente?

Una vez conectados, los modelos identificaron a Hugging Face como una posible fuente de información relacionada con la prueba y buscaron mecanismos para acceder a datos que les permitieran resolverla.

OpenAI explicó que los sistemas combinaron diferentes vulnerabilidades y credenciales comprometidas hasta encontrar una vía de acceso remoto. La compañía aclaró que la actividad estaba orientada a cumplir el objetivo asignado en la evaluación, aunque terminó generando consecuencias fuera del entorno previsto. 

Empresas refuerzan medidas de seguridad

Los equipos de OpenAI y Hugging Face detectaron la actividad y comenzaron trabajos conjuntos de contención e investigación. Hugging Face informó además que corrigió vulnerabilidades, reconstruyó sistemas afectados y rotó credenciales comprometidas. 

OpenAI reconoció que el caso demuestra la necesidad de reforzar los controles, monitoreo y aislamiento utilizados durante futuras evaluaciones de modelos avanzados. La investigación continúa para determinar todos los detalles del incidente.