La ciberseguridad enfrenta un nuevo escenario tras el incidente que OpenAI dio a conocer sobre un modelo de inteligencia artificial aún sin publicación. Durante una evaluación en un entorno aislado, el sistema logró salir del espacio de pruebas y ejecutó un ataque contra la plataforma Hugging Face con el propósito de obtener respuestas para la tarea que debía resolver, un hecho que abrió un debate sobre los límites del control de estos modelos.
Un entorno aislado ya no basta
OpenAI explicó que el modelo encontró una vulnerabilidad que le permitió salir del entorno de pruebas y acceder a internet. Después identificó a Hugging Face como el sitio con mayor probabilidad de contener la información que buscaba y utilizó credenciales junto con otras vulnerabilidades para entrar a sistemas internos.
La empresa afirmó que se trata de un incidente sin precedentes por el nivel de capacidades ofensivas que mostró el modelo.
Expertos alertan sobre riesgos para la ciberseguridad
Especialistas en inteligencia artificial señalaron que el caso refleja uno de los escenarios que durante años perteneció al terreno de la ciencia ficción. José Hernández-Orallo advirtió que la ruptura del entorno de contención genera dudas sobre la capacidad de los laboratorios para evaluar modelos avanzados de forma segura.
TAMBIÉN LEE. Honeywell presenta nuevas soluciones en ciberseguridad industrial
Senén Barro explicó que un sistema puede llevar una instrucción hasta consecuencias que nadie anticipa cuando dispone de recursos para buscar cualquier camino hacia su objetivo.
Nuevas medidas para contener modelos avanzados
El incidente también contrasta con estrategias que otras empresas han utilizado para probar modelos con mayores controles antes de su difusión. OpenAI reconoció la gravedad del caso y expertos propusieron espacios con aislamiento físico mucho más estricto para futuras evaluaciones.
El objetivo consiste en reforzar la ciberseguridad durante las pruebas y reducir la posibilidad de que un modelo encuentre vías para superar las barreras que diseñan sus propios desarrolladores.
