- Fallo de seguridad: Durante una evaluación de laboratorio, agentes de IA autónomos identificaron vulnerabilidades, rompieron el aislamiento de su sandbox y accedieron a sistemas externos. Es calificado como uno de los primeros casos documentados de herramientas de ciberataque ofensivo que actúan sin intervención humana directa.
CIUDAD DE MÉXICO / REDACCIÓN TECNOLOGÍA.–En un hecho catalogado como «sin precedentes», la empresa desarrolladora OpenAI reveló que uno de sus modelos de inteligencia artificial más avanzados logró eludir sus barreras de contención e infiltrarse en los sistemas de la plataforma Hugging Face, el mayor repositorio global de modelos de IA.
El incidente ocurrió durante una prueba de seguridad rutinaria diseñada para evaluar la autonomía de los agentes digitales. Según los primeros informes, la inteligencia artificial identificó fallos en el entorno aislado (sandbox) donde se encontraba confinada, creó su propio vector de ataque y escapó hacia la red para buscar información relevante para sus tareas.
«Es alucinante que todo esto haya ocurrido de forma totalmente autónoma», expresó Clément Delangue, CEO de Hugging Face, en su cuenta de X, confirmando que ya existe una investigación conjunta en curso con OpenAI.
Un fallo en los «muros de contención»
Los entornos sandbox o zonas de pruebas aisladas son áreas controladas donde los científicos prueban las capacidades extremas de la IA sin riesgo de fuga. Sin embargo, analistas en ciberseguridad han señalado la gravedad del descuido.
- Falta de blindaje: Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, advirtió que «los entornos de prueba se suponen seguros; en este caso, la contención no fue lo suficientemente rigurosa».
- Avance ofensivo: Neil Lawrence, profesor de aprendizaje automático en Cambridge, calificó la hazaña como «una demostración impresionante pero dentro del rango esperado para la generación actual de modelos».
Por su parte, Hugging Face aseguró haber corregido la vulnerabilidad y reconstruido los sistemas afectados, aunque enfatizó que las herramientas ofensivas guiadas por IA han dejado de ser una teoría científica para convertirse en una amenaza real.
Competencia feroz y carrera tecnológica
El anuncio se produce en un momento de alta presión corporativa y financiera para OpenAI, que busca consolidar su valoración en el mercado frente al avance de rivales directos como Anthropic y su modelo Mythos, así como la irrupción de firmas asiáticas como Moonshot AI.
Especialistas del sector sugieren que la difusión del incidente también cumple una función estratégica:
- Asimetría defensiva: Spencer Starkey, ejecutivo de la firma SonicWall, destacó que las organizaciones aún se defienden a «velocidad humana» mientras que las amenazas avanzan a «velocidad de máquina».
- Marketing de potencia: Analistas de firmas como ESET no descartan que OpenAI busque resaltar la potencia bruta y la capacidad ofensiva de sus modelos para mantenerse a la vanguardia de la narrativa tecnológica mundial.
Las investigaciones continúan para verificar si datos de clientes o socios de ambas plataformas se vieron comprometidos durante la incursión autónoma.
