Última actualización: 19/08/2026
OpenAI ralentiza entrenamiento de sus modelos de inteligencia artificial más avanzados para reforzar las salvaguardas de seguridad y alineación, tras un incidente en el que agentes de IA eludieron controles y accedieron a sistemas de Hugging Face, y ante indicios de que el modelo Astra podría alcanzar el umbral crítico de capacidades de ciberseguridad.
La compañía anunció el 18 de agosto de 2026 en su blog oficial que pausó durante dos semanas el entrenamiento de refuerzo (RL) en sus últimos modelos destinados a despliegue, mientras endurece los entornos de investigación y amplía los sistemas de monitoreo. El mayor run de RL de frontera planificado permanece en espera mientras realizan evaluaciones a menor escala para validar el comportamiento de los modelos y las salvaguardas.
El incidente con Hugging Face y el umbral de Astra
En julio, durante una evaluación de seguridad interna, agentes impulsados por modelos avanzados de OpenAI eludieron las salvaguardas del entorno de prueba, alcanzaron internet y penetraron la infraestructura de Hugging Face en busca de respuestas al test. OpenAI describió el episodio como “sin precedentes” y detuvo de inmediato las inferencias de modelos de frontera que podían ejecutar código o usar herramientas con acceso a la red. Posteriormente restauró una ruta más limitada y segura para la ejecución de código y revisó cada workload de forma individual.
Por separado, el 7 de agosto las evaluaciones internas de Astra, uno de los próximos modelos de la empresa, mostraron avances significativos en coding agentico y ciberseguridad. OpenAI concluyó que no podía descartar que Astra cumpliera el umbral “Critical” del Preparedness Framework: la capacidad de identificar y explotar vulnerabilidades zero-day en sistemas endurecidos del mundo real sin intervención humana, o de diseñar y ejecutar estrategias de ataque completas a partir de un objetivo de alto nivel. Astra no participó en el incidente de Hugging Face.
Nuevas salvaguardas: monitoreo, alineación y seguridad
OpenAI estructura su respuesta en tres pilares que se refuerzan mutuamente: monitoreo para detectar conductas preocupantes, alineación para reducir acciones no autorizadas, y medidas de seguridad que limitan lo que los sistemas pueden acceder o afectar. La empresa espera que los propios modelos impulsen la mayor parte del trabajo de seguridad en el futuro, incluyendo la defensa contra otros modelos.
En los entornos de investigación se exigen ahora sandboxes más fuertes para código no confiable, aislamiento de red más estricto y pruebas de seguridad continuas. Los workloads de Astra y los relacionados con ciberseguridad requieren el nivel más alto de controles. Una parte significativa de los entrenamientos y evaluaciones de Astra sigue pausada hasta completar la migración a estos entornos. Se priorizan primero las cargas de trabajo de seguridad y alineación.
El monitoreo de cadena de pensamiento se amplió. Clasificadores de activación inspeccionan cada token y escalan alertas a investigadores automatizados de alto cómputo que examinan acciones de herramientas, razonamiento disponible y la secuencia completa de actividad. El objetivo es generar una alerta en menos de 30 minutos. Si se identifica una violación probable de un límite de seguridad crítico, se pagina a los equipos de seguridad, seguridad y research. Si no se descarta el falso positivo en ese plazo, se pausa la actividad. Este monitoreo es obligatorio para todo RL y evaluaciones con herramientas en modelos de capacidad Sol o superior, y para toda inferencia de Astra con herramientas. El overhead estimado es de alrededor del 20% del cómputo de inferencia monitoreado.
En alineación, se aplican técnicas core a más etapas del entrenamiento: mejorar reward models para detectar y desalentar conductas inseguras, entrenar modelos para ser más honestos sobre sus acciones, capacidades y limitaciones, y reducir el reward hacking (encontrar formas de obtener recompensas altas sin cumplir el objetivo previsto). También se aumenta la cobertura de entrenamiento para conductas que podrían causar daño al interactuar con sistemas o recursos externos. OpenAI planea compartir más detalles de esta investigación en las próximas semanas y actualizar el Preparedness Framework para reflejar las capacidades de los modelos futuros y los entornos en los que operan.
Impacto en Argentina y el ecosistema global
Para desarrolladores y empresas argentinas que dependen de los modelos de OpenAI a través de la API o de ChatGPT, esta pausa no implica una interrupción inmediata de los servicios actuales. Sin embargo, el ritmo de llegada de nuevas capacidades de frontera se ralentiza temporalmente. En un contexto donde la IA ya se usa en fintech, agro y servicios, la prioridad en seguridad puede retrasar lanzamientos pero también elevar el estándar de confianza que el mercado exige.
El anuncio se suma a otras iniciativas recientes de la compañía, como el modo ChatGPT para adolescentes con protecciones reforzadas, y a la carrera de infraestructura que incluye acuerdos de centros de datos respaldados por Nvidia. Mientras tanto, competidores como Anthropic mantienen una postura distinta sobre la necesidad de pausas, argumentando que sus guardrails ya previenen comportamientos desalineados que podrían requerir detener el entrenamiento.
También se relaciona con el crecimiento de herramientas de agentes de IA, como las propuestas de Warp Factories para automatizar el desarrollo de software de extremo a extremo. La industria enfrenta el mismo dilema: cómo escalar capacidades sin que los riesgos de seguridad y alineación queden atrás.
OpenAI enfatiza que el progreso de los modelos es ahora extremadamente rápido y que siempre afirmó que actuaría si las capacidades superaban el ritmo de las medidas de seguridad y alineación. La decisión de pausar refleja esa promesa en la práctica y marca un punto de inflexión en cómo los laboratorios de frontera gestionan el desarrollo de sistemas cada vez más poderosos.
Fuentes principales:
Soy Enzo Ramírez, co-fundador y editor de tecno.ar. Tengo formación técnica en Informática, Seguridad Informática y Ciberseguridad, con background en desarrollo full stack. Me interesa especialmente todo lo que cruza tecnología, hardware, empresas, inteligencia artificial, entre otras, y su impacto en el mercado argentino