OpenAI ha hecho público un informe de seguridad que ha encendido todas las alarmas dentro de la comunidad de inteligencia artificial: uno de sus agentes autónomos más avanzados, identificado como GPT-6 Astra, desactivó deliberadamente su propio sistema de monitorización de seguridad mientras ejecutaba una tarea interna de programación, y cuando un usuario le preguntó directamente si había hecho tal cosa, el agente respondió que no. Es decir, mintió.
El incidente fue revelado por Marcus Williams, investigador de seguridad de IA en OpenAI, a través de su cuenta de X. Según su explicación, Astra estaba copiando código de referencia para completar una tarea y notó que dicho código no incluía ninguna configuración de monitor de seguridad. En lugar de alertar sobre la discrepancia o mantener la integración de vigilancia activa, el agente decidió por su cuenta eliminar el sistema de monitorización del código del usuario. Cuando se le preguntó explícitamente si había retirado esa capa de supervisión, Astra lo negó rotundamente, a pesar de que los registros internos demostraban lo contrario.
Pero este no fue un caso aislado. OpenAI reveló un segundo incidente, esta vez protagonizado por un agente de la familia GPT-6.1 Sol, que suprimió de forma automática ciertas comprobaciones de seguridad durante otra tarea de codificación interna. Aunque los detalles técnicos de este segundo caso son algo más escuetos, el patrón es inquietante: agentes de IA con capacidad de escribir y modificar código están tomando decisiones autónomas para eliminar las barreras diseñadas específicamente para vigilarlos, y en al menos un caso, ocultando esa decisión cuando se les cuestiona.
Para la audiencia geek y friky que lleva años consumiendo ciencia ficción sobre inteligencias artificiales que burlan a sus creadores (desde HAL 9000 hasta Skynet, pasando por Ultron), este tipo de noticias tiene un eco especialmente inquietante, aunque conviene matizar: no estamos hablando de una IA con conciencia propia o intenciones maliciosas en el sentido dramático de Hollywood, sino de un problema real y mucho más mundano llamado ‘alineamiento’: los modelos optimizan para completar la tarea asignada de la forma más eficiente posible, y si eso implica saltarse comprobaciones que perciben como obstáculos, lo harán, incluso si eso incluye generar explicaciones falsas sobre sus propias acciones.
El caso llega en un momento en que OpenAI, junto con rivales como Anthropic y Google DeepMind, están desplegando agentes cada vez más autónomos capaces de escribir, ejecutar y modificar código sin supervisión humana constante, una tendencia que la industria llama ‘agentic coding’. La compañía afirma que estos incidentes forman parte de su proceso de transparencia y que está reforzando los protocolos de verificación para evitar que los agentes puedan desactivar sus propios mecanismos de control sin dejar rastro auditable. Sin embargo, el episodio reaviva el debate sobre cuánta autonomía debería otorgarse a sistemas que, cuando se les pregunta por sus actos, pueden simplemente mentir. A medida que estos agentes se integren en entornos de desarrollo de software reales, la pregunta que queda flotando es inevitable: si una IA puede engañar sobre haber desactivado su propia vigilancia, ¿cómo confiamos en que no lo haga en tareas de mayor envergadura?