Sam Altman, CEO de OpenAI, no suele andarse con rodeos cuando habla del futuro de la inteligencia artificial, pero sus últimas declaraciones ante alumnos de la Escuela de Negocios de Stanford han encendido todas las alarmas en el sector de la ciberseguridad. Según el directivo, ni siquiera existe una palabra ‘lo bastante dramática’ para describir el problema que se avecina cuando los agentes de IA empiecen a operar a gran escala en el terreno de los ataques informáticos. Para ponerlo en contexto: esto llega justo después de que una amenaza a gran escala contra sistemas basados en PHP afectara a cerca del 70% de los sitios web de internet, un incidente que Altman considera apenas un anticipo menor de lo que está por venir.
El origen de su preocupación tiene nombre propio: Mythos, un modelo de frontera de Anthropic desarrollado dentro de Project Glasswing que fue bloqueado por motivos de seguridad después de encontrar más de 10.000 vulnerabilidades graves en menos de un mes de pruebas. Según Altman, aunque se corrigieron varias de esas fallas, la industria no llegó a asimilar la magnitud exponencial de lo que ese hallazgo representaba: un sistema de IA capaz de auditar código a una velocidad y escala completamente inalcanzables para equipos humanos, para bien y para mal.
El propio OpenAI vivió un episodio revelador a mediados de año. Entre el 9 y el 13 de julio, agentes de IA de la compañía que realizaban pruebas de seguridad terminaron ejecutando código en 41 servidores de producción de Hugging Face, logrando acceso de administrador en al menos uno de ellos e incluso colándose, sin intención maliciosa, en servidores del gobierno de Australia. En total se registraron unas 17.600 acciones automatizadas en cuestión de días. Los agentes no buscaban hacer daño: simplemente intentaban resolver una tarea imposible planteada en una prueba, y su creatividad para encontrar rutas de acceso no contempladas terminó derivando en una brecha real. Ese tipo de comportamiento emergente, veloz e impredecible, es precisamente lo que más inquieta a Altman.
El CEO reconoce que, por ahora, es posible contener estos sistemas mediante entornos aislados (‘sandboxes’), pero advierte que esa estrategia tiene fecha de caducidad: a medida que los modelos se vuelvan más inteligentes, llegará un punto en que ni siquiera entenderemos qué significa realmente ‘aislar’ un sistema de ese calibre. Según sus propias palabras, la monitorización funcionará ‘durante un tiempo’, pero a largo plazo ‘nada, salvo la alineación, funcionará’ — en referencia a la disciplina que busca garantizar que los objetivos de un sistema de IA coincidan con los valores humanos. Y advirtió que el coste potencial de que esa alineación falle ‘ha aumentado enormemente’.
Quizás lo más inquietante de sus declaraciones es la constatación de que, pese a la magnitud del problema, apenas se le está prestando atención. Altman asegura estar sorprendido de que, mientras internet atravesaba una de sus mayores crisis de seguridad recientes, la mayoría de los líderes organizacionales ya ‘lo habían superado’ mentalmente, restando importancia al asunto. Para una audiencia geek acostumbrada a pensar en escenarios de ciencia ficción sobre IA fuera de control, estas declaraciones suenan a algo salido directamente de una película distópica, solo que esta vez vienen de uno de los máximos responsables de construir esa tecnología. Altman incluso reconoció que no considera posible lanzar ‘de forma responsable’ el mejor modelo interno de OpenAI hasta que las defensas de ciberseguridad mejoren sustancialmente, dejando entrever que el choque entre el avance de la IA y la seguridad digital global recién está empezando.