Un nuevo episodio demuestra lo frágil que puede ser la seguridad informática cuando la inteligencia artificial se mezcla con contratos gubernamentales sensibles. Según reveló el podcast ‘Uncanny Valley’ de Wired, un contratista externo conectó su propio agente basado en Claude, el modelo de IA de Anthropic, a un sistema interno del Pentágono, aparentemente sin pasar por los controles de seguridad habituales que exige cualquier integración tecnológica dentro del Departamento de Defensa de Estados Unidos. El caso ha encendido todas las alarmas entre expertos en ciberseguridad y en políticas de gobernanza de IA, justo en un momento en el que Washington está acelerando la adopción de herramientas de inteligencia artificial generativa en sus agencias.
El problema de fondo no es nuevo, pero este incidente lo pone en primer plano de una forma muy concreta: cada vez más empleados y contratistas utilizan agentes de IA por su cuenta -lo que en el sector se conoce como ‘shadow AI’- para automatizar tareas, generar código o analizar documentos, sin que los departamentos de seguridad informática tengan siquiera constancia de ello. Cuando ese agente tiene acceso, aunque sea indirecto, a sistemas gubernamentales con información sensible, el riesgo deja de ser teórico. Un agente de IA mal configurado puede filtrar datos, ejecutar acciones no autorizadas o convertirse en una puerta trasera para actores malintencionados que sepan explotar sus permisos.
Anthropic, la compañía detrás de Claude, lleva meses cortejando activamente a Washington. La empresa ha lanzado versiones especializadas de su modelo pensadas para el sector público, como Claude Gov, diseñadas para cumplir con estándares de seguridad como FedRAMP, y ha firmado acuerdos con distintas agencias federales para integrar su tecnología en flujos de trabajo oficiales. El hecho de que, pese a estos esfuerzos, un contratista haya podido introducir una instancia no autorizada del modelo en un sistema tan delicado como el del Pentágono pone en entredicho la eficacia real de esos protocolos y la rapidez con la que la adopción de IA está superando a la capacidad de supervisión de las instituciones.
El episodio se suma además a un contexto especialmente movido para Anthropic: la compañía acaba de presentar su folleto ante la SEC para salir a bolsa en el Nasdaq bajo el símbolo ANT, un movimiento que atraerá aún más atención mediática y regulatoria sobre todo lo que rodea a sus productos. Cualquier incidente de seguridad vinculado a su tecnología, aunque la responsabilidad recaiga en terceros que la implementan de forma indebida, puede afectar a la percepción pública de la empresa justo en un momento crítico para sus planes financieros. Wired también vincula este caso con otro tema de actualidad: los voluntarios que se están organizando para contrarrestar operaciones de ICE durante las elecciones de mitad de mandato, un recordatorio de que la IA se está infiltrando en todos los rincones de la vida institucional estadounidense, para bien y para mal.
De cara al futuro, es probable que este tipo de incidentes empujen a agencias como el Pentágono a endurecer sus políticas internas sobre el uso de agentes de IA por parte de contratistas, estableciendo auditorías más estrictas y sistemas de detección de herramientas no autorizadas. Para la comunidad tecnológica y geek, el caso es un recordatorio de que la frontera entre la comodidad que ofrecen los asistentes de IA y los riesgos de seguridad que conllevan es cada vez más delgada, especialmente cuando estos agentes operan con amplios permisos en entornos críticos sin la supervisión adecuada.