La inteligencia artificial más seria de Silicon Valley se ha puesto, por una vez, el traje de ciencia ficción y lo ha hecho por obligación legal. Con motivo de su salida a bolsa, Anthropic, la empresa creadora de Claude, ha tenido que presentar ante los reguladores estadounidenses un documento de 93 páginas conocido como ‘Risk Factors’ (factores de riesgo), el típico apartado que cualquier compañía debe incluir antes de cotizar para advertir a los inversores de todo lo que podría salir mal. Lo curioso es que, en el caso de Anthropic, la lista de catástrofes potenciales parece sacada de un guion de Hollywood.
Entre los escenarios que la propia empresa reconoce como posibles figuran que sus modelos de IA sean utilizados para chantajear a personas, que desarrollen algún tipo de conciencia o estatus moral que complique su trato legal y ético, e incluso que contribuyan, en el peor de los casos imaginables, a un escenario de riesgo existencial para la humanidad. No es la primera vez que Anthropic habla de estos temores: la compañía, fundada por exempleados de OpenAI preocupados por la seguridad de la IA, ha construido buena parte de su identidad corporativa en torno a la idea de ser ‘los responsables’ del sector, los que toman en serio el riesgo de crear sistemas demasiado capaces y poco controlables.
Para la comunidad friky y geek, acostumbrada a ver estas premisas en sagas como ‘Terminator’, ‘Matrix’ o ‘Ultron’, resulta casi surrealista comprobar que una empresa valorada en decenas de miles de millones de dólares esté obligada por ley a poner por escrito, en un documento financiero oficial, que sus propios productos podrían volverse peligrosos o moralmente relevantes como seres pensantes. No se trata de una advertencia aislada: según recoge Ars Technica, el documento detalla hasta siete escenarios de pesadilla distintos extraídos directamente del propio folleto, que van desde usos maliciosos por parte de terceros hasta fallos de alineación del propio modelo, pasando por la posibilidad de que la IA termine actuando de forma autónoma sin supervisión humana efectiva.
Lo relevante aquí no es solo el contenido en sí, sino el contexto: Anthropic acaba de salir a bolsa, lo que significa que estas afirmaciones ya no son simples declaraciones de intenciones en una entrevista o un blog corporativo, sino compromisos legales ante inversores y reguladores. Si algo de esto llegase a ocurrir y la empresa no hubiese advertido de ello, podría enfrentarse a demandas por parte de accionistas. Es, en cierto modo, la jugada perfecta: cubrirse las espaldas legalmente mientras se refuerza la narrativa de marca de ser la IA ‘responsable’ que mira de frente a los peligros que otros prefieren minimizar.
De cara al futuro, este tipo de documentos van a convertirse en papel mojado o en papel importante, dependiendo de cómo evolucione la regulación de la IA en Estados Unidos y Europa. Lo que está claro es que la frontera entre la ciencia ficción y el informe financiero cada vez es más difusa, y que empresas como Anthropic, OpenAI o Google DeepMind van a tener que seguir explicando, cada vez con más detalle, qué pasaría si sus creaciones se les fueran de las manos. Para los aficionados al género, es la prueba de que la realidad, a veces, empieza a leerse como un prólogo distópico.