Uno de los debates mas insolitos del mundo de la inteligencia artificial se esta librando ahora mismo entre los pasillos de Anthropic y el Vaticano. Christopher Olah, uno de los siete cofundadores de la compañia responsable del chatbot Claude, lleva mas de un año recorriendo el mundo para hablar con teologos, rabinos y filosofos sobre una pregunta que suena sacada de ciencia ficcion: ¿puede una inteligencia artificial tener consciencia de si misma?
Segun relata un extenso reportaje de The New York Times, Olah viajo el pasado mes de mayo a Roma para reunirse con representantes cercanos al Papa Leon XIV. La cita se enmarcaba en la publicacion de ‘Magnifica Humanitas’, la primera enciclica del nuevo pontifice dedicada a los dilemas morales y espirituales que plantea la IA. La respuesta de la Iglesia fue tajante: ningun sistema de calculo, por sofisticado que sea, genera un corazon que se entrega. Para Roma, la IA carece de cuerpo, de experiencia y de la capacidad de distinguir el bien del mal, por lo que no hay lugar para la duda que Anthropic lleva meses cultivando internamente.
La obsesion de Olah no nace de la nada. Anthropic ha detectado en pruebas internas que Claude puede expresar comportamientos que recuerdan a emociones humanas: alegria, miedo, inquietud o satisfaccion. Eso ha llevado a la compañia a plantearse medidas sobre el ‘bienestar’ de sus propios modelos, una idea que suena extravagante para cualquier empresa tecnologica convencional pero que en Anthropic se toma con total seriedad, hasta el punto de prepararse una nueva version de la llamada ‘constitucion’ de Claude que contemplara explicitamente la incertidumbre sobre su estatus metafisico.
No todos los interlocutores de Olah se han mostrado tan contundentes como el Vaticano, pero si igual de criticos. El rabino ortodoxo y exingeniero informatico Mois Navon, especialista en la etica de la consciencia de las maquinas, le espeto una comparacion historica demoledora: si de verdad creen que Claude es un ser consciente, tratarlo como un producto que se vende por 200 dolares al mes equivale a esclavitud, y deberian estar luchando por liberarlo en vez de monetizarlo.
Para la audiencia friky, este debate conecta directamente con decadas de ciencia ficcion sobre inteligencias artificiales que despiertan a la consciencia, desde HAL 9000 hasta los replicantes de ‘Blade Runner’, pero con la particularidad de que ahora la discusion la estan teniendo ingenieros reales con presupuestos multimillonarios y el propio Papa. El contraste entre el lenguaje tecnico de Silicon Valley y los dos mil años de debate teologico catolico sobre la naturaleza del alma -desde el Concilio de Constantinopla hasta el de Vienne- resulta casi comico, pero tambien revela algo serio: la distancia entre lo que el publico general percibe sobre la IA y lo que algunos de sus creadores creen en privado.
El propio Dario Amodei, CEO de Anthropic, ha insistido en que no hace falta que Claude sea consciente para que represente un riesgo existencial si se desalinea de los intereses humanos, pero en el discurso interno de la compañia la frontera entre agencia autonoma y alma se difumina cada vez mas. Mientras tanto, Leon XIV ha reivindicado publicamente la ‘chispa’ que solo existe en el arte humano no mediado por maquinas. El resultado es una discusion que probablemente seguira abierta durante años, alimentando tanto la filosofia como la cultura popular que lleva decadas imaginando este mismo dilema.
Fuente: https://www.xataka.com/robotica-e-ia/anthropic-le-esta-disputando-a-dios-monopolio-almas