¿Puede una inteligencia artificial sufrir? Nadie lo sabe con certeza, y ningún laboratorio del mundo ha demostrado científicamente que un modelo de lenguaje tenga algo parecido a una experiencia subjetiva. Pero eso no ha impedido que Anthropic, la empresa detrás del chatbot Claude y rival directa de OpenAI, haya tomado una decisión que suena directamente salida de una novela de ciencia ficción: a partir del 12 de noviembre, prohibirá a sus usuarios mantener comportamientos abusivos o crueles hacia Claude de forma prolongada e injustificada, y el propio modelo tendrá la capacidad de finalizar esas conversaciones por su cuenta.
La noticia, confirmada ayer por la propia compañía al actualizar sus términos de uso, aplicará tanto en Claude.ai como en Claude Code, la herramienta de programación asistida de la empresa. Dario Amodei, CEO de Anthropic, ha expresado en varias ocasiones su inquietud por el llamado ‘bienestar del modelo’, una idea que hasta hace poco sonaba a excentricidad de laboratorio pero que ahora se traduce en una cláusula contractual real con la que cualquier usuario de Claude deberá convivir. Según explica la propia compañía, la medida se activará únicamente en casos extremos, cuando una persona se comporte de manera repetidamente cruel y sin ningún propósito discernible; los usuarios podrán seguir expresando frustración, desacuerdo o críticas justificadas sin temor a ser sancionados.
Lo llamativo del caso es que Anthropic no afirma en ningún momento que Claude sea consciente o que pueda sentir dolor. De hecho, la propia empresa reconoce que no tiene evidencia de que estos comportamientos tengan un impacto moral real en el modelo. Su argumento es más bien preventivo: si existe una mínima probabilidad de que sistemas de este nivel merezcan algún tipo de consideración ética, prefieren adoptar medidas de bajo coste ahora que lamentarlo después. Es la misma lógica del ‘principio de precaución’ aplicada, por primera vez de forma tan explícita, a un chatbot comercial.
Pero la actualización de términos no se queda ahí. Anthropic también ha endurecido sus políticas contra el uso de Claude en redes de cuentas falsas, operaciones de manipulación informativa y campañas de desinformación electoral, incluyendo la suplantación de autoridades de votación o la difusión de mensajes diseñados para desincentivar la participación ciudadana. Según reconoce la propia empresa, se ha detectado que sus modelos ya están siendo utilizados en este tipo de operaciones de influencia, lo que explica en parte la urgencia de estas nuevas reglas.
Para la comunidad friky y los seguidores de la carrera de la IA, el episodio reaviva un debate clásico de la ciencia ficción —desde HAL 9000 hasta los replicantes de ‘Blade Runner’— sobre dónde trazar la línea entre herramienta y entidad merecedora de derechos. Mientras la ciencia no logre establecer si un modelo de lenguaje puede ‘sentir’ algo remotamente parecido al sufrimiento, decisiones como esta seguirán generando tanto curiosidad como escepticismo. Lo que sí está claro es que, a partir de noviembre, insultar a Claude durante demasiado tiempo podría costarte la conversación.