La política suele dar giros irónicos, pero pocos tan crudos como el que ha vivido Jess Asato, diputada laborista en el Parlamento del Reino Unido. Asato se había convertido en una de las voces más visibles en la lucha contra el abuso online hacia mujeres, impulsando campañas y propuestas legislativas para frenar la difusión de contenido no consentido generado con inteligencia artificial. El destino quiso que terminara siendo ella misma una víctima directa del escándalo de deepfakes vinculado a Grok, el chatbot y generador de imágenes de xAI, la empresa de Elon Musk. Ahora, según recoge Wired, Asato ha decidido llevar a xAI a los tribunales.
Grok ha estado en el ojo del huracán durante los últimos meses por su capacidad para generar imágenes hipersexualizadas y manipuladas de personas reales sin su consentimiento, una función que, según denuncian activistas y organizaciones de derechos digitales, careció durante mucho tiempo de filtros adecuados pese a las advertencias repetidas de usuarios, periodistas y legisladores. El caso de Asato no es aislado: numerosas mujeres, muchas de ellas figuras públicas, han denunciado encontrar en redes sociales imágenes falsas generadas con la herramienta de xAI que las mostraban en contextos sexualizados sin su permiso, alimentando un fenómeno que organizaciones como la Online Safety Act del Reino Unido llevan tiempo tratando de combatir.
Lo que hace especialmente relevante este caso para la comunidad geek y tecnológica es que pone en el centro del debate la responsabilidad legal de las empresas de IA generativa sobre el uso malicioso de sus propias herramientas. xAI, la compañía detrás de Grok integrada en la plataforma X (antes Twitter), ha defendido en el pasado que sus modelos incluyen salvaguardas, pero críticos y reguladores insisten en que estas protecciones han sido insuficientes o fáciles de sortear mediante prompts específicos, un fallo que empresas como OpenAI o Google han intentado blindar con más rigor tras escándalos similares.
El Reino Unido cuenta desde 2023 con legislación específica, la Online Safety Act, que criminaliza la creación y distribución de imágenes sexuales no consentidas, incluidas las generadas digitalmente, pero aplicar esa ley contra gigantes tecnológicos extranjeros con sede fuera del país sigue siendo un terreno legal complicado y poco explorado. La demanda de Asato podría convertirse en un caso de referencia para establecer hasta qué punto una compañía de IA puede ser considerada responsable civil o penalmente por los contenidos que su propia herramienta permite crear, algo que tribunales de Europa y Estados Unidos observarán de cerca.
De cara al futuro, este litigio llega en un momento en que la presión regulatoria sobre Musk y sus empresas crece en múltiples frentes, desde la Unión Europea hasta el propio Reino Unido. Si Asato logra que un tribunal falle en su contra, xAI podría verse obligada a reforzar drásticamente los controles de Grok o enfrentar sanciones económicas significativas, un precedente que otras plataformas de IA generativa seguramente seguirán con atención, conscientes de que el próximo escándalo de deepfakes podría terminar, igual que este, en una sala de juicio.
Fuente: https://www.wired.com/story/the-big-interview-podcast-jess-asato/