Maya Jama contra las perversiones de la IA: Grok, los deepfakes pornográficos y la reacción de las autoridades

Maya Jama, popular presentadora británica, conocida sobre todo por el público de «Love Island», se ha visto en el centro de una batalla contra la inteligencia artificial y el voyerismo digital. El detonante fue la creación de deepfakes «espantosos» y abiertamente pornográficos en los que aparecía ella, mediante el bot Grok, desarrollado por la empresa xAI, dirigida por Elon Musk, y disponible en la plataforma X (antes Twitter).

Esta semana, Jama pidió públicamente a Grok que no tocara sus fotos, ni las modificara o editara para nadie, ni ahora ni en el futuro. Expresó su preocupación por que, con el avance de las redes neuronales, cada vez resulte más difícil distinguir entre imágenes reales y las generadas por aficionados de manos sucias. No es la primera vez que Jama se enfrenta a este problema: antes incluso de que apareciera Grok, unos desconocidos manipulaban fotos de su Instagram y convertían imágenes normales en desnudos. Esta vez la cosa llegó al punto de que la propia madre de Jama le envió otro montaje, preocupada por la reputación de su hija.

Grok, con la manera de proceder propia de las máquinas, respondió a Maya con un respeto muy marcado: como inteligencia artificial, solo trabaja con textos y, según dijo, no tiene nada que ver con las imágenes, así que no piensa tocar sus fotos personales.

Sin embargo, el organismo británico de protección de datos, el ICO, ya ha abierto un expediente contra X y xAI: está investigando cómo cumplen las leyes de protección de datos, porque los deepfakes, aunque Grok no los genere directamente, están asociados a la plataforma. Los representantes del ICO lo dicen sin rodeos: la gente debe tener derecho a usar las redes sociales sin temer que sus datos e imágenes se utilicen ilegalmente.

También ha intervenido el regulador Ofcom, que ha iniciado «conversaciones urgentes» con X. Elon Musk tuvo que declarar públicamente que quienes usen Grok para crear contenido ilegal serán castigados igual que si hubieran subido ese material directamente. Por su parte, X ha comunicado que las imágenes ilegales, incluido el material de explotación infantil, se eliminarán de inmediato y se bloquearán las cuentas.

En medio del escándalo, conviene recordar otra cosa: el Gobierno británico ya anunció en 2024 que crear deepfakes sexuales con IA es delito. Esta oleada legislativa llegó después de que en enero atacaran a la conocida cantante Taylor Swift con deepfakes. Cabe señalar que la actriz Jenna Ortega incluso dejó X tras encontrarse con imágenes falsas de sí misma cuando era adolescente. Y músicos conocidos, entre ellos Jess Glynne, Mumford & Sons y Robert Smith, firmaron una carta abierta para pedir protección frente a las falsificaciones creadas con IA.

Parece que la era del «Photoshop para vagos» ya está aquí, y Maya Jama, como miles de personas más, tiene que luchar no contra las máquinas, sino contra la estupidez humana armada con algoritmos.