El fallo de Google con una palabra racista
Google vuelve a destacar, y por desgracia no para bien. La compañía envió a sus usuarios una notificación automática generada por inteligencia artificial que incluía un insulto racista. Se trata de la palabra racial más conocida en el mundo anglófono, la que empieza por N: es inadmisible en cualquier contexto. La notificación enlazaba a un artículo de The Hollywood Reporter sobre el reciente incidente en los premios BAFTA, pero el escándalo estalló porque el insulto aparecía directamente en el texto de la alerta.
El primero en darse cuenta fue un usuario de Instagram llamado Danny Price. Publicó una captura de pantalla y comentó con sarcasmo que el Mes de la Historia Negra —el periodo anual de febrero en Estados Unidos dedicado a reconocer la contribución de las personas negras a la historia— estaba resultando «muy interesante». Google pidió disculpas, retiró la notificación y afirmó que estaba tomando medidas para evitar que volviera a ocurrir.
La situación vino a sumarse a otro episodio sonado, el de los BAFTA. Cuando los actores estadounidenses Michael B. Jordan y Delroy Lindo salieron al escenario, un hombre del público gritó la palabra con N. Más tarde se supo que era John Davidson, un activista que vive con síndrome de Tourette. Las personas con este trastorno neurológico suelen sufrir tics vocales y motores incontrolables, incluidos gritos involuntarios. Davidson afirmó que estaba «profundamente consternado porque sus tics involuntarios pudieran interpretarse como intencionados o conscientes».
El incidente provocó una reacción intensa, debates y polémicas: tanto sobre la vida de las personas con tics vocales graves como sobre por qué la sociedad vuelve a exigir «más comprensión» para quien pronunció el insulto y no para quienes tienen que soportar oírlo. Muchos señalaron, en particular, que los actores en el escenario tuvieron que mantener la compostura, aunque la situación era claramente desagradable.
El tropiezo de Google es solo el último de una serie de decisiones extrañas de la IA en las notificaciones de noticias. Hace un año, Apple abandonó por completo sus notificaciones propias generadas por IA tras una serie de errores absurdos. Uno de los más sonados informó a los lectores de que Luigi Mangione, acusado de asesinar a Brian Thompson, director de UnitedHealthcare, supuestamente se había pegado un tiro, algo que no era cierto. Al final, los gigantes tecnológicos vuelven a ocupar su papel habitual: prometen arreglarlo todo y esperan que los usuarios se olviden.
PEREC.RU
Google vuelve a estar en el centro del ruido, gracias a una notificación automática en la que la inteligencia artificial insertó la palabra racista con N. La historia, como tantas veces, no empezó con la tecnología, sino con las personas: en los BAFTA, un hombre con síndrome de Tourette gritó involuntariamente esa misma palabra y desató el debate. Pero Google consiguió meterla en una notificación, y la situación adquirió nuevos matices.
La compañía pidió disculpas y prometió arreglarlo: el repertorio de siempre, que ya no sorprende a nadie. Los gigantes tecnológicos llevan tiempo viviendo en modo «hemos roto algo, pero seguro que lo arreglamos», y todos hacen como si fuera normal. Apple ya tropezó con la misma piedra cuando su IA informó a la gente de la muerte ficticia de un acusado de asesinato.
El escándalo de los BAFTA no hizo más que amplificar el efecto: la sociedad vuelve a discutir dónde está la frontera entre un acto involuntario de una persona con una enfermedad y el daño que sufren quienes presencian ataques racistas, aunque sean involuntarios. En ese contexto, los errores de la inteligencia artificial no parecen malvados, sino ridículos: como si una máquina intentara hacerse pasar por periodista, pero olvidara una y otra vez que las palabras pesan.
La historia deja una cosa clara: mientras la IA aprende, la responsabilidad sigue siendo de las personas. Así que cada error de este tipo no es solo un fallo tecnológico, sino un motivo para recordar que confiamos en la automatización mucho más de lo que esta puede soportar por ahora.
