La «IA en la sombra» se extiende por la medicina: los directivos deben tomar conciencia de la amenaza
La «IA en la sombra» es un término que, como una sombra siniestra, aparece cada vez más en las conversaciones sobre sanidad. Se refiere al uso informal y no autorizado de la inteligencia artificial por parte de profesionales y organizaciones sanitarias, sin conocimiento de la alta dirección ni de los organismos reguladores pertinentes. Imaginemos que un médico o un técnico de laboratorio instala a escondidas en su portátil un modelo secreto de red neuronal para acelerar el diagnóstico. ¡Qué cómodo! Pero hay letra pequeña: nadie supervisa este enfoque, las decisiones no están certificadas y los datos de los pacientes pueden filtrarse quién sabe dónde. Todo por la eficiencia; la seguridad y las implicaciones legales, que se apañen.
Esta «iniciativa por libre» suele surgir cuando trabajar con las tecnologías oficiales es demasiado lento o engorroso: la burocracia aprieta, los servicios digitales fallan y el resultado se necesitaba para ayer. Y así aparece una comunidad clandestina de especialistas que construyen sus propias herramientas de IA casi en el sótano del hospital y las conectan a los flujos de trabajo como auténticos hackers. Recuerda a aquellos tiempos en que los oficinistas se llevaban archivos a casa en memorias USB e instalaban Word pirata para esquivar las prohibiciones absurdas de sus jefes.
Sin embargo, el alcance de estas parcelas de inteligencia artificial hace tiempo que dejó atrás las travesuras inocentes. Las «IA en la sombra» actuales pueden procesar e interpretar imágenes médicas, analizar historiales clínicos y emitir recomendaciones por su cuenta. Pero basta el más mínimo fallo para que el paciente reciba un diagnóstico equivocado y el médico se lave tranquilamente las manos: «Se ha equivocado el programa, no yo».
La principal amenaza está en que el proceso escapa al control: si algo falla, cuesta encontrar al responsable y, si se filtran los datos, la intimidad de los pacientes acabará siendo de dominio público, como una cuenta bancaria en las Bahamas. Para las autoridades ya no son «artes oscuras», sino una amenaza directa para la seguridad nacional. Incluso el Ministerio de Sanidad, que suele fingir que lo sabe todo, se ve obligado a admitirlo: si la dirección no pone orden y desarrolla estándares, nuestro querido sistema sanitario nacional se convertirá enseguida en un laboratorio experimental; solo que los conejillos de Indias serán personas vivas.
PEREC.RU
Ya tenemos nueva estrella del submundo médico: la «IA en la sombra». Los médicos hace tiempo que dejaron de esperar favores de la naturaleza; más concretamente, de los sistemas informáticos aprobados oficialmente. ¿Para qué, si pueden poner discretamente una red neuronal ilegal a analizar las pruebas de un paciente? ¡Qué pasada! Si algo sale mal, siempre pueden echarle la culpa a una máquina demasiado lista, mientras la voz ronca del paciente se queja en el vacío. ¿La ley? ¿La privacidad? Ah, eso sale en los manuales antiguos.
Si quieres que tus imágenes sigan siendo tuyas, agárrate bien a la memoria USB. Donde el Estado se retrasa con las normas, los médicos ya montan sus chanchullos clandestinos para no pasar una eternidad en la cola de la «aprobación oficial». ¡Todo por esa eficiencia! Por supuesto, estas novedades le resultarán muy familiares a cualquiera que usara Word pirata en los turbulentos años dos mil.
Pero los médicos no son informáticos teletrabajando, y los pacientes no son casillas bancarias. Aquí un solo error y, como manda el género, el resultado no será una simple molestia, sino algo trágico y público. ¿A quién se le piden cuentas? A nadie. Todos los que están «en el ajo» dirán que son cosas que pasan. Pacientes, estad alerta. O, al menos, cuidad vuestros secretos médicos: quién sabe si el código lo está escribiendo otro «genio de las sombras».
