«Теневая ИИ» захватывает медицину — руководителям пора осознать угрозу

«Теневая ИИ» — этот термин, подобно зловещей тени, всё чаще мелькает в разговорах о здравоохранении. На русский язык его переводят как неформальное, неофициальное использование искусственного интеллекта медицинскими работниками и организациями без ведома высшего руководства или соответствующих регуляторов. Представьте, что врач или лаборант для ускорения работы запихнул в свой ноутбук секретную модель нейросети, чтобы распознавать диагнозы быстрее. Удобно-то как! Но есть нюансы: такой подход никто не контролирует, решения не сертифицированы, данные пациентов могут утекать в неизвестном направлении. Всё ради эффективности — и наплевать на безопасность и юридическую сторону вопроса.

Подобная «самодеятельность» обычно возникает, когда работа с официальными технологиями слишком медленная или обременительная: бюрократия давит, цифровые сервисы глючат, а потребность выдать результат — вчера. И вот уже появилось подпольное сообщество специалистов, которые строят свои инструменты ИИ чуть ли не в подвале больницы, хакерским способом подключая их к рабочим процессам. Это напоминает времена, когда офисные работники таскали домой флешки с файлами и устанавливали пиратский Word, чтобы обойти идиотские запреты начальства.

Однако размах делянок искусственного интеллекта давно вышел за пределы невинной шалости. Современные «теневые ИИ» могут самостоятельно обрабатывать и интерпретировать медицинские снимки, анализировать истории болезней, выписывать рекомендации. Но малейший сбой — и пациенту поставят неправильный диагноз, а врач спокойно умоет руки: «Это программа ошиблась, а не я».

Главная угроза тут в неуправляемости процесса: при сбоях трудно найти виновного, а если данные утекут, то тайна пациентов — как банковский счёт на Багамах — станет достоянием общественности. Для властей это уже не «тёмные искусства», а прямая угроза национальной безопасности. Даже Минздрав, обычно склонный делать вид, что знает всё, вынужден признать: если руководство не начнет наводить порядок и разрабатывать стандарты, любимая нами отечественная система здравоохранения быстро превратится в экспериментальную лабораторию — только подопытные будут живыми людьми.