ИИ в защите данных пациентов: мониторинг ЭМК

В 2024 году в здравоохранении скомпрометировали более 300 млн записей пациентов — на 26% больше, чем в 2023 году (отчёт Bluesight 2025 года). На Patient Privacy Symposium обсуждали переход от реактивных аудитов к проактивному мониторингу ЭМК и расследованиям инцидентов с помощью ИИ.

От реактивных аудитов к проактивному мониторингу доступа

Симпозиум по приватности пациентов (Patient Privacy Symposium) провела Bluesight — разработчик ПО для больничного комплаенса из Александрии, Вирджиния. Ключевой доклад читал Mustafa Rahimi, principal AI strategist & technical leader направления healthcare & life sciences в AWS.

Свой доклад он открыл формулой «trust makes room for what matters, and this is why we're all here» — «доверие освобождает место для главного, за этим мы здесь и собрались». Дальше весь материал был посвящён тому, как это доверие сконструировать технически.

Главный организационный сдвиг, который фиксировали участники: клиники уходят от реактивных аудитов приватности — проверок по факту жалобы или уже случившегося инцидента — к программам мониторинга. Такие программы ищут подозрительную активность и потенциальные риски заранее, до того как они превратятся в инцидент с данными пациентов. То есть меняется не инструмент, а момент вмешательства: не «после», а «до».

«Уравнение доверия» для агентного ИИ: четыре условия от AWS

Rahimi описал то, что назвал «уравнением доверия» (trust equation) для агентных ИИ-систем в здравоохранении — набора требований, которые организация должна закрыть, прежде чем разворачивать такие системы в масштабе. В списке четыре элемента: идентичность агента (identity of the agent), надёжные guardrails, прозрачность и возможность валидировать выходы агента.

Про прозрачность он высказался отдельно: «You want to have transparency so you can see what's happening with the agent, how it's thinking» — нужна видимость того, что происходит с агентом и как он рассуждает.

Третья колонка — реконструкция: в источнике перечислены сами требования, но не их последствия; связку «требование → риск при его отсутствии» мы вывели логически.

Больше мониторинга не значит лучше

Спикеры подчёркивали: рост объёма наблюдения не равен росту качества контроля. Организация должна понимать две вещи — надёжны ли данные, на которые опирается система, и разбирает ли она именно ту активность, которая позволяет точно оценить риск приватности.

Отсюда практический вывод: программа мониторинга доступа оценивается не по числу сработавших алертов, а по тому, сколько из них подтвердились как реальные нарушения. По нашей интерпретации, проверять стоит три вещи:

• полноту журналов: фиксируются ли все каналы доступа к ЭМК, включая просмотр без редактирования;
• релевантность правил: настроены ли они на конкретные сценарии (своя карта, карта родственника, нерабочие часы, нетипичный объём записей);
• разбор: кто и в какие сроки закрывает каждый алерт и что фиксируется по итогам.

Без третьего пункта мониторинг превращается в генератор отчётов, которые никто не читает.

City of Hope: свои карты, карты родственников и правки в ЭМК

Angela Alton, chief privacy officer в City of Hope (Дуарте, Калифорния; лечение и исследования рака), рассказала, как в её организации используют мониторинг доступа к ЭМК — не только для комплаенса, но и как инструмент улучшения процессов.

Кейсы, которые она привела: сотрудники открывали собственные медицинские карты или карты близких, а в нескольких ситуациях даже изменяли медицинскую запись или назначали себе препараты. Её оценка: «It can be seemingly small, but it can have very large fraud, waste, and abuse implications» — выглядит мелочью, но последствия с точки зрения мошенничества, потерь и злоупотреблений могут быть очень крупными. Более плотный мониторинг данных, по её словам, помогает сокращать число таких случаев.

Ключевой момент: сами по себе такие эпизоды — не «утечка» в терминах breach reporting, но именно они формируют культуру доступа, в которой возможны и крупные инциденты.

ИИ как источник риска: что контролировать

ИИ был главной темой симпозиума в двух смыслах. С одной стороны, это мощный инструмент приватностных операций: он автоматизирует выявление, приоритизацию и расследование потенциальных нарушений, делая процесс быстрее и зачастую содержательнее. С другой — сам ИИ создаёт новые риски и переменные, которыми организация обязана управлять.

По мере того как ИИ берёт на себя всё больше задач в клиническом процессе, нужно контролировать, к каким данным он имеет доступ и какие действия может выполнять. Общая задача для команд приватности формулируется так:

1. Человеческий надзор — решения по нарушениям не делегируются модели полностью.
2. Точечное расследование — разбор конкретного кейса, а не только вывод по выборке.
3. Подотчётность — у каждого действия есть ответственный субъект, человек или агент с идентификатором.

Применимость для РФ

Логика переносится целиком: проактивный мониторинг доступа к ЭМК, ретроспективный разбор «своих» и «семейных» открытий карты, правила по нерабочим часам и объёму просмотров. Это не зависит от юрисдикции — это операционная гигиена.

Не переносится напрямую регуляторная обвязка. В РФ данные о здоровье — специальная категория персональных данных по 152-ФЗ, с требованиями к локализации и мерам защиты; с 2022 года действует обязанность уведомлять Роскомнадзор об утечках. При этом HIPAA-эквивалента нет: никто не предписывает формат audit trail и не задаёт обязательный шаблон расследования, поэтому глубину журналирования и регламент разбора клиника определяет сама. Ст. 24 ФЗ-38 напрямую к мониторингу доступа не относится, но пересекается с ним в другом месте — при использовании данных пациентов в рекламе и маркетинге, где нужно и согласие по 152-ФЗ, и соблюдение ограничений рекламного закона (по нашей интерпретации).

Инфраструктурный разрыв тоже значителен: инструменты уровня AWS и вендорские ИИ-сервисы мониторинга недоступны для прямого развёртывания, данные лежат в МИС и локальных хранилищах, готовых коннекторов к ним нет. На практике первый шаг — не ИИ, а налаженный журнал доступа к карте пациента с привязкой к сотруднику и пациенту и регулярная процедура его разбора: если журнал ведётся в учётной системе (например, в medaccount.ru), данные для такого мониторинга уже есть, не хватает регламента.

Читайте также

• Теневой ИИ в медицине: почти 40% медработников — еженедельно — теневой ИИ: утечки, когда персонал работает в обход клиники
• ИИ-агенты в клинике: доступ как у внештатной медсестры — права доступа ИИ-агентов к медицинским системам
• MCP для интеграции данных MedTech: ИИ-агенты связывают системы без потери комплаенса — интеграция данных через ИИ-агентов без потери комплаенса

FAQ

Q: Что такое проактивный мониторинг доступа к ЭМК? A: Это программа постоянного наблюдения за обращениями к медицинским картам, которая ищет подозрительную активность и риски до того, как они станут инцидентом, — в отличие от реактивных аудитов по факту жалобы или утечки.

Q: Сколько записей пациентов скомпрометировали утечки в 2024 году? A: По отчёту Bluesight 2025 года — более 300 млн записей, что на 26% больше, чем в 2023-м.

Q: Какие четыре условия доверия к агентному ИИ назвал представитель AWS? A: Идентичность агента, надёжные guardrails, прозрачность его работы и возможность валидировать outputs агента.

Q: Почему больше мониторинга не означает лучший мониторинг? A: Потому что объём алертов не равен качеству: нужно, чтобы данные были надёжны, а наблюдение охватывало именно ту активность, которая реально характеризует риск приватности.

Q: Какие риски создаёт сам ИИ в клинике? A: Он получает доступ к данным и выполняет действия, поэтому организация обязана ограничивать его права, сохранять прозрачность рассуждений, проверять выходы и удерживать человеческий надзор с подотчётностью.

Q: Что из описанного применимо в России по 152-ФЗ? A: Операционная модель мониторинга доступа — да; регуляторные шаблоны США — нет, поскольку HIPAA-эквивалента в РФ нет и регламент журналирования клиника выстраивает под требования 152-ФЗ самостоятельно.

Источник: MedCity News, 2026-10-04