Практически никто не приходит в медицину ради решения задач идентификации. Однако развитие искусственного интеллекта заставляет пересматривать многие процессы — и управление цифровой личностью пациента выходит на первый план. Если для врачей ИИ уже стал привычным инструментом (расшифровка снимков, фоновое распознавание речи на приёме, клинические подсказки), то трансформация опыта самого пациента только начинается. Речь идёт не просто о чат-ботах, а о персональных ИИ-агентах, которые смогут действовать от лица человека: записывать к врачу, передавать данные, заказывать рецепты. Зарубежный опыт показывает, что такой сценарий неизбежен, но его реализация требует принципиально новых подходов к идентификации — и это тема, которую российским частным клиникам стоит изучать уже сейчас.
От чат-бота к агенту: ИИ начинает действовать
Сегодня пациент может получить консультацию у ИИ-собеседника в смартфоне. Но следующий шаг — переход от советов к действиям. Источник описывает вполне реалистичные цепочки событий (оценка: аналогичные сценарии применимы и к российскому рынку по мере развития телемедицинских сервисов и интеграции с ЕМИАС и коммерческими МИС):
- пациент просит своего ИИ-агента найти слот в расписании клиники и записать на приём;
- агент передаёт врачебному ИИ собранный анамнез и текущие жалобы;
- после назначения терапии агент уточняет наличие препарата в аптеках и бронирует его;
- через месяц агент инициирует запрос на повторный рецепт.
Такой ассистент, по сути, становится личным «медицинским администратором» пациента. Потенциальная полезность огромна, скорость принятия пользователями, вероятно, будет высокой (гипотеза). Но чтобы этот сценарий заработал, одной лишь технической интеграции мало. Ключевое препятствие — вопрос доверия и прав доступа.
Ключевой барьер: подтверждение полномочий ИИ-агента
Когда программный агент стучится в цифровой контур клиники со словами «я представляю пациента N», возникает несколько нетривиальных проблем. Если провести параллель с российским регулированием, любое раскрытие врачебной тайны или предоставление доступа к персональным данным неуполномоченному лицу является прямым нарушением 152-ФЗ «О персональных данных» и отраслевого законодательства (аналогично требованиям HIPAA в США).
Вопросы, требующие системного решения:
- Верификация поручения. Как подтвердить, что пациент действительно уполномочил конкретного AI-агента действовать от своего имени?
- «Добросовестность» агента. Пациент может доверять мошенническому сервису. Медицинская организация обязана иметь инструменты, чтобы отличить легального агента от вредоносного, нацеленного на кражу данных.
- Гранулированные разрешения. Пациент должен иметь возможность задать политику: например, разрешить агенту записывать на приём и оформлять рецепты, но запретить доступ к полной медицинской карте.
Без ответа на эти вопросы клиники либо будут блокировать любые автоматизированные запросы, либо окажутся перед лицом инцидентов безопасности и регуляторных рисков.
Международные подходы: Know Your Agent OS и цифровые ID
За рубежом уже формируются технологические ответы на эти вызовы. Инициатива Know Your Agent OS под эгидой Linux Foundation предлагает концепцию, схожую с репутационными моделями защиты от спама (аналогия): каждый ИИ-агент получает собственную идентичность, а его поведение формирует репутационный рейтинг. Добросовестный агент подтверждает статус, вредоносный — быстро блокируется.
Отдельное направление — использование государственных цифровых идентификаторов. В США активно разворачивают Mobile Driver’s License (mDL): Калифорния выпустила уже 2 млн цифровых водительских удостоверений, 30 штатов присоединились к программе. Ключевое преимущество mDL — не просто дубликат физического документа, а возможность криптографической проверки личности с привязкой к живой биометрии, которую невозможно подделать. Ожидается, что в будущем при любом подозрении на дипфейк система потребует предъявить цифровой ID — это вытеснит одноразовые коды из SMS как уязвимый фактор аутентификации (гипотеза экспертов первоисточника, применимая как вектор развития).
Для российского рынка наиболее близкие аналоги (аналогия): ЕСИА (учетная запись на Госуслугах) и Единая биометрическая система (ЕБС). Технологически они способны выполнять функцию цифрового удостоверения при дистанционной идентификации. В перспективе (оценка) стандартизация протоколов взаимодействия с ИИ-агентами может опереться именно на эти инфраструктуры.
Новые угрозы: дипфейки и захват учётных записей
Вторая плоскость проблемы — использование ИИ против самой клиники. Источник моделирует реалистичную атаку с применением дипфейков. Злоумышленники генерируют голосовой отпечаток врача по публичному выступлению на YouTube, после чего звонят в колл-центр медицинской организации и, имитируя доктора, добиваются сброса пароля. При успехе в руках атакующего оказывается доступ к внутренним системам, что позволяет:
- похитить медицинские записи (стоимость записи на теневом рынке может достигать сотен долларов, по оценке авторов);
- внести изменения в данные анализов или назначений, создав прямую угрозу здоровью пациентов.
Для частной российской клиники последствия будут зеркальными: обязательное уведомление пациентов и регулятора об утечке, репутационный урон, судебные иски, а главное — риск нанесения вреда из-за скомпрометированных клинических данных.
Инструменты защиты: непрерывная верификация и цифровое удостоверение личности
В ответ на угрозы захвата учётных записей развиваются системы непрерывной гарантии идентичности (continuous identity assurance). Принцип — оценка контекстных сигналов, указывающих на возможную компрометацию. Индикатором атаки может служить, например, смена SIM-карты с последующим немедленным запросом на сброс пароля через SMS. Такие аномальные цепочки должны приводить к блокировке операции или требовать дополнительной проверки.
Более радикальный метод, который прогнозирует первоисточник, — тотальное замещение одноразовых кодов цифровым удостоверением личности. В отличие от SMS-OTP, цифровой ID, подкреплённый живой биометрией, не перехватывается и не перевыпускается социальной инженерией. Если проект ЕБС и сервисы Госуслуг продолжат развитие в сторону подтверждения операций, аналогичный сценарий может стать реальным и в российской практике при аутентификации врачей и администраторов (гипотеза с учётом текущего тренда импортозамещения и усиления биометрической идентификации).
Что это значит для частной клиники
Прямого регуляторного требования работать с ИИ-агентами пациентов в РФ пока нет. Однако архитектурные и процедурные решения стоит закладывать заранее.
- Инвентаризация прав доступа. Уже сейчас необходимо моделировать сценарии, при которых часть действий инициирует не пациент, а его уполномоченный агент. Это потребует внедрения гранулярных политик: что разрешено агенту, а что — нет. (Оценка: первые такие запросы появятся по мере распространения продвинутых медицинских чат-ботов и голосовых ассистентов.)
- Усиление аутентификации сотрудников. Кейс с дипфейк-звонком напрямую касается колл-центров и служб поддержки. Минимальная мера — регламент, запрещающий сброс паролей и изменение критичных данных без прохождения многофакторной аутентификации, не привязанной к голосовому каналу. В перспективе (гипотеза) — использование биометрии через ЕБС для подтверждения личности врача при удалённых операциях.
- Верификация контрагентов-агентов. Когда на стороне пациента начнут массово появляться ИИ-сервисы, клинике понадобится политика «знай своего агента». Аналогично репутационным моделям Linux Foundation, можно ожидать появления российских реестров доверенных агентов или использования механизмов аккредитации через инфраструктуру электронной подписи и ЕСИА (оценка).
- Аудит API. Если клиника предоставляет программные интерфейсы для записи, получения результатов или заказа рецептов, следует проектировать их с расчётом на то, что запросы могут инициироваться не человеком, а агентом. Это повышает требования к логированию, контролю частоты запросов и проверке авторизационных токенов.
- Обучение персонала. Инциденты с социальной инженерией, основанной на синтезе речи, должны быть включены в программы повышения осведомлённости сотрудников.
ИИ-агенты в ближайшие годы перейдут от диагностических рекомендаций к активному сопровождению лечения — и тем, кто управляет частной клиникой, предстоит найти баланс между технологическим удобством и надёжным управлением идентификацией. Зарубежный опыт показывает, что инструменты для этого уже проектируются; чем раньше российский рынок адаптирует аналогичные подходы, тем ниже будут риски и выше конкурентное преимущество.
Первоисточник: AI Will Reshape the Patient Experience