Ответственность за ошибки ИИ в медицине: врач или клиника

По позиции техасского адвоката Аманды Хилл (Hill Health Law Group), ИИ в клинике остаётся инструментом: за итоговое решение и ошибку отвечает врач. «В конечном счёте ответственность останавливается на докторе», — говорит она, допуская ответственность больницы при грубой небрежности в регламентах.

Аманда Хилл: ИИ остаётся инструментом, отвечает клиницист

По мере того как ИИ в здравоохранении переходит от простой документации и административных задач к поддержке клинических решений, перед руководителями и врачами встаёт вопрос: какой объём человеческого надзора достаточен, когда ИИ влияет на помощь пациенту напрямую. Именно этот вопрос разбирает MedCity News в материале Дженны Конгдон от 27 сентября 2026 года.

Для Аманды Хилл, техасского адвоката в сфере здравоохранения и основателя Hill Health Law Group, ответ однозначен: ИИ должен оставаться инструментом, а клиницист, который им пользуется, остаётся ответственным за оказанную помощь.

Врачей и advanced practice providers (APP) постоянно предупреждают, чтобы они не полагались на ИИ при постановке диагноза или назначении лечения. Проблема в том, что предупреждение плохо работает на практике. «Но все мы люди, и мы можем стать зависимыми от инструментов, которые задумывались как средство контроля… если ИИ-резюме и подсказки верны в 95% случаев, на них проще положиться, поэтому, когда ошибка проскакивает, провайдеры могут её не заметить», — говорит Хилл. Именно высокая точность инструмента, по её логике, и создаёт риск: внимание специалиста снижается пропорционально росту доверия к системе.

Пример ИИ-скрайба: Celebrex вместо Celexa и цепочка ошибок

Хилл приводит гипотетический пример (это именно иллюстрация, а не описание реального случая). Если ИИ-скрайб неверно фиксирует препарат — скажем, Celebrex вместо Celexa, — а клиницист ошибку не ловит, она может быть перенесена в:

• запрос на повторный рецепт в аптеку;
• резюме визита для пациента;
• запись в медицинской карте.

Любая из этих ошибок может привести к тому, что пациент примет не тот препарат. Более тревожный сценарий — перенос ошибки в последующие записи: она «наследуется» следующими заметками, и выявить её на более поздних визитах становится сложнее. Это превращает разовый сбой распознавания в системный дефект медицинской документации.

Что считается реальным надзором: не «пробежать глазами» перед подписью

Хилл подчёркивает: содержательный надзор не может сводиться к простому просмотру сгенерированной ИИ записи перед подписью. Полная медицинская карта — это больше, чем транскрипт: она должна включать наблюдения и выводы обученного лицензированного специалиста.

Ставки растут, когда ИИ выходит за пределы документации и начинает предлагать диагнозы и лечение. ИИ может выявлять паттерны и предлагать варианты, но врач в итоге отвечает за учёт всех результатов исследований и данных пациента — особенно тех, что технология могла не зафиксировать. Ошибки и пропуски, внесённые ИИ, способны повлиять на дальнейшее лечение, на понимание пациентом собственного диагноза и даже на биллинг.

Когда к ответственности привлекают клинику

«В конечном счёте ответственность останавливается на докторе», — подчёркивает Хилл. При этом, по её словам, медицинская группа или больница также может быть привлечена к ответственности, «…если они внедрили настолько плохие программы или регламенты, что это является грубой небрежностью».

Формулировка важна для управленцев: ответственность организации возникает не из самого факта использования ИИ, а из качества внедрения — rushed-подхода без защитных механизмов. То есть предметом спора становится не алгоритм, а управленческое решение о его допуске в клинический процесс.

Иск к Mayo Clinic и требование независимой оценки безопасности ИИ

Озабоченность подкрепляется конкретным разбирательством. В июле 2026 года бывший руководитель направления AI compliance подала иск к Mayo Clinic, утверждая, что её уволили после того, как она выразила обеспокоенность спешным внедрением ИИ в рабочие процессы помощи пациентам без надлежащих защитных механизмов.

Тот же вопрос звучит и за пределами медицины: недавно исследователь одной из AI-лабораторий уволился из-за опасений, что ИИ развивается слишком быстро и при слишком слабом надзоре, а лидеры индустрии призывали к независимым оценкам безопасности. По мере того как ИИ берёт на себя всё более сложные задачи диагностики и планирования лечения, традиционные линии ответственности размываются, и руководителям приходится балансировать между эффективностью и сохранением обоснованного клинического суждения.

Что это значит для руководителя клиники

Прямых рекомендаций в материале нет; ниже — выводы, которые следуют из тезисов Хилл:

1. Зафиксировать в регламенте, что подпись под картой означает содержательную проверку, а не формальное подтверждение просмотра.
2. Отдельно описать процедуру поиска «унаследованных» ошибок ИИ в предыдущих записях перед новым назначением.
3. Определить, какие данные пациента не попадают в ИИ-систему, и требовать их ручного учёта.
4. Обучать персонал эффекту «95% точности»: высокая точность не отменяет проверку, а повышает цену невнимательности.
5. Документировать решения о внедрении ИИ — именно качество внедрения становится предметом претензий к организации.

Применимость для РФ

Базовый принцип переносится напрямую: ИИ — инструмент, а ответственность несёт лицензированный специалист. В российском контуре это опирается на 323-ФЗ (ст. 37 о клинических рекомендациях и ст. 98 об ответственности медорганизаций и медработников), ст. 1068 ГК РФ (работодатель отвечает за вред, причинённый работником) и ст. 1095 ГК РФ (вред от недостатков услуги возмещается независимо от вины исполнителя для потребителя).

Что не переносится: конструкция malpractice liability и связанная с ней судебная практика — прямого аналога HIPAA в РФ нет, а споры идут не о «врачебной ошибке» как правовой категории, а о дефекте оказания медицинской помощи, в том числе по ст. 109, 118 и 238 УК РФ. Американская логика «кто держит финальную ответственность» применима как управленческий принцип, но не как правовая норма.

Инфраструктурные ограничения: системы поддержки принятия врачебных решений (СППВР) в РФ проходят регистрацию как медицинские изделия, а данные о здоровье — спецкатегория персональных данных (ст. 10 152-ФЗ) с требованием локализации баз (ч. 5 ст. 18). Практический вывод: зарубежные ИИ-скрайбы без локального контура обработки данных в РФ не разворачиваются, а «наследование» ошибки в ЭМК приобретает дополнительный риск из-за фрагментации МИС между клиниками.

Читайте также

• Теневой ИИ в медицине: почти 40% медработников — еженедельно — риск ответственности растёт, когда персонал пользуется ИИ в обход клиники
• Индекс готовности к ИИ в медицине 2026: внедрение растёт быстрее управления — насколько клиники готовы управлять ИИ, который уже внедрили
• Тестирование ИИ в больницах: менее половины клиник имеют выделенную среду — тестирование и надзор как способ снизить юридический риск
• Доверие к ИИ в медицине важнее автономности: что показывает практика — доверие к ИИ важнее автономности: что показывает практика

FAQ

Q: Кто несёт ответственность, если ИИ-скрайб ошибся с препаратом? A: По позиции Аманды Хилл — врач: ИИ остаётся инструментом, а подпись под картой ставит лицензированный специалист. Ошибка, которую он не поймал, остаётся его профессиональной ответственностью.

Q: Достаточно ли врачу просмотреть заметку ИИ перед подписью? A: Нет. Хилл прямо говорит, что полноценная медицинская карта — это больше, чем транскрипт: надзор должен включать наблюдения и выводы обученного специалиста, а не формальное сканирование текста.

Q: Может ли клиника отвечать за ошибку ИИ-системы? A: Да, если она внедрила «настолько плохие программы или регламенты, что это является грубой небрежностью». Ответственность возникает из качества внедрения, а не из факта использования ИИ.

Q: Что известно об иске к Mayo Clinic? A: В июле 2026 года бывший руководитель направления AI compliance подала иск, утверждая, что её уволили после обеспокоенности спешным внедрением ИИ в клинические процессы без надлежащих защитных механизмов.

Q: Правда ли, что точность ИИ в 95% делает его безопасным? A: Наоборот. По Хилл, именно высокая точность повышает доверие и снижает бдительность: «когда ошибка проскакивает, провайдеры могут её не заметить». Порога допустимой точности она не называет.

Источник: MedCity News, 2026-09-27