Риски и ограничения ИИ в клинике: ответственность, данные, этика

Искусственный интеллект в клинике экономит время и снижает число ошибок в документах, но у него есть пределы. ИИ — инструмент, а не носитель ответственности: за лечение отвечают врач и медицинская организация, данные пациентов защищает закон о персональных данных и врачебная тайна, а программа, влияющая на клинические решения, может считаться медицинским изделием. Ниже — как распределить ответственность, защитить данные, выстроить этичную практику и составить простую политику использования ИИ.

Коротко. 1) Решение и подпись остаются за врачом. 2) Посмотрите, не является ли инструмент медицинским изделием: это определяется его назначением. 3) Не вводите данные пациентов в публичные чат-боты. 4) Проверьте, где хранятся данные и учит ли поставщик модели на них. 5) Начинайте с низкорисковых задач, назначьте ответственного и проводите выборочный аудит.

Что ИИ делает хорошо и где его пределы

ИИ уверенно справляется с типовыми, повторяющимися задачами: ответить на стандартный вопрос пациента, записать на приём, проверить заполнение полей, расшифровать разговор, собрать отчёт. Там, где важны контекст, клиническое мышление и ответственность, он остаётся помощником:

  • Он может ошибаться. Ответ может звучать уверенно, но быть неточным, неполным или основанным на неподходящих данных.
  • Он не знает вашего пациента целиком. Без полного контекста (анамнез, сопутствующие состояния, предпочтения) подсказка может быть неуместной.
  • Он не несёт ответственности. Ни юридически, ни профессионально: отвечает человек и организация.
  • Он зависит от данных. Если данные смещены или устарели, смещёнными будут и подсказки.

Ответственность: кто отвечает за ошибку ИИ

Главный принцип прост: ответственность за оказание медицинской помощи несёт медицинская организация, обладающая лицензией, и врач, а не программа. Юристы и эксперты отрасли отмечают и обратную сторону: если ответственность не распределена заранее, врач рискует оказаться «крайним звеном» в цепочке, где участвовали разработчик, клиника, поставщик данных и администратор системы.

Чтобы этого избежать, зафиксируйте роли:

УчастникЗа что отвечает
Врачклиническое решение, проверку подсказок ИИ, содержание протокола и подпись
Клиникавыбор инструментов, регламент их использования, обучение врачей, права доступа, аудит, обработку данных
Поставщик ИИкачество и безопасность продукта, соответствие заявленному назначению, регистрацию, защиту данных, информирование об изменениях и сбоях
Ответственный за ИИ в клиникеведёт перечень инструментов, принимает сообщения об ошибках, организует выборочный аудит

На практике это означает три правила: подпись врача означает проверку, подсказки ИИ видны и отслеживаются, а условия ответственности и качества прописаны в договоре с поставщиком.

Когда ИИ-программа считается медицинским изделием

Статус программы определяется не словом «ИИ», а её назначением. Если ПО предназначено для медицинских целей (диагностика, лечение, мониторинг) и влияет на клинические решения, оно может подпадать под регулирование медицинских изделий, то есть требовать государственной регистрации в Росздравнадзоре. Программы для административных, справочных и бухгалтерских задач, не влияющие напрямую на клинические решения, обычно в этот режим не попадают.

  • Два «ключа». По описаниям отрасли, для ИИ-медизделий действует принцип двух ключей: регистрационное удостоверение Росздравнадзора и включение в реестр российского программного обеспечения.
  • Реестр растёт. По данным Росздравнадзора на июнь 2026 года, зарегистрировано 57 медицинских изделий с ИИ, большинство в области анализа изображений.
  • Надзор за работой. Для зарегистрированных ИИ-изделий вводится порядок автоматической передачи данных о работе в Росздравнадзор и пострегистрационный мониторинг.
  • Формулировки имеют значение. Юридический статус зависит от заявленной функции, поэтому описание в документации и рекламе должно соответствовать реальному назначению инструмента.

Что делать клинике: спрашивайте у поставщика, зарегистрировано ли изделие, если оно претендует на диагностику или выбор лечения; не используйте нерегистрированные «диагностические» ИИ-инструменты как основание для клинических решений; для административных и документных функций уточняйте, что именно инструмент делает и чего не делает.

Данные: что нужно защитить и чего нельзя делать

Сведения о здоровье относятся к специальным категориям персональных данных, а их конфиденциальность защищает врачебная тайна. Для ИИ это означает несколько жёстких границ:

  • Не вводите данные пациентов в публичные чат-боты. Это риск утечки врачебной тайны и нарушения закона о персональных данных. Запретите это в политике клиники и объясните врачам, почему.
  • Узнайте, где обрабатываются и хранятся данные. Первичная запись и хранение персональных данных граждан РФ должны осуществляться в базах на территории России, а передача данных за рубеж регулируется отдельно.
  • Выясните, учится ли модель на ваших данных. Клиника должна знать, используются ли данные пациентов для обучения моделей поставщика и на каких условиях.
  • Ограничьте доступ по ролям. К результатам работы ИИ, как и к карте пациента, должны иметь доступ только те, кому это нужно.
  • Ведите журнал. Нужно видеть, кто и когда использовал ИИ-функции и с какими данными.
  • Уведомляйте и получайте согласия. Запись разговоров, обработка голоса и данных, рассылки ИИ-бота требуют уведомлений и согласий в соответствии с законом.
  • Закрепите отношения с подрядчиками. Если ИИ-функции предоставляет внешний поставщик или используют сторонние модели, это должно быть отражено в договоре и политике обработки данных.

Этика: на чём строить практику

В отрасли есть кодексы и рекомендации по этике ИИ, включая международные руководства по использованию ИИ в здравоохранении (например, рекомендации ВОЗ). Практически они сводятся к нескольким принципам, которые клиника может принять как свои:

  • Человек в контуре. Любое клинически значимое решение принимает врач, а ИИ показывает основания подсказки, а не только вывод.
  • Прозрачность для пациента. Пациент должен понимать, когда он общается с ботом, и иметь возможность связаться с человеком.
  • Справедливость. Проверяйте, что подсказки не ухудшают помощь для отдельных групп пациентов (возраст, пол, сопутствующие состояния) из-за смещённых данных.
  • Конфиденциальность и минимизация данных. Используйте ровно столько данных, сколько нужно для задачи.
  • Подотчётность. Есть ответственный, журнал, порядок сообщений об ошибках и пересмотра инструментов.
  • Эмпатия не заменяется. Бот и ИИ-помощник разгружают рутину, но разговор о диагнозе, рисках и выборе лечения остаётся за человеком.

Типичные риски и как их снижать

РискКак проявляетсяЧто делать
Ошибочный ответИИ уверенно предлагает неверную формулировку, назначение или данныеподпись врача только после проверки; выборочный аудит; порядок сообщения об ошибках
Автоматизационное довериеврач перестаёт критически читать подсказки и пропускает ошибкиобучение, показ оснований подсказки, правило «подпись означает проверку»
Утечка данныхданные пациентов попадают в публичные сервисы или к подрядчику без защитызапрет публичных сервисов, договор и проверка поставщика, ролевой доступ, журнал
«Теневой ИИ»сотрудники используют неодобренные инструменты в обход политикиперечень разрешённых инструментов и удобная одобренная альтернатива
Смещение данныхподсказки хуже работают для отдельных групп пациентовпроверка на разных группах, обратная связь врачей, уточнение у поставщика
Нерегистрированная «диагностика»инструмент без регистрации используется как основание для клинических решенийпроверка статуса у поставщика и юриста; использование только по заявленному назначению
Размытая ответственностьпосле ошибки неясно, кто за что отвечалрегламент, договор с поставщиком, ответственный за ИИ
Зависимость от поставщикасбой или изменение условий останавливает процессызапасной порядок работы без ИИ, возможность отключения функций
Потеря человеческого контактапациент не может связаться с человекомявное представление бота и быстрая передача оператору

Какая у ИИ-функции степень риска

Не все ИИ-функции одинаково рискованны. Удобно делить их на классы и усиливать контроль по мере роста влияния на клинические решения:

Класс функцийПримерыОсновной рискМинимальные меры
Административныезапись и напоминания, ответы на типовые вопросы, отчёты, речевая аналитика звонковнеточные ответы пациентам, утечка записей разговоровуведомление о записи разговоров, передача человеку, ролевой доступ
Контроль документовпроверка оформления протоколов, подсветка ошибокложные срабатывания, пропущенные ошибкивыборочный ручной аудит, порядок исправления правил
Помощь в документированииголосовое заполнение протокола, подготовка описаниянеточная расшифровка, пропуск важных сведенийобязательная проверка и подпись врача, хранение исходных данных
Клиническая поддержка«второе мнение», подсказки по планам лечения и клиническим рекомендациямвлияние на клиническое решение, смещение, автоматизационное довериевспомогательный статус, объяснение оснований, регистрация при необходимости, аудит
Диагностикаанализ изображений, ЭКГ и другие диагностические решенияпрямое влияние на диагнозтолько зарегистрированные изделия, использование строго по назначению

Политика использования ИИ в клинике: чек-лист

  • Назначен ответственный за ИИ и распределены роли между врачами, администрацией и поставщиком.
  • Составлен перечень разрешённых ИИ-инструментов с описанием назначения и статуса.
  • Запрещено вводить данные пациентов в публичные чат-боты и неодобренные сервисы.
  • Определено, что считается решением врача, и закреплено правило «подпись означает проверку».
  • Проверены места хранения и обработки данных, условия передачи подрядчикам и использование данных для обучения моделей.
  • Настроены права доступа и журнал использования ИИ-функций.
  • Получены и оформлены согласия и уведомления: запись разговоров, обработка данных, взаимодействие с ботом.
  • Пациент знает, когда общается с ботом, и может связаться с человеком.
  • Раз в месяц проводится выборочный ручной аудит срабатываний и подсказок ИИ.
  • Есть порядок сообщения об ошибках и инцидентах и пересмотра инструментов.
  • Врачи и администраторы обучены: возможности, ограничения, ответственность.
  • Есть запасной порядок работы на случай отключения или сбоя ИИ-функций.

10 вопросов, которые стоит задать поставщику ИИ

  1. Какова точная функция инструмента и входит ли она в зону клинических решений?
  2. Нужна ли регистрация как медицинского изделия и есть ли регистрационное удостоверение?
  3. Где обрабатываются и хранятся данные, в том числе записи разговоров и тексты протоколов?
  4. Используются ли внешние сервисы или модели? Какие данные им передаются?
  5. Учится ли модель на данных нашей клиники и можно ли это отключить?
  6. Как устроены права доступа и журналы действий?
  7. Как проверяется качество результатов и как мы можем провести собственный аудит?
  8. Что происходит при сбое или отключении функции?
  9. Как поставщик информирует об изменениях в алгоритмах и условиях?
  10. Кто и за что отвечает по договору, если инструмент дал неверный результат?

Как мы подходим к этому в «Киберсофт.Здоровье»

В «Киберсофт.Здоровье» ИИ-функции построены как вспомогательные: готовый протокол врач проверяет и подписывает сам, проверка документов работает по заданным клиникой правилам, а доступ к данным ограничивается по ролям. Система включена в реестр российского ПО (запись № 11166), работает в облаке и соответствует требованиям закона о персональных данных. Обзор всех ИИ-инструментов — на странице «Искусственный интеллект в МИС», а результаты в реальных клиниках — в кейсах про проверку протоколов и речевую аналитику.

Хотите обсудить безопасное внедрение ИИ в вашей клинике?

Закажите демонстрацию «Киберсофт.Здоровье»: покажем ИИ-инструменты, права доступа и журналы, а также ответим на вопросы о данных и ответственности.

Вопросы и ответы о рисках ИИ в клинике

Кто отвечает за ошибку ИИ в клинике?

За оказание медицинской помощи отвечает медицинская организация и врач, а не программа. ИИ не является субъектом ответственности: он остаётся инструментом, а решение и подпись принадлежат специалисту. Поэтому важно распределить роли между клиникой, врачом и поставщиком ИИ заранее: в регламенте и в договоре.

Когда ИИ-программа считается медицинским изделием?

Когда она предназначена для медицинских целей, например диагностики, лечения или мониторинга, и влияет на клинические решения. Программы для административных, бухгалтерских и справочных задач, не влияющие на клинические решения, обычно не регистрируются как медицинские изделия. Решает функциональное назначение, поэтому статус каждого инструмента нужно уточнять у поставщика и юриста.

Можно ли врачам использовать публичные чат-боты для работы с историями болезни?

Вводить персональные данные пациентов в публичные сервисы нельзя: это риск утечки врачебной тайны и нарушения закона о персональных данных. Если ИИ нужен для работы с документами, используйте решения, встроенные в МИС клиники, с понятными правилами хранения данных и ролевым доступом.

Нужно ли сообщать пациенту, что в клинике используется ИИ?

Прямого универсального требования для всех случаев нет, но прозрачность считается этичной практикой: пациент должен понимать, общается ли он с ботом и что решение принимает врач. Для записи разговоров и обработки данных нужны уведомления и согласия по закону. Формулировки согласуйте с юристом.

Какие данные ИИ может использовать в клинике?

Только те, на которые у клиники есть правовые основания, и в объёме, необходимом для задачи. Сведения о здоровье относятся к специальным категориям персональных данных, поэтому важно ограничивать доступ, вести журнал обращений и проверять, куда и как поставщик передаёт данные и использует ли их для обучения моделей.

Может ли ИИ ошибаться?

Да. ИИ может давать неточные, неполные или уверенно звучащие, но неверные ответы, а также допускать ошибки из-за смещённых данных. Поэтому ему нужен человеческий контроль, выборочный аудит и понятный порядок сообщения об ошибках.

Что такое «автоматизационное доверие» (automation bias)?

Это склонность человека слишком полагаться на подсказки программы и пропускать собственные ошибки или противоречия. В клинике с ним борются обучением врачей, показом оснований подсказки, ручным аудитом и правилом «подпись означает проверку».

С чего начать, чтобы использовать ИИ безопасно?

Начните с низкорисковых задач (запись, напоминания, отчёты, проверка оформления документов), назначьте ответственного, зафиксируйте политику использования ИИ и задайте поставщику вопросы о данных, регистрации и ответственности. Расширяйте перечень инструментов только после проверки результатов.

Статья носит информационный характер и не является юридической консультацией. Регулирование ИИ в здравоохранении быстро меняется: сверяйтесь с действующими нормативными актами и консультируйтесь с юристом.

Закажите доступ к демо-версии МИС Киберсофт.Здоровье

ПН
ВТ
СР
ЧТ
ПТ
СБ
ВС

На выбранную дату нет доступных временных слотов

Подтверждение записи

Мы отправили код на номер

Введите код из SMS

Отправить новый код можно через

Запись на онлайн презентацию успешно подтверждена!
Заявка успешно отправлена!
Проверьте почту! Мы отправили ссылку на встречу на e-mail
Мы свяжемся с вами в ближайшее время и подтвердим запись на презентацию.
Если ссылка не пришла, напишите нам на hello@kiber-soft.net
Ошибка!
Если у вас не получается записаться, пришлите нам e-mail и мы запишем вас на презентацию в удобное время

Получить коммерческое предложение

Регистрация на портале

В данный момент регистрация недоступна. Приносим извинения за неудобства.

Нажимая кнопку «Зарегистрироваться», Вы принимаете условия Пользовательского соглашения образовательного портала kibersoft.school

Подписка на вебинары

Оставьте контакты и получайте приглашения на полезные вебинары для руководителей и маркетологов клиник

Введите минимум два слова (имя и фамилию)

Укажите корректный e-mail

Укажите корректный номер телефона

Прокрутить вверх