Искусственный интеллект в клинике экономит время и снижает число ошибок в документах, но у него есть пределы. ИИ — инструмент, а не носитель ответственности: за лечение отвечают врач и медицинская организация, данные пациентов защищает закон о персональных данных и врачебная тайна, а программа, влияющая на клинические решения, может считаться медицинским изделием. Ниже — как распределить ответственность, защитить данные, выстроить этичную практику и составить простую политику использования ИИ.
Коротко. 1) Решение и подпись остаются за врачом. 2) Посмотрите, не является ли инструмент медицинским изделием: это определяется его назначением. 3) Не вводите данные пациентов в публичные чат-боты. 4) Проверьте, где хранятся данные и учит ли поставщик модели на них. 5) Начинайте с низкорисковых задач, назначьте ответственного и проводите выборочный аудит.
- Возможности и пределы
- Ответственность
- Медицинское изделие
- Данные
- Этика
- Риски и меры
- Классы функций
- Политика ИИ
- Вопросы поставщику
- Вопросы и ответы
Что ИИ делает хорошо и где его пределы
ИИ уверенно справляется с типовыми, повторяющимися задачами: ответить на стандартный вопрос пациента, записать на приём, проверить заполнение полей, расшифровать разговор, собрать отчёт. Там, где важны контекст, клиническое мышление и ответственность, он остаётся помощником:
- Он может ошибаться. Ответ может звучать уверенно, но быть неточным, неполным или основанным на неподходящих данных.
- Он не знает вашего пациента целиком. Без полного контекста (анамнез, сопутствующие состояния, предпочтения) подсказка может быть неуместной.
- Он не несёт ответственности. Ни юридически, ни профессионально: отвечает человек и организация.
- Он зависит от данных. Если данные смещены или устарели, смещёнными будут и подсказки.
Ответственность: кто отвечает за ошибку ИИ
Главный принцип прост: ответственность за оказание медицинской помощи несёт медицинская организация, обладающая лицензией, и врач, а не программа. Юристы и эксперты отрасли отмечают и обратную сторону: если ответственность не распределена заранее, врач рискует оказаться «крайним звеном» в цепочке, где участвовали разработчик, клиника, поставщик данных и администратор системы.
Чтобы этого избежать, зафиксируйте роли:
| Участник | За что отвечает |
|---|---|
| Врач | клиническое решение, проверку подсказок ИИ, содержание протокола и подпись |
| Клиника | выбор инструментов, регламент их использования, обучение врачей, права доступа, аудит, обработку данных |
| Поставщик ИИ | качество и безопасность продукта, соответствие заявленному назначению, регистрацию, защиту данных, информирование об изменениях и сбоях |
| Ответственный за ИИ в клинике | ведёт перечень инструментов, принимает сообщения об ошибках, организует выборочный аудит |
На практике это означает три правила: подпись врача означает проверку, подсказки ИИ видны и отслеживаются, а условия ответственности и качества прописаны в договоре с поставщиком.
Когда ИИ-программа считается медицинским изделием
Статус программы определяется не словом «ИИ», а её назначением. Если ПО предназначено для медицинских целей (диагностика, лечение, мониторинг) и влияет на клинические решения, оно может подпадать под регулирование медицинских изделий, то есть требовать государственной регистрации в Росздравнадзоре. Программы для административных, справочных и бухгалтерских задач, не влияющие напрямую на клинические решения, обычно в этот режим не попадают.
- Два «ключа». По описаниям отрасли, для ИИ-медизделий действует принцип двух ключей: регистрационное удостоверение Росздравнадзора и включение в реестр российского программного обеспечения.
- Реестр растёт. По данным Росздравнадзора на июнь 2026 года, зарегистрировано 57 медицинских изделий с ИИ, большинство в области анализа изображений.
- Надзор за работой. Для зарегистрированных ИИ-изделий вводится порядок автоматической передачи данных о работе в Росздравнадзор и пострегистрационный мониторинг.
- Формулировки имеют значение. Юридический статус зависит от заявленной функции, поэтому описание в документации и рекламе должно соответствовать реальному назначению инструмента.
Что делать клинике: спрашивайте у поставщика, зарегистрировано ли изделие, если оно претендует на диагностику или выбор лечения; не используйте нерегистрированные «диагностические» ИИ-инструменты как основание для клинических решений; для административных и документных функций уточняйте, что именно инструмент делает и чего не делает.
Данные: что нужно защитить и чего нельзя делать
Сведения о здоровье относятся к специальным категориям персональных данных, а их конфиденциальность защищает врачебная тайна. Для ИИ это означает несколько жёстких границ:
- Не вводите данные пациентов в публичные чат-боты. Это риск утечки врачебной тайны и нарушения закона о персональных данных. Запретите это в политике клиники и объясните врачам, почему.
- Узнайте, где обрабатываются и хранятся данные. Первичная запись и хранение персональных данных граждан РФ должны осуществляться в базах на территории России, а передача данных за рубеж регулируется отдельно.
- Выясните, учится ли модель на ваших данных. Клиника должна знать, используются ли данные пациентов для обучения моделей поставщика и на каких условиях.
- Ограничьте доступ по ролям. К результатам работы ИИ, как и к карте пациента, должны иметь доступ только те, кому это нужно.
- Ведите журнал. Нужно видеть, кто и когда использовал ИИ-функции и с какими данными.
- Уведомляйте и получайте согласия. Запись разговоров, обработка голоса и данных, рассылки ИИ-бота требуют уведомлений и согласий в соответствии с законом.
- Закрепите отношения с подрядчиками. Если ИИ-функции предоставляет внешний поставщик или используют сторонние модели, это должно быть отражено в договоре и политике обработки данных.
Этика: на чём строить практику
В отрасли есть кодексы и рекомендации по этике ИИ, включая международные руководства по использованию ИИ в здравоохранении (например, рекомендации ВОЗ). Практически они сводятся к нескольким принципам, которые клиника может принять как свои:
- Человек в контуре. Любое клинически значимое решение принимает врач, а ИИ показывает основания подсказки, а не только вывод.
- Прозрачность для пациента. Пациент должен понимать, когда он общается с ботом, и иметь возможность связаться с человеком.
- Справедливость. Проверяйте, что подсказки не ухудшают помощь для отдельных групп пациентов (возраст, пол, сопутствующие состояния) из-за смещённых данных.
- Конфиденциальность и минимизация данных. Используйте ровно столько данных, сколько нужно для задачи.
- Подотчётность. Есть ответственный, журнал, порядок сообщений об ошибках и пересмотра инструментов.
- Эмпатия не заменяется. Бот и ИИ-помощник разгружают рутину, но разговор о диагнозе, рисках и выборе лечения остаётся за человеком.
Типичные риски и как их снижать
| Риск | Как проявляется | Что делать |
|---|---|---|
| Ошибочный ответ | ИИ уверенно предлагает неверную формулировку, назначение или данные | подпись врача только после проверки; выборочный аудит; порядок сообщения об ошибках |
| Автоматизационное доверие | врач перестаёт критически читать подсказки и пропускает ошибки | обучение, показ оснований подсказки, правило «подпись означает проверку» |
| Утечка данных | данные пациентов попадают в публичные сервисы или к подрядчику без защиты | запрет публичных сервисов, договор и проверка поставщика, ролевой доступ, журнал |
| «Теневой ИИ» | сотрудники используют неодобренные инструменты в обход политики | перечень разрешённых инструментов и удобная одобренная альтернатива |
| Смещение данных | подсказки хуже работают для отдельных групп пациентов | проверка на разных группах, обратная связь врачей, уточнение у поставщика |
| Нерегистрированная «диагностика» | инструмент без регистрации используется как основание для клинических решений | проверка статуса у поставщика и юриста; использование только по заявленному назначению |
| Размытая ответственность | после ошибки неясно, кто за что отвечал | регламент, договор с поставщиком, ответственный за ИИ |
| Зависимость от поставщика | сбой или изменение условий останавливает процессы | запасной порядок работы без ИИ, возможность отключения функций |
| Потеря человеческого контакта | пациент не может связаться с человеком | явное представление бота и быстрая передача оператору |
Какая у ИИ-функции степень риска
Не все ИИ-функции одинаково рискованны. Удобно делить их на классы и усиливать контроль по мере роста влияния на клинические решения:
| Класс функций | Примеры | Основной риск | Минимальные меры |
|---|---|---|---|
| Административные | запись и напоминания, ответы на типовые вопросы, отчёты, речевая аналитика звонков | неточные ответы пациентам, утечка записей разговоров | уведомление о записи разговоров, передача человеку, ролевой доступ |
| Контроль документов | проверка оформления протоколов, подсветка ошибок | ложные срабатывания, пропущенные ошибки | выборочный ручной аудит, порядок исправления правил |
| Помощь в документировании | голосовое заполнение протокола, подготовка описания | неточная расшифровка, пропуск важных сведений | обязательная проверка и подпись врача, хранение исходных данных |
| Клиническая поддержка | «второе мнение», подсказки по планам лечения и клиническим рекомендациям | влияние на клиническое решение, смещение, автоматизационное доверие | вспомогательный статус, объяснение оснований, регистрация при необходимости, аудит |
| Диагностика | анализ изображений, ЭКГ и другие диагностические решения | прямое влияние на диагноз | только зарегистрированные изделия, использование строго по назначению |
Политика использования ИИ в клинике: чек-лист
- Назначен ответственный за ИИ и распределены роли между врачами, администрацией и поставщиком.
- Составлен перечень разрешённых ИИ-инструментов с описанием назначения и статуса.
- Запрещено вводить данные пациентов в публичные чат-боты и неодобренные сервисы.
- Определено, что считается решением врача, и закреплено правило «подпись означает проверку».
- Проверены места хранения и обработки данных, условия передачи подрядчикам и использование данных для обучения моделей.
- Настроены права доступа и журнал использования ИИ-функций.
- Получены и оформлены согласия и уведомления: запись разговоров, обработка данных, взаимодействие с ботом.
- Пациент знает, когда общается с ботом, и может связаться с человеком.
- Раз в месяц проводится выборочный ручной аудит срабатываний и подсказок ИИ.
- Есть порядок сообщения об ошибках и инцидентах и пересмотра инструментов.
- Врачи и администраторы обучены: возможности, ограничения, ответственность.
- Есть запасной порядок работы на случай отключения или сбоя ИИ-функций.
10 вопросов, которые стоит задать поставщику ИИ
- Какова точная функция инструмента и входит ли она в зону клинических решений?
- Нужна ли регистрация как медицинского изделия и есть ли регистрационное удостоверение?
- Где обрабатываются и хранятся данные, в том числе записи разговоров и тексты протоколов?
- Используются ли внешние сервисы или модели? Какие данные им передаются?
- Учится ли модель на данных нашей клиники и можно ли это отключить?
- Как устроены права доступа и журналы действий?
- Как проверяется качество результатов и как мы можем провести собственный аудит?
- Что происходит при сбое или отключении функции?
- Как поставщик информирует об изменениях в алгоритмах и условиях?
- Кто и за что отвечает по договору, если инструмент дал неверный результат?
Как мы подходим к этому в «Киберсофт.Здоровье»
В «Киберсофт.Здоровье» ИИ-функции построены как вспомогательные: готовый протокол врач проверяет и подписывает сам, проверка документов работает по заданным клиникой правилам, а доступ к данным ограничивается по ролям. Система включена в реестр российского ПО (запись № 11166), работает в облаке и соответствует требованиям закона о персональных данных. Обзор всех ИИ-инструментов — на странице «Искусственный интеллект в МИС», а результаты в реальных клиниках — в кейсах про проверку протоколов и речевую аналитику.
Хотите обсудить безопасное внедрение ИИ в вашей клинике?
Закажите демонстрацию «Киберсофт.Здоровье»: покажем ИИ-инструменты, права доступа и журналы, а также ответим на вопросы о данных и ответственности.
Вопросы и ответы о рисках ИИ в клинике
Кто отвечает за ошибку ИИ в клинике?
За оказание медицинской помощи отвечает медицинская организация и врач, а не программа. ИИ не является субъектом ответственности: он остаётся инструментом, а решение и подпись принадлежат специалисту. Поэтому важно распределить роли между клиникой, врачом и поставщиком ИИ заранее: в регламенте и в договоре.
Когда ИИ-программа считается медицинским изделием?
Когда она предназначена для медицинских целей, например диагностики, лечения или мониторинга, и влияет на клинические решения. Программы для административных, бухгалтерских и справочных задач, не влияющие на клинические решения, обычно не регистрируются как медицинские изделия. Решает функциональное назначение, поэтому статус каждого инструмента нужно уточнять у поставщика и юриста.
Можно ли врачам использовать публичные чат-боты для работы с историями болезни?
Вводить персональные данные пациентов в публичные сервисы нельзя: это риск утечки врачебной тайны и нарушения закона о персональных данных. Если ИИ нужен для работы с документами, используйте решения, встроенные в МИС клиники, с понятными правилами хранения данных и ролевым доступом.
Нужно ли сообщать пациенту, что в клинике используется ИИ?
Прямого универсального требования для всех случаев нет, но прозрачность считается этичной практикой: пациент должен понимать, общается ли он с ботом и что решение принимает врач. Для записи разговоров и обработки данных нужны уведомления и согласия по закону. Формулировки согласуйте с юристом.
Какие данные ИИ может использовать в клинике?
Только те, на которые у клиники есть правовые основания, и в объёме, необходимом для задачи. Сведения о здоровье относятся к специальным категориям персональных данных, поэтому важно ограничивать доступ, вести журнал обращений и проверять, куда и как поставщик передаёт данные и использует ли их для обучения моделей.
Может ли ИИ ошибаться?
Да. ИИ может давать неточные, неполные или уверенно звучащие, но неверные ответы, а также допускать ошибки из-за смещённых данных. Поэтому ему нужен человеческий контроль, выборочный аудит и понятный порядок сообщения об ошибках.
Что такое «автоматизационное доверие» (automation bias)?
Это склонность человека слишком полагаться на подсказки программы и пропускать собственные ошибки или противоречия. В клинике с ним борются обучением врачей, показом оснований подсказки, ручным аудитом и правилом «подпись означает проверку».
С чего начать, чтобы использовать ИИ безопасно?
Начните с низкорисковых задач (запись, напоминания, отчёты, проверка оформления документов), назначьте ответственного, зафиксируйте политику использования ИИ и задайте поставщику вопросы о данных, регистрации и ответственности. Расширяйте перечень инструментов только после проверки результатов.
Статья носит информационный характер и не является юридической консультацией. Регулирование ИИ в здравоохранении быстро меняется: сверяйтесь с действующими нормативными актами и консультируйтесь с юристом.