Искусственный интеллект очень быстро внедрился во многие сферы и процессы жизнедеятельности человека, и является одной из самых актуальных тем для обсуждения на сегодняшний день. Медицинская деятельность также столкнулась с данным инструментом и стремительно развивает его в различных областях, так как ИИ-системы способны продвинуть способы лечения и диагностику на новый уровень, что позволит повысить показатели по пролеченным больным в положительной динамике. Постоянный прогресс в данной отрасли должен сопровождаться актуальным юридическим регулированием, которое должно совершенствоваться вместе с возникновением новых систем и их автономией в медицинской деятельности.
Ключевые слова: искусственный интеллект, нормативно-правовые акты, медицинская деятельность, поддержка принятия решений.
Под искусственным интеллектом понимается область информатики, которая занимается разработкой совокупности программ, которые могут имитировать интеллектуальные способности человека на основе имеющихся объемах данных для дальнейшего анализа и решения поставленных задач. Существуют также и разные форматы, в которых может развиваться искусственный интеллект, например, в виде голосового помощника, распознавание образов, аналитической системы, робототехники и медицинской диагностики. Рассмотрим применение искусственного интеллекта (далее ИИ) в медицине, так как это одна из наиболее прогрессивных сфер по использованию данного инструмента. В первую очередь, внедрение ИИ в медицинскую сферу нужно для того, чтобы повысить эффективность принятия решений и планирования, а также автоматизировать работу медицинского персонала. В последствие это приведет к повышению удовлетворённости медицинской помощи, повышению качества оказания услуг и постановки диагноза. Отдельно стоит обратить внимание, что такая технология как искусственный интеллект интегрируется в рамах национального проекта «Здравоохранение». Решение многих целей, которые были поставлены в рамках данного национального проекта, могут быть достигнуты с помощью применения ИИ, или возможно является даже одним из немногих наиболее эффективных решений. В данном национальном проекте отдельно выделяется задача, которая направленна непосредственно на разработку ИИ и его применения в медицине, это задача «Внедрение инновационных медицинских технологий, включая систему ранней диагностики и дистанционный мониторинг здоровья пациента». [4]
Также стоит отметить, что в рамках национального проекта «Продолжительная и активная жизнь», который будет действовать с 2025 года и охватит все сферы здравоохранения, начиная от первичного звена и на этапах всей системы, с учетом развития современных технологий подразумевается внедрение искусственного интеллекта для решения задач внутри данного национального проекта. Для выполнения предстоящих задач, применение искусственного интеллекта и разработка новых систем стало бы более действенным и рациональным инструментом. Например, искусственный интеллект может применяться в рамках прохождения диспансеризации для выявления заболеваний на ранних стадиях. Данная система позволит ускорить время обработки полученных данных, ставить более точные диагнозы, что в свою очередь позволит обеспечить большой поток пациентов за короткие сроки. Также при массовом внедрении и использовании данной технологи, медицинские учреждения смогут понизить себестоимость прохождения диспансеризации в рамках обязательного медицинского страхования, что повлечет за собой уменьшение выделения средств из фонда обязательного медицинского страхования и поспособствует их распределению на другие направления в рамках ОМС. [2]
Безусловно, в развитии такого направления в медицине есть свои существенные преимущества, которые оказывают эффект на качество осуществления медицинской деятельности, например, ИИ способен анализировать большой объем данных в рамках одного пациента, принимать во внимание его генетические особенности и предыдущий опыт лечения, что позволяет сократить времени для анализа и учесть все особенности связанные со здоровьем человека для дальнейшего плана лечения. Также оптимизируется работа в области диагностики МРТ, рентгеновских снимков и т. д., в таком случае применение ИИ позволяет более точно и быстро дать заключение по снимку, и как следствие оптимизирует время работы медицинского персонала и приведет к эффективному распределению рабочего ресурса.
Для анализа нормативно-правового регулирования искусственного интеллекта стоит разграничить такие термины, как «система поддержки принятия решений» и «интеллектуальная система принятия решений». В современной практике в большинстве случаев использования искусственного интеллекта, в независимости от того, в какой форме он представлен, применяется как система поддержки принятия решения. Это означает, что при постановке диагноза, обработки снимков, анализе данных и т. д., данная система дает рекомендацию врачу, который на свое усмотрение может воспользоваться данным инструментом или пройти эти этапы самостоятельно. Важной особенностью в данном случае является то, что искусственный интеллект нельзя считать независимым инструментом, который способен индивидуально принимать решения и нести ответственность. В современной медицине искусственный интеллект скорее квалифицируется как медицинское оборудование, которое способно оказать содействие в работе врача, но не исключает его участие. На данном этапе развития искусственного интеллекта также нельзя обосабливаться от мнения и решения врача. Функцией искусственного интеллекта в данном случае будет являться дополнительный анализ и альтернативное мнение по тому или иному диагнозу. То есть благодаря использованию данной системы можно минимизировать риск ошибки, связанной с человеческим фактором, а также могут быть замечены детали, которые будут являться дополнением для общего представления для врача. Относительно применения независимого искусственного интеллекта, который имеет возможность аргументировать то, или иное решение и дать анализ по какому принципу был получен результат, в данной специфики инструмент не так широко используется по ряду причин. Во-первых, искусственный интеллект как независимая диагностика появилась относительно недавно и требует больше времени использования под наблюдением специалистов для дальнейшего анализа и улучшения данного инструмента, чтобы в дальнейшем можно было использовать его автономно. Во-вторых, при данном сценарии возникает множество неурегулированных аспектов по применению искусственного интеллекта как самостоятельного диагностического центра, что также является основной из задач уже на данном этапе развития данной системы. При использовании искусственного интеллекта в такой форме необходимо дополнительное регулирования с законодательной стороны, так как существует множество аспектов, которые еще не затронуты в нормативно-правовых актах. Это различие понятий дает право применить к системе такой термин, как «искусственный интеллект», потому что именно в этом случае будут возникать нормативно-правовое основы, которые непосредственное относятся к искусственному интеллекту. [6]
В случае если в медицинской деятельности активно будет использоваться искусственный интеллект как самостоятельный инструмент для постановки диагноза и дачу дальнейших рекомендаций, тогда возникает новая форма юридической ответственности, которая в настоящее время не регулируется нормативно-правовыми актами. Существует ряд основных аспекта, которые в первую очередь стоит усовершенствовать с учетом новых технологий.
Одной из основных особенностей, которая возникает в результате внедрения ИИ в качестве отдельного инструмента, является вопрос о регулировании согласия на медицинское вмешательство. Согласно Федеральному закону от 21 ноября 2011 г. № 323 «Об основах охраны здоровья граждан в Российской Федерации» части 1 статьи 20: «необходимым предварительным условием медицинского вмешательства является дача информированного добровольного согласия гражданина или его законного представителя на медицинское вмешательство на основании предоставленной медицинским работником в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства, о его последствиях, а также о предполагаемых результатах оказания медицинской помощи». В соответствии с данной нормой при применении ИИ-системы становится вопрос формата предоставления информации о форме вмешательства, так как механизм принятия решения искусственным интеллектом очень объемный и на первоначальных этапах не до конца прозрачный. Информация должна быть изложено в достаточно доступной форме, в которой описаны процессы работы и алгоритмы, по которым работает система. Возможно, при регулировании данного аспекта допускается возможность об уведомлении формы вмешательства, то есть будет оно сделано с помощью ИИ-системы или нет. Данное условие в рамках современного законодательства является неотъемлемой части при осуществлении медицинской деятельности. Такое дополнительное согласие обеспечивает права выбора пациента на то, в какой форме и с помощью каких систем он согласен или не согласен получить медицинское вмешательство. Стоит отметить, что в современном обществе, несмотря на стремительный прогресс искусственного интеллекта, не все готовы доверится данной системе при медицинском вмешательстве, однако регулирование данного процесса на законодательном уровне, будет одним из методов решения проблемы доверия к ИИ-системам. Стоит также отметить, что согласие на вмешательства в Российской Федерации распространяется только в рамках определённых медицинских вмешательств, и только в случае использование ИИ при данных процессах стоит урегулировать данный вопрос и на законодательном уровне. Таким образом, в российском законодательстве на данный момент не регулируется вопрос о получении согласия от пациента по использованию искусственного интеллекта, а также при использовании искусственного интеллекта как вспомогательного инструмента по принятию решений, пациент не уведомляется и соответственно не дает согласие на применения данных технологий. [7]
Еще одной из задач, с которой может столкнутся медицинская деятельность при использовании искусственного интеллекта, это хранение данных и обеспечение их безопасности и полной конфиденциальности. Существует закон о медицинской тайне, что обязывает разработчиков и медицинские организации усилить контроль при использовании такого инструмента, как искусственный интеллект. На данном этапе правового развития в области искусственного интеллекта нет четких норм и требований при такой системе работы, это говорит о том, что данный вопрос необходимо определить в рамках Федерального закона от 21 ноября 2011 г. № 323 для полного понимания требований как для разработчиков, так и для поставщиков и исследователей. Для более точного понимания критериев следует оценить нормативно-правовую базу в различных регионах по регулированию данного вопроса, а также посмотреть внутренние нормативно-правовые документы крупных медицинских организаций, где могут быть установлены параметры для защиты данных, используемых и получаемых искусственным интеллектом. Данные правовые изменения не только установят базовые стандарты по использованию данного инструмента, но также укрепят отношение и доверие пациентов при применении искусственного интеллекта.
Также отдельно стоит выделить проблему ответственности причинения вреда при использовании искусственного интеллекта. В настоящее время, мы видим ИИ-систему в большей части как инструмент, который поддерживает принятия решения врача. То есть после обработки данных и вынесения заключения искусственным интеллектом, результаты не направляются напрямую пациенту, а проходят также осмотр врача, который на основе этих данных и своих собственных заключениях делает общий вывод и предоставляет итоговое заключение пациенту. С таким подходом ответственность остается однозначно на враче, но, если рассмотреть ситуацию, когда искусственный интеллект — это автономный инструмент, который полностью заменяет функционал врача и способен самостоятельно выдавать заключения и имеет возможность проводить операции, в таком случае точно не определены ответственные лица. Медицинское вмешательство всегда связанные с определенными рисками, поэтому особую значимость имеет вопрос по разработки регламентации способов привлечения ответственности за действия ИИ-системы. Причинения вреда искусственным интеллектом обладает своей спецификой и индивидуальными причина-следственными связями. Тогда возникает вопрос, кто будет являться ответственным лицом, и на данном этапе развития системы, одним из немногих решений может быть привлечение к юридической ответственности физическое число, которое контролирует данную систему. [5]
Следует обратить внимание, что существует две ситуации, по которым искусственный интеллект может причинить вред здоровью. Первая возникает, если ИИ-система прошла все необходимые проверки, тогда ответственность возникает у надзорных органов в медицинской сфере, которые допустили систему до работы. Если система не прошла контроль качества, тогда ответственность полностью накладывается на изготовителя и организацию, которая использует и распространяет в работу инструмент не прошедшие все этапы проверки. Со временем также необходимо в полном объеме выработать стандарты по распределению зоны ответственности в зависимости от кого на каком этапе применения алгоритма была допущена ошибка, которая повлекла за собой причинения вреда здоровью. [1]
Также отдельно стоит рассмотреть непосредственно субъекты ответственности. В первую очередь к ним будут относится организации, которые решили применять данную систему и возможно могли участвовать в ее разработке, так как данная организация не только обязуется предоставлять услуги, отвечающие требованиям, но и берет ответственность за обучение сотрудников для работы с ИИ-системами. В таком случае возникает один из методов, который поможет решить вопрос возмещения ущерба при причинении вреда здоровья. Организация сможет создать резерв денежных средств, которые при возникновении данной ситуации, могут быть направлены для компенсации причинённого вреда. Данный порядок также в настоящее время не регулируется законодательством, но имеет возможность появиться в скором будущем, так как развитие нормативно-правовой базы должно быть таким же прогрессивным, как и развитие искусственного интеллекта в медицине. [3]
Заключение
Текущий статус искусственного интеллекта в работе медицинской организации определяется как система поддержки принятия решений. Все клинические решения, принятые данным инструментом, на следующем этапе используются врачом, который автоматически становится юридически ответственным лицом за дальнейшие действия относительно пациента. Таким образом, нет необходимости выявлять и регулировать зоны ответственности, пока система является промежуточным звеном в заключении врача, и привлекать в данном случае другие субъекты не имеет рациональных обоснований. Однако стоит отметить, что использование ИИ-систем развивается достаточно динамично и в ближайшем будущем на практике можно будет увидеть данный инструмент как автономную систему, которая способна делать заключения и самостоятельно проводить исследования без участия дополнительных лиц. В таком случае очень важно своевременно, помимо внедрения самого искусственного интеллекта, внедрять нормативно-правовую базу, которая будет способна защитить все аспекты, которые может затронуть искусственный интеллект. К ним относится конфиденциальность данных, определение ответственности при возникновении некорректной работы системы, и проблемы, возникающие с реализацией уже имеющихся прав, например, выдача согласия на медицинское вмешательство. Данные вопросы являются наиболее важными и актуальными не только в ближайшем будущем, но и в настоящее время. Так как искусственный интеллект развивается не только в медицинской сфере, но и в других сферах жизни, появляется возможность создания цифрового кодекса, где будут урегулированы все вопросы относительно создания искусственного интеллекта и формы его контроля, а также прописываться нормативно-правовые акты, которые появились в связи с прогрессом в области искусственного интеллекта. Также стоит отметить, что одним из первых документов, которого может коснуться внесение изменений, возникших при переходе системы искусственным интеллектом в независимый статус, может быть Федеральный закон от 21 ноября 2011 г. № 323 «Об основах охраны здоровья граждан в Российской Федерации». В статью 20 может быть внесено уточнение о даче согласия медицинского вмешательства с использованием ИИ-систем, или в статье 13 возможна конкретизация случаев утечки конфиденциальных данных пациентов при использовании искусственного интеллекта, и то, что данные ситуации будет приравниваться к врачебной тайне. В заключении стоит отметить, что из-за стремительного прогресса искусственного интеллекта нужно отслеживать изменения и внедрение новых технологий и своевременно регулировать законодательную базу для предотвращения спорных ситуаций, а также для того, чтобы все участники данного процесса были юридически защищены.
Литература:
- ГОСТ Р 59921.0— 2022 Система искусственного интеллекта в клинический медицине. Часть 4. Оценка и контроль эксплуатационных параметров // Электронный фонд правовых и нормативно-технических документов. — [Электронный ресурс] — URL: https://docs.cntd.ru/document/1200193727
- «Единая Россия» сформировала предложения для Правительства в новый нацпроект «Продолжительная и активная жизнь» // Единая Россия. — [Электронный ресурс] — URL: https://er.ru/activity/news/edinaya-rossiya-sformirovala-predlozheniya-dlya-pravitelstva-v-novyj-nacproekt-prodolzhitelnaya-i-aktivnaya-zhizn?ysclid=lxj0hekoja503295318
- Имамеева Р. Д. Риски создания и функционирования искусственного интеллекта в медицине // Вестник Московского университета имени С. Ю. Витте. Серия 2. Юридические науки. 2021. № 1 (27) — С. 33–40 — [Электронный ресурс] — URL: https://vestnik-muiv.ru/upload/iblock/6b1/6b1e33c32988605814494461df3be174.pdf?ysclid=lxizzbn9go94787793
- Министерство здравоохранении Российской Федерации, официальный сат, раздел «Национальные проекты «Здравоохранение» и «Демография»». — [Электронный ресурс] — URL: https://minzdrav.gov.ru/poleznye-resursy/natsproektzdravoohranenie
- Никитенко С. В. Концепции деликатной ответственности за вред, причинённый системами искусственного интеллекта // Вестник экономического правосудия Российской Федерации. 2023. № 1. С. 158
- Правовое регулирование вопросов, связанных с применением технологий искусственного интеллекта в Российской Федерации (по состоянию на 20.04.2024) // Центральный научно-исследовательский институт организации и информатизации здравоохранения. — [Электронный ресурс] — URL: https://mednet.ru/images/news-2/ %D0 %9F %D1 %80 %D0 %B0 %D0 %B2 %D0 %BE %D0 %B2 %D0 %BE %D0 %B5_ %D1 %80 %D0 %B5 %D0 %B3 %D1 %83 %D0 %BB %D0 %B8 %D1 %80 %D0 %BE %D0 %B2 %D0 %B0 %D0 %BD %D0 %B8 %D0 %B5_ %D0 %98 %D0 %98.pdf
- Федеральный закон «Об основах охраны здоровья граждан в Российской Федерации» от 21.11.2011 N 323-ФЗ (последняя редакция) // КонсультантПлюс — [Электронный ресурс] –URL: https://www.consultant.ru/edu/student/study/links/?ysclid=lxj1kxx82w646150998
