Правовые принципы регулирования искусственного интеллекта в пенитенциарной медицине России

• ЦАРЬКОВА Евгения Геннадьевнаведущий научный сотрудник ФКУ НИИ ФСИН России, кандидат физико-математических наукuniversity69@mail.ru

Статья посвящена анализу правовых основ и проблем применения технологий искусственного интеллекта (ИИ) в оказании медицинской помощи осужденным, находящихся в учреждениях уголовно-исполнительной системы Российской Федерации (УИС). Рассматриваются специфика пенитенциарной медицины в условиях ограниченной свободы и повышенного административного контроля, ключевые направления использования ИИ в медицинской деятельности УИС, а также правовые ограничения, связанные со статусом осужденных и повышенными требованиями к защите медицинских данных. Особое внимание уделено вопросам распределения ответственности за алгоритмические ошибки систем ИИ, рискам алгоритмической дискриминации осужденных и правовым принципам применения алгоритмов искусственного интеллекта в российской пенитенциарной медицине.

Ключевые слова: уголовно-исполнительная система Российской Федерации, искусственный интеллект, медицинская деятельность, цифровая трансформация, информационные технологии, система поддержки принятия врачебных решений

Развитие искусственного интеллекта (ИИ) как одной из ключевых технологий «четвёртой промышленной революции» трансформирует отношения в сфере здравоохранения, в том числе в сегменте медицинской помощи лицам, находящимся в местах лишения свободы. В настоящее время ИИ рассматривается правом плане одновременно как высокоэффективный инструмент повышения доступности и качества медицинской помощи и как источник значимых рисков для прав человека, требующих установления специального правового режима [1]. Применительно к пенитенциарной медицине эта двойственность обостряется особым правовым стату- = ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ПРАВО = сом осужденных, обусловленным ограничением их свободы, высокой степенью зависимости от администрации учреждений и повышенной уязвимостью в сфере охраны здоровья.

Актуальность исследования правовых принципов регулирования ИИ именно в пенитенциарной медицине обусловлена необходимостью адаптации выработанных в международно‑правовой и национальной доктрине подходов к особым условиям уголовно‑исполнительной системы (УИС), где медицинское вмешательство неизбежно пересекается с задачами обеспечения режима и безопасности. В литературе сегодня обозначены базовые принципы правового регулирования ИИ в медицине, включая информированное согласие, безопасное использование, управление рисками и прозрачность, однако их содержание не раскрывается применительно к пенитенциарным отношениям, что образует научный и нормативный пробел [2]. Цель работы заключается в формулировании и теоретико‑правовом обосновании системы правовых принципов регулирования ИИ в пенитенциарной медицине России на основе анализа положений о правовом статусе ИИ медицинского назначения и правовых принципах его использования.

Искусственный интеллект медицинского назначения определяется через его функциональные свойства: автономность, способность к обучению, обработке больших массивов данных и принятию решений, не полностью детерминированных заранее заданной программой. Эти характеристики, с одной стороны, расширяют возможности медицины (ускорение диагностики, индивидуализация лечения, прогнозирование рисков), с другой – порождают риск непредсказуемости поведения алгоритмов и угрозу причинения вреда жизни и здоровью пациента. Необходим специальный правовой режим ИИ с этими свойствами, поскольку существующие алгоритмы медицинского назначения следует рассматривать как объекты права (компьютерные программы и медицинские изделия), требующие усиленного человеческого контроля.

Применительно к пенитенциарной медицине данные свойства ИИ сочетаются с особенностями правового статуса осужденного, который ограничен в свободе передвижения, выборе медицинской организации и врача, а также в возможностях получения независимой информации о применяемых технологиях. В таких условиях любая ошибка или злоупотребление при использовании ИИ усиливает неравенство между пациентом и системой, а следовательно, выбор и интерпретация правовых принципов регулирования ИИ приобретают не только медицинско‑правовое, но и уголовно‑исполнительное значение.

С учетом международных и национальных актов можем выделить четыре ключевых принципа, потенциально способных стать ядром специального режима регулирования ИИ в медицине: прозрачность, управление рисками, информированное согласие и безопасное использование [3]. Эти принципы сформулированы как общие требования к разработке, внедрению и эксплуатации ИИ, однако их содержание необходимо уточнить с учетом того, что в пенитенциарной медицине медицинское вмешательство и сбор данных происходят в условиях принудительной изоляции и институционального контроля.

Принцип информированного согласия выражает автономию человека, принимающего добровольное и осознанное решение о взаимодействии с ИИ, основанное на достаточной информации о технологии, ее рисках и возможных последствиях. Следует подчеркнуть, что цифровизация медицины и техническая сложность алгоритмов осложняют реализацию этого принципа, поскольку механизмы принятия решений ИИ зачастую непрозрачны, а пациенту трудно оценить характер рисков. Отметим при этом отсутствие в действующем праве обязанности информировать пациента о самом факте использования интеллектуальных систем при медицинском вмешательстве, что уже в общей медицине рассматривается как пробел регулирования. В пенитенциарной медицине данный пробел приобретает критический характер: осужденный фактически не может выбирать между альтернативными медицинскими организациями, а отказ от использования ИИ может быть воспринят как отказ от помощи, создавая давление на волеизъявление пациента. Следовательно, реальная добровольность согласия оказывается под вопросом даже при формальном соблюдении процедур. С учетом этого принцип информированного согласия в пенитенциарной медицине должен включать дополнительные элементы:

обязательное уведомление осужденного о применении ИИ и его функциональной роли; разъяснение возможных последствий обработки данных и алгоритмической поддержки решений в доступной форме; запрет негативных последствий для осужденного при отказе от использования ИИ, если это не делает объективно невозможным оказание медицинской помощи.

По мнению автора, представляется необходимым нормативное закрепление повышенного стандарта информирования для лиц, находящихся в местах лишения свободы, включающего участие защитника или иного доверенного лица при обсуждении особо значимых медицинских вмешательств с использованием ИИ (например, при принятии решений, способных повлиять на дальнейший режим содержания в связи с состоянием здоровья) [4]. Тем самым принцип информированного согласия получает пенитенциарно ‑специфическое содержание, ориентированное на компенсацию институциональной асимметрии между осужденным и администрацией.

Принцип безопасного использования рассматривается как требование принятия специальных международных, национальных и отраслевых стандартов в сфере разработки, ввода в гражданский оборот и эксплуатации ИИ‑систем, включая технические и клинические испытания, публичный контроль качества, обеспечение информационной безопасности и справедливое распределение ответственности. Этот принцип предполагает не только защиту пациента от непосредственного вреда, причиненного ошибкой алгоритма, но и защищенность самих ИИ‑систем от несанкционированного вмешательства.

В учреждениях УИС безопасность использования ИИ имеет многомерный характер. С одной стороны, медицинские ИИ‑системы должны отвечать общим стандартам безопасности медицинских изделий, что предполагает прохождение испытаний, мониторинг побочных эффектов и механизм отзыва небезопасных решений. С другой стороны, в условиях пенитенциарного режима возникает дополнительный слой безопасности, связанный с возможностью использования ИИ в целях оперативно‑режимного контроля, отличных от медицинских целей (например, для прогнозирования «опасности» осужденного на основе медицинских и поведенческих данных).

С учетом установки на приоритет безопасности человека, а не технологии, принцип безопасного использования в пенитенциарной медицине должен быть интерпретирован как ограничительный по отношению к возможностям администрации использовать медицинский ИИ для задач, не связанных с охраной здоровья. Авторским предложением является включение в содержание принципа прямого запрета на эксплуатацию медицинских ИИ‑систем и данных, ими обработанных, для целей оперативно‑режимной деятельности без отдельного судебного или законодательного решения, а также закрепление обязанности документировать любые нестандартные режимы использования ИИ с возможностью последующей проверки и оспаривания.

Принцип управления рисками рассматривается как совокупность требований по оценке, минимизации и контролю рисков, связанных с безопасностью пациента, защищенностью ИИ‑систем и последствиями их использования. Этот принцип включает следующие направления: мониторинг возможных угроз охраняемым правам и законным интересам; оценку защищенности самих алгоритмов; минимизацию обнаруженных рисков; управление рисками на основе согласия субъекта. Следует особо подчеркнуть необходимость распространения управления рисками на этап разработки ИИ, чтобы не допустить появления алгоритмов, изначально создающих необоснованный риск нарушения прав человека. В пенитенциарной медицине управление рисками должно учитывать, что осужденные являются уязвимой группой, в отношении которой любое «оптимизационное» решение, принятое на основе ИИ, затрагивает не только медицинский, но и уголовно‑исполнительный статус.

Например, алгоритмический прогноз высокого риска инфекционного заболевания может использоваться для усиления ограничений, изоляции или иных мер, влияющих на режим содержания. В таких условиях недостаточно абстрактной оценки рисков; требуется их дифференциация по параметру «медицинские - немедицинские» последствия и установление приоритета предотвращения рисков для прав осужденного над рисками для институциональной эффективности системы.

Расширение принципа управления рисками применительно к пенитенциарной медицине предполагает следующие мероприятия: введение обязательной правовой экспертизы проектов внедрения ИИ в учреждениях УИС, оценивающей влияние на права осужденных; закрепление обязанности периодического пересмотра алгоритмов с учетом данных о возможной дискриминации или системных ошибках; установление процессуальных гарантий участия осужденных и их представителей в обсуждении типовых сценариев использования ИИ, затрагивающих режим содержания. Тем самым управление рисками трансформируется из узко технической функции в юридически значимую процедуру защиты уязвимой группы.

Принцип прозрачности направлен на обеспечение объяснимости ИИ и реализуется в трех измерениях: организационном (доступ к информации и участие в принятии решений), техническом (доступ к исходному коду или его эквивалентам, характеризующим работу системы) и содержательном (полнота и доступность информации об алгоритме и его результатах). Предлагается усиливать прозрачность через встроенные функции формирования отчетов о работе алгоритма, адаптированных под квалификацию пользователя, а также через предоставление информации о показателях метрик качества (например, ROC-AUC). В медицинской деятельности учреждений УИС реализация принципа прозрачности сталкивается с двойной закрытостью: закрытостью алгоритмических технологий и закрытостью самой уголовно‑исполнительной системы. Осу - жденный, как правило, не имеет доступа ни к информации о логике работы ИИ, ни к внешним экспертам, способным оценить корректность алгоритмических рекомендаций; кроме того, внутренние регламенты учреждений часто ограничивают доступ к документации, связанной с режимом и безопасностью. На этом фоне формируется «цифровой профиль» осужденного, включающий результаты обработки медицинских и иных данных ИИ, но остающийся непрозрачным для самого лица. Концептуальным уточнением принципа прозрачности является введение категории «цифрового профиля» (или «цифрового двойника») осужденного как самостоятельного объекта регулирования, по отношению к которому должны действовать специальные правила доступа и корректировки. Применительно к пенитенциарной медицине принцип прозрачности должен гарантировать следующие факторы:

право осужденного и его защитника на получение информации о применении ИИ, об общих критериях и видах данных, используемых алгоритмами; доступ к результатам алгоритмических оценок, имеющих значение для медицинских и режимных решений; право требовать разъяснения медицинским работником оснований принятого решения в сопоставлении с рекомендациями ИИ. Вместе с тем доступ к исходному коду или к деталям архитектуры алгоритма может быть ограничен по соображениям безопасности и охраны коммерческой тайны, что требует балансировки внутри самого принципа.

Таким образом, в ходе проведенного исследования выделены правовые принципы регулирования искусственного интеллекта, которые могут быть использованы при создании основы специального режима использования ИИ в пенитенциарной медицине, однако требуют существенной адаптации к особенностям статуса осужденных и закрытого характера УИС. Научная новизна авторского подхода состоит в перенесении принципов регулирования ИИ в медицине в плоскость пенитенциарной медицины и в формулировании их пенитенциарно‑специфического содержания, ориентированного на компенсацию институциональной асимметрии и защиту уязвимой группы осужденных. Введенный концепт «цифрового профиля осужденного» позволяет по‑новому обозначить объект правовой охраны и наметить направления дальнейшего совершенствования законодательства об охране здоровья, об информации и персональных данных, а также уголовно ‑исполнительного законодательства.

Список литературы

1. Голованова Н.А., Гравина А.А., Зайцев О.А. Уголовно-юрисдикционная деятельность в условиях цифровизации: монография. М.: ИЗиСП, КОНТРАКТ, 2019. 212 с.
2. Минбалеев А.В. Регулирование использования искусственного интеллекта в России // Информационное право. 2020. № 1. С. 36-39.
3. Пальянова Н.В. Использование искусственного интеллекта в сфере Legal Tech: современные возможности и перспективы // Социально-экономическое развитие и качество правовой среды: Труды VIII Моск. юрид. форума, XIX Междунар. науч.-прак. конф. Ч. 2. М.: МГЮА, 2021 С. 260-267.
4. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.

Скачать