К вопросу применения искусственного интеллекта в деятельности уголовно-исполнительной системы Российской Федерации: правовые риски и алгоритмическая прозрачность

• ЦАРЬКОВА Евгения Геннадьевнаведущий научный сотрудник ФКУ НИИ ФСИН России, кандидат физико-математических наукuniversity69@mail.ru

Статья посвящена анализу правовых коллизий, возникающих при внедрении технологий искусственного интеллекта в деятельность уголовно-исполнительной системы Российской Федерации (УИС). На основе рассмотрения положений Концепции развития уголовно-исполнительной системы на период до 2030 года и Национальной стратегии развития искусственного интеллекта (ИИ) рассматривается проблема несоответствия темпов цифровой трансформации и состояния современной нормативно-правовой базы. Исследуются вопросы юридической природы алгоритмических решений, допустимости их использования при применении дисциплинарных взысканий, распределения ответственности за ошибки автоматизированных систем, а также риски нарушения презумпции невиновности и человеческого достоинства осужденных. Автором обосновывается трехуровневая модель правового регулирования, устанавливающая вспомогательный статус алгоритмических решений с учетом установления обязательности человеческого контроля при принятии решений с использованием ИИ. Предложенный подход служит сохранению процессуальных гарантий прав граждан в условиях цифровизации российской пенитенциарной системы.

Ключевые слова: искусственный интеллект, уголовно-исполнительная система Российской Федерации, алгоритмическая прозрачность, персональные данные, объяснимый ИИ, алгоритмическая дискриминация

Цифровая трансформация уг оловно-исполнительной системы Российской Федерации закреплена в Концепции, утвержденной распоряжением Правительства Российской Федерации от 29 апреля 2021 г. № 1138-р. В разделе XIV указанного документа предусмотрено «создание и внедрение систем сбора и обработки данных и принятия решений на основе результатов применения искусственного интеллекта».

Национальная стратегия развития искусственного интеллекта до 2030 года, утвержденная Указом Президента РФ от 10 октября 2019 г. № 490, определяет ИИ как «комплекс технологических решений, имитирующих когнитивные функции человека». Однако темпы институционального внедрения технологий опережают развитие правовых механизмов их контроля.

В научных публикациях последних лет акцент сделан преимущественно на технологических перспективах. Так в [1] анализируется зарубежный опыт внедрения видеоаналитики и распознавания лиц в исправительных учреждениях Индии, Китая, Нидерландов, Великобритании и США. В работе отмечается возможность автоматического выявления нарушений режима, фиксации запрещенных предметов и даже автоматического наложения санкций в рамках экспериментального проекта. В [2] авторы подчеркивают потенциал ИИ для автоматизации анализа ходатайств и подготовки характеристик осужденных.

В [3] рассматриваются вопросы цифровых технологий в образовательной подготовке сотрудников УИС.

Между тем нормативные ограничения таких решений в литературе практически не анализируются. Статья 21 Конституции Российской Федерации закрепляет принцип уважения достоинства личности. Применение алгоритмического контроля, предполагающего тотальное видеонаблюдение, распознавание лиц и анализ поведенческих паттернов, создает риск трансформации режима исполнения наказания в режим цифрового тотального надзора. Даже в условиях изоляции от общества осужденный сохраняет статус носителя конституционных прав, что неоднократно подтверждалось практикой Европейского суда по правам человека по делам о содержании под стражей. Правовой вакуум проявляется здесь прежде всего в отсутствии в УИК РФ норм, определяющих статус решений, сформированных алгоритмами искусственного интеллекта.

Статья 115 УИК РФ устанавливает, что дисциплинарные взыскания применяются постановлением начальника учреждения либо уполномоченного должностного лица. Применение взысканий носит дискреционный характер (усмотрение администрации) и предполагает оценку обстоятельств, личности осужденного и степени его вины. Автоматическое наложение штрафных санкций системой видеонаблюдения, указанное в [1, с. 242], вступает в противоречие с указанной конструкцией. Алгоритмический вывод может служить доказательственным материалом, но не самостоятельным актом правоприменения.

Федеральный закон от 27.07.2006 г. № 152- ФЗ «О персональных данных» регулирует обработку персональной информации, включая биометрические данные. В условиях исправительных учреждений обработка таких данных приобретает принудительный характер. Отсутствие специальных гарантий для осужденных создает риск чрезмерного вмешательства в частную жизнь. При этом Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» не содержит положений о правовом статусе алгоритмических решений, принимаемых в сфере исполнения наказаний.

Особую проблему представляет подход «черного ящика» при построении алгоритмов ИИ. При этом если решение о переводе на строгие условия содержания или о применении взыскания опирается на вывод системы ситуационной видеоаналитики, осужденный должен иметь возможность обжаловать это решение. Однако отсутствие требований к объяснимости алгоритма лишает его такой возможности. Статья 10 УИК РФ закрепляет право осужденных на обращение и обжалование действий администрации.

Реализация этого права невозможна без доступа к логике принятия алгоритмического решения. Далее, прогнозирование поведения осужденных на основе анализа больших данных ставит под сомнение принцип презумпции невиновности.

Вероятностная оценка риска повторного нарушения режима не может подменять юридически значимый факт совершения проступка. Использование биометрических и поведенческих моделей способно порождать алгоритмическую дискриминацию в формах систематического завышения уровня риска для определенных категорий лиц. Международный опыт свидетельствует о признании высоких рисков таких систем. Так, Регламент Европейского союза об искусственном интеллекте относит системы биометрической идентификации и оценки риска к категории «высокого риска» и требует обязательного человеческого контроля и оценки воздействия на права человека [4, с. 183], а Министерство юстиции США в рекомендациях по применению алгоритмических инструментов в правоохранительной деятельности подчеркивает необходимость прозрачности и недопустимость замещения человека в принятии окончательного решения [5, с. 190]. Российская правовая система не может механически заимствовать зарубежные модели, однако анализ зарубежного опыта подтверждает необходимость нормативного закрепления принципа «human in the loop», выражающегося в требовании обязательного участия человека в финальном решении.

С учетом вышеизложенного может быть рассмотрена следующая трехуровневая модель регулирования, включающая конституционный, законодательный и подзаконный уровни.

На конституционном уровне целесообразно закрепить категорию «цифровых прав осужденных», включающую право на алгоритмическую прозрачность и запрет полностью автоматизированных решений, влекущих ухудшение правового положения.

На законодательном уровне требуется внесение изменений в УИК РФ, включая введение новой главы «Применение технологий искусственного интеллекта в уголовно-исполнительной системе Российской Федерации». В статьях 113- 115 УИК РФ целесообразно закрепить положение о том, что данные автоматизированных систем носят вспомогательный характер и не могут являться единственным основанием для применения дисциплинарного взыскания.

На подзаконном уровне необходимо разработать стандарты алгоритмической прозрачности, процедуры обязательного алгоритмического аудита и этический кодекс разработчиков решений ИИ для УИС. Такой кодекс должен предусматривать запрет на создание систем, допускающих автономное применение санкций.

Человекоцентричный подход к внедрению ИИ предполагает сохранение баланса между задачами безопасности и соблюдением прав человека. Цифровизация УИС не должна трансформировать исполнение наказания в режим технологической деперсонализации [6, с. 53]. Алгоритм может усиливать эффективность контроля, но не подменять субъекта публичной власти.

Дальнейшее развитие искусственного интеллекта в уголовно-исполнительной системе Российской Федерации видится в соблюдении условий нормативного закрепления его вспомогательного статуса, прозрачности алгоритмов и четкого распределения юридической ответственности. Отсутствие таких гарантий создает риск противоречия ст. 21 Конституции РФ.

Список литературы

1. Ковалев С.Д. Перспективы использования искусственного интеллекта в исправительных учреждениях ФСИН России // Аграрное и земельное право. 2025, № 1. С. 241-243.
2. Пекарева В.В., Фроловская Ю.И. Искусственный интеллект в уголовно-исполнительной системе // Право и государство: теория и практика. 2024, № 10. С. 329-331.
3. Царькова Е.Г. Аспекты применения технологий искусственного интеллекта в профессиональном образовании сотрудников уголовно-исполнительной системы Российской Федерации // Образование и право. 2024, №5. С. 592-594.
4. Забайкалов А.П. О регламенте Европейского Союза об искусственном интеллекте // Духовно-нравственные ценности как основа технологического суверенитета России: Материалы XVIII Всероссийской научно-практической конференции, Липецк, 24 апреля 2024 г. – Воронеж: Наука-Юнипресс, 2024. С. 181-185.
5. Помогалова Ю.В. Зарубежный опыт использования технологии искусственного интеллекта в контексте пенитенциарной безопасности // Вестник Воронежского института ФСИН России. 2024, № 3. С. 188-194.
6. Царькова Е.Г., Кочкина О.В. Применение искусственного интеллекта при обработке данных в научной и образовательной деятельности Федеральной службы исполнения наказаний // Ведомости уголовно-исполнительной системы. 2022, № 9(244). С. 51-59.

Скачать