Этические проблемы использования нейротехнологий в судебной экспертизе

Развитие нейротехнологий, в том числе с использованием искусственного интеллекта, бросает не только технологические вызовы, но также и ставит этические вопросы перед судебной экспертизой. При этом этика имеет конкретное воплощение в организационных вопросах и требованиям к компетенции судебного эксперта.

Предмет статьи касается разработки нейросетей для целей судебной экспертизы и использования нейротехнологий. В первом случае необходим сбор объектов для базы данных, на основе которой следует проводить машинное обучение. Часть из этих данных может напрямую относиться к персональным данным (образцы звучащей речи), часть может иметь потенциал для использования в противоправных целях (образцы подписей, почерка). Однако в рамках судебной экспертизы порядок использования подобных образцов и их отбора для создания баз данных фактически не регулируется. То же самое касается и нейротехнологий, например, методы нейровизуализации: функциональная магнитно-резонансная томография – фМРТ или электроэнцефалография – ЭЭГ. Их использование означает получение предельно чувствительной информации: когнитивно значимая информация, которая впоследствии может быть использована, в том числе манипулятивных техниках, например, нейромаркетинга. Проблема заключается в том, что судебный эксперт получает полный доступ к таким данным без получения согласия лица и не уведомляя его о возможных рисках. Кроме того, для судебных экспертов и судебно-экспертных организаций не предусмотрено каких-либо требований в отношении обеспечения сохранности таких данных и их защиты, т.к. доступ к ним эксперт получает в судебной порядке. Тем не менее, работа с такими данными сопряжена со значительными рисками.

Наиболее подробный анализ возможных рисков представлен в рекомендациях ЮНЕСКО об этике искусственного интеллекта (далее – Рекомендации) [1]. Стоить отменить, что данный документ посвящен анализу искусственного интеллекта (далее ИИ), однако в данном документе указывается, что при его разработке не ставилось цели дать единое определение рассматриваемой технологией, но выделяется ключевые для этических целей аспекты: способность обрабатывать данные и информацию таким образом, который напоминает интеллектуальное поведение и, как правило, включает в себя аспекты рассуждения, обучения, восприятия, прогнозирования, планирования или управления. При этом следует понимать, что такой аспект, как обучение, в обязательном порядке должен учитывать необходимость формирования баз данных, которые для него необходимы. Кроме того, Рекомендации охватывают весь жизненный цикл технологий ИИ, исходя из чего можно прослеживать применение ИИ уже в нейротехнологиях или его использование в их разработке, или использование нейротехнологий для получения данных, на основе которых происходит машинное обучение. В связи с этим нами будут учитываться данные технологии и в отношении рисков, связанных с нейротехнологиями.

Как уже было сказано, этические аспекты, подлежащие рассмотрению при анализе рисков, связанных с нейротехнологиями должны учитывать все этапы их жизненного цикла: предварительные исследования, проектирования и разработки до внедрения и использования, включая техническое обслуживание, эксплуатацию, торговлю, финансирование, мониторинг и оценку, валидацию, прекращение использования, разборку и вывод из эксплуатации. Кроме того, субъектами нейротехноогического функционирования можно считать любого участника, задействованного хотя бы на одном этапе жизненного цикла системы ИИ, и это может относиться как к физическим, так и к юридическим лицам, таким как исследователи, программисты, инженеры, специалисты по обработке данных, конечные пользователи, коммерческие предприятия, университеты, а также государственные и частные организации и другие.

Нейросетевые технологии порождают новые типы этических проблем, которые включают, помимо прочего, их влияние на принятие решений, занятость и трудовые отношения, социальное взаимодействие, здравоохранение, образование, СМИ, доступ к информации, цифровое неравенство, персональные данные и защиту прав потребителей, окружающую среду, демократию, верховенство права, безопасность и правоохранительную деятельность, возможность двойного доступа, а также права человека и основные свободы, включая свободу выражения мнения, неприкосновенность частной жизни и отсутствие дискриминации дискриминацию.

Кроме того, как отмечено в Рекомендациях, новые этические проблемы возникают из‑за потенциальной способности нейросетевых алгоритмов воспроизводить и усиливать существующие предрассудки, тем самым усугубляя уже существующие формы дискриминации, предубеждений и стереотипов. В связи с этим нейросетевые технологии приобретают особую роль в развитии человеческого общества, а также во взаимоотношениях человека с окружающей средой и экосистемами. Таким образом, создается новый контекст для взросления детей и молодежи, развития понимания мира и самих себя, критического осмысления СМИ и информации, а также обучения принятию решений. Отсюда возникает риск, нарушения системы личностного опыта и самостоятельности человека, вызывая дополнительные опасения, в частности, по поводу самопонимания человека, социального, культурного и экологического взаимодействия, автономии, самостоятельности, ценности и достоинства.

Если рассмотреть содержание Рекомендаций, то можно выделить следующие риски:

Риски нарушения прав человека, в частности права на неприкосновенность частной жизни.

Риски безопасности в отношении доступа к базам данных и обеспечения конфиденциальности.

Риски отсутствия объяснимости и прозрачности и как следствие риски для осознанного использования нейросетевых технологий.

Непосредственно с правами человека также связана проблема внедрения нейротехнологий в правовую деятельность. В первую очередь здесь стоит упомянуть возможности нейробиологических доказательствах. В упрощенном виде речь идет о сведениях, получаемых при помощи полиграфа. Здесь стоит отметить, что даже те юрисдикции, которые ограничивают коммерческое использование нейротехнологий, оставляют такую возможность для судебной экспертизы [4]. Таким образом область правоприменения является более открытой, чем коммерческая сфера. Это может быть допустимо только при наличии соответствующих нормативов. Некоторыми авторами отмечаются возможности использования получаемой через нейротехнологии информации, в том числе путем визуализации деятельности мозга, принимать правовые решения, например, о вероятности рецидива [5]. Очевидно, подобные дискуссии указывают на наличие риска отклонения от классического понимания правовой ответственности, которая может наступать только за содеянное или осознанно планируемое, но не за потенциальную угрозу. Также применение нейротехнологий в формате анализа активности головного мозга в уголовном судопроизводстве может означать нарушение права не свидетельствовать против себя. В целом нужно учитывать, что в отношении передовых технологий при их использовании для получения доказательств может снижаться уровень критического отношения относительно других доказательств ввиду их кажущейся повышенной объективности [6, С. 40].

По результатам исследования, проведенного ООН и Фондом «Нейроправо», был подготовлен отчет «Пробелы международного законодательства по защите прав человека в эпоху нейротехнологий». Содержание нейроправ по версии авторов доклада включает: (1) право на ментальную идентичность или «самоопределение», (2) право на свободу действий или «свободу воли», (3) право на неприкосновенность сознания, (4) право на справедливый доступ к технологиям усиления умственных возможностей, и (5) право на защиту от алгоритмической предвзятости — в случаях, когда нейротехнологии сочетаются с искусственным интеллектом [7, С. 40].

В связи с вышеуказанными проблемами актуально развитие концепции «нейроправа». На данный момент у нейроправ нет конкретного определения. Нам близка позиция, в соответствии с которой нейроправа не заменяет и не создают новых основополагающих прав человека, но уточняют их, фиксируя изменения в современном общество с учетом внедрения новых технологий [8]. Эти права включают в себя право на самоидентичность, психологическую конфиденциальность и индивидуальность [12, С. 714]. Однако на данный момент вопрос о самостоятельном характере нейроправ остается дискуссионным. Целью их выделения является попытка этико-правовой регламентации ментальных процессов, включающих процессы физиологии и обработки информации человеческим мозгом, и на этой основе выработки надлежащей адаптивной интерпретации прав человека в свете новейших технологий [15, С. 106]. В связи с этим также следует учитывать развитие нейроэтики как отдельного направления биоэтики [11, С. 131]. Например, развиваются идеи биоэтического конституционализма, направленного на создание правовых основ жизнедеятельности и биобезопасности [14, С. 33]. Говоря о концепции биоэтического конституционализма, авторы указывают, что в ней в том числе будут рассматриваться нормативно-правовые и этические аспекты формирования и реализации государственной политики в сфере биоинформатики и сохранности биоданных [14, С. 38].

В первую очередь, следует обратить внимание на проблему правового регулирования технологий, которые уже значительно влияют на общественные процессы и непосредственно влияют на возможность обеспечения базовых прав человека. В связи с этим необходимо устранение правовой фрагментарности: создание единого законодательства в отношении нейротехнологий [16].

Таким образом, можно утверждать, что работа с биоданными требует установления определенных ограничений. В противном случае, в будущем бесконтрольное использование таких данных может привести, во‑первых, к нарушению прав граждан, во‑вторых, в следствие этого к поступлению претензий к судебным экспертам, в том числе в судебном порядке ввиду нарушения требований конфиденциальности и нарушения правил обращения с персональными данными. В случае таких претензий может возникнуть резкое ужесточение правил, которое повлечет срыв разработок с использованием нейросетей для судебно-экспертной деятельности. Для предотвращения этого, следует заранее выработать правила для работы с данными, которые отбираются у физических лиц. С учетом того, что часть из них носит непосредственно биологический характер (образцы крови, ДНК и т.п.) представляется логичным обратиться к требованиям, действующим в медицинской практике. Это с особенно актуально с учетом того, что в сфере клинической медицины уже действует более ста стандартов, регулирующих использование технологий искусственного интеллекта.

Например, ГОСТ Р 71484.2-2024 (ИСО/МЭК 5259-2:2024) «Искусственный интеллект. Качество данных для аналитики и машинного обучения. Часть 2. Показатели качества данных» приводит характеристики качества данных, которые организация должна документировать, с тем чтобы подтверждать корректность машинного обучения [2]. Еще одним базовым стандартом является ГОСТ Р 71737-2024 «Системы искусственного интеллекта в здравоохранении. Применение менеджмента риска к медицинским изделиям. Общие положения» [2]. В соответствии с ним изготовитель должен установить, внедрить, документировать и поддерживать в рабочем состоянии непрерывный процесс: a) для идентификации опасностей и опасных ситуаций, связанных с медицинским изделием; b) определения и оценивания сопутствующих рисков; c) управления этими рисками; d) мониторинга результативности мер по управлению рисками.

ПНСТ 961-2024 «Системы искусственного интеллекта в здравоохранении. Этические аспекты» указывает, что протоколы сбора данных должны гарантировать, что соответствующие характеристики предполагаемой популяции пациентов (например, с точки зрения возраста, пола, этнической принадлежности) достаточно представлены в наборах данных адекватного размера, включая наборы данных для обучения, тестирования и клинической валидации [2].

Согласно ГОСТ Р 53079.2-2008 системой управления качеством лаборатории с учетом особенностей медицинской организации, в состав которой она входит, и/или видов исследований, которые данная лаборатория выполняет, должны быть определены: политика, процессы, программы, процедуры, инструкции, которые должны быть четко и детально сформулированы и описаны в соответствующих документах [3]. К политике по качеству, согласно пункту 3.3 ГОСТ Р 53079.2-2008, относится в том числе распоряжение заведующего лабораторией о выполнении исследований в соответствии с утвержденными в установленном порядке стандартными операционными процедурами (далее по тексту — СОП) по каждому виду исследований.

Пунктом 3.5.3 ГОСТ Р 53079.2-2008 установлены требования к разработке внутренних документов в лаборатории, согласно которым «СОП по каждому виду исследований (формы протоколов исследований)» в составе внутренних документов лаборатории, обеспечивающих качество преаналитического, аналитического и постаналитического этапов, разрабатываются на основе действующих технических регламентов, национальных стандартов, правил по метрологии, документов федерального органа исполнительной власти в области здравоохранения и территориальных органов управления здравоохранением (приказы, методические указания, рекомендации, фармакопейные статьи); паспортов и инструкций производителей по применению наборов реактивов, контрольных и калибровочных материалов, по эксплуатации приборов.

СОП – это документально оформленный набор инструкций или пошаговых действий, которые надо осуществить, чтобы выполнить ту или иную работу. СОП делает процесс работы и его результаты последовательными, согласованными, предсказуемыми и воспроизводимыми. Риски, которые должны предотвратить СОПы можно подразделить на категории, связанные с физическим, психическом ущербом и нарушением конфиденциальности. Первые два в целом являются минимальными при проведении клинических испытаний, особенно в части сбора образцов. Для предотвращения нарушения конфиденциальности должна быть разработана и внедрена система кодирования [13, С. 5].

СОП должен содержать следующую базовую информацию:

кто участвует в реализации, выполняет его требования и какие ресурсы необходимы для реализации;

в каком подразделении, отделении фирмы следует выполнять требования СОП;

в какой временной промежуток необходимо уложиться, выполняя требования СОП, в какой последовательности и при каких обстоятельствах.

Одним из ключевых СОП является добровольное информированное согласие при проведении клинических испытаний – письменное подтверждение участником своего согласия на участие в исследовании после того, как ему была предоставлена полная и понятная информация. Это согласие должно быть получено без какого-либо принуждения, и участник имеет право отозвать его в любой момент без каких-либо негативных последствий для дальнейшего лечения. Добровольное согласие должно отвечать следующим требованиям:

Информированность: Потенциальный участник должен получить полную информацию о целях, методах, длительности и условиях исследования, а также о применимом лекарственном средстве, возможных альтернативных вариантах лечения, потенциальной пользе и рисках, а также возможных осложнениях. Важно достичь адекватного понимания у участника или его представителя.

Добровольность: Участие в исследовании является исключительно добровольным. Никакое давление, угрозы или обман не допускаются.

Право на отказ: Участник имеет право прекратить участие в исследовании в любое время и без объяснения причин. Это не должно повлиять на качество его последующего медицинского обслуживания.

Документальное оформление: Согласие оформляется в письменном виде с подписью участника и датой. Если участник неграмотен, потребуется свидетель, который подтвердит, что информация была ему полностью разъяснена.

Конфиденциальность: Участник должен понимать, что его личные данные и медицинская информация будут рассматриваться как конфиденциальные, и доступ к ним будут иметь только уполномоченные представители контролирующих органов и этического комитета.

В завершение разработанные СОПы, иная документация должны пройти этическую экспертизу, которую проводит комиссия по этике (Этический комитет).

Кроме того, необходимо создание базы данных с ограниченным доступом. Создание базы данных для клинических исследований включает в себя проектирование (определение назначения, сбор и структурирование данных). Полученные данные необходимо разделить на логические группы (например, «вид образца», «пациент», «заболевание и т.п.). Необходимо предусмотреть защиту данных от несанкционированного доступа, а также от уничтожения.

Если говорить о наполнении баз данных, то это в первую очередь та информация, которая имеет значение для получения результата, в рассматриваемом случае это те признаки, которые позволят провести машинное обучение нейросетевых технологий для получения возможности автоматического и ускоренного анализа пациентов по вопросам их психического состояния. Подбор признаков имеет первостепенное значение для качества обучения. Эти признаки должны быть детерминированными по отношению к выявляемому заболеванию или состоянию. При этом их обнаружение должно быть возможно для искусственного интеллекта, т.е. они должны считываться при использовании компьютерных технологий (например, при анализе цифровой видеосъемки, отсканированного изображения, цифровой звукозаписи и т.д.).

Для решения этой проблемы предлагается использовать разработанное К. Ясперсом разграничение «объяснения» и «понимания» психопатологических феноменов. Объяснение связано с выявлением общих закономерностей, а понимание – с постижением смысла конкретных явлений; применение этих двух подходов в комплексе может повысить объяснимость ИИ‑моделей в медицине [9] Перспективным направлением развития ИИ является переход к третьему поколению, основанному на интеграции символического и коннекционистского подходов [10]. Это позволит создать более объяснимые, устойчивые и безопасные ИИ‑системы.

При том, что все указанные требования относятся к работе с пациентами и в рамках медицинской деятельности, представляется возможным рассмотреть их адаптацию к судебно-экспертной деятельности при разработке нейросетей и применении нейротехнологий. Это позволит предотвратить возможные негативные последствия, в том числе ужесточение или лишения возможности использования данных, полученных при производстве судебных экспертиз, для исследовательской деятельности. Сейчас этот вопрос не регулируется, но концепции нейроправ человека находятся в разработке на международном уровне, а применение искусственного интеллекта во многих сферах стандартизируется. В судебно-экспертной деятельности с учетом ее специфики также следует предусмотреть соответствующее регулирование.