ИИ и верховенство закона: наращивание потенциала для судебных систем

По мере развития использования технологий ИИ судебные системы вовлекаются в юридические вопросы, касающиеся, в частности, последствий ИИ для прав человека, наблюдения и ответственности. Кроме того, судебные системы также используют системы ИИ для принятия судебных решений, что вызывает обеспокоенность по поводу справедливости, подотчетности и прозрачности принятия решений автоматизированными или оснащенными ИИ системами.

Потенциал ИИ уже используется многими судебными системами, включая судебные органы, прокуратуру и другие судебные органы, специализирующиеся на конкретных областях, по всему миру в сфере уголовного правосудия, оказывая помощь в проведении расследований и автоматизируя/облегчая процессы принятия решений.

Тем не менее, использование ИИ ставит широкий спектр проблем, требующих решения: от распознавания образов до этики, необъективных решений, принимаемых алгоритмами на основе ИИ, прозрачности и подотчетности. Например, самообучающиеся алгоритмы могут обучаться на определенных наборах данных (предыдущие решения, изображения лиц или базы видеозаписей и т.д.), которые могут содержать необъективные данные, которые могут быть использованы приложениями для целей криминала или общественной безопасности, что приведет к необъективным решениям.

Учитывая стремительное развитие в этой области, проблемы и возможности, связанные с использованием ИИ в сфере правосудия, и то, как системы на базе ИИ могут помочь судебным органам в выполнении их функций по отправлению правосудия и рассмотрению дел, в которых ИИ затрагивает права человека, должны стать частью дискуссий между заинтересованными сторонами судебной экосистемы.

С 2014 года ЮНЕСКО и ее партнеры проводят обучение судей и работников судебной системы по вопросам свободы выражения мнений, доступа общественности к информации и безопасности журналистов, в основном с помощью массовых открытых онлайн-курсов (МООК). Более 17 000 работников судебной системы прошли обучение в Латинской Америке в партнерстве с Межамериканским судом по правам человека, а также в Африке, где ЮНЕСКО сотрудничает с Центром по правам человека Университета Претории, Африканской комиссией по правам человека и народов, Африканским судом по правам человека и народов и Экономическим сообществом государств Западной Африки.

Эти учебные курсы улучшают свободу выражения мнений, доступ общественности к информации и безопасность журналистов путем укрепления потенциала судей и других субъектов судебных систем по этим вопросам. Курсы знакомят работников судебной системы с соответствующей международной и региональной правовой базой, а также с новыми проблемами, вызванными Интернетом и другими цифровыми технологиями.

Благодаря лучшему пониманию и знанию международных и региональных стандартов свободы выражения мнений и безопасности журналистов, судьи и другие представители судебной системы могут лучше согласовывать свои решения с международными и региональными стандартами и передовой практикой по этим вопросам.

Опираясь на вышеуказанный опыт, ЮНЕСКО и партнеры разрабатывают программу по наращиванию потенциала работников судебной системы в отношении использования ИИ в судах и правоохранительными органами, а также по рассмотрению правовых последствий судебных решений по ИИ на основе международных стандартов в области прав человека.

Необходимость взаимодействия с субъектами судебной системы по вопросам, связанным с ИИ, была признана на уровне Афинского круглого стола по вопросам искусственного интеллекта и верховенства закона, организованный совместно с ЮНЕСКО, сессии Форума по управлению Интернетом на тему Верховенство права в цифровой экосистеме, Опрос ЮНЕСКО по оценке потребностей в создании потенциала МА в Африке и, в частности, участников под эгидой инициативы ЮНЕСКО "Судьи", в которой приняли участие более 17 000 сотрудников судебных систем.

Для удовлетворения этих потребностей в сотрудничестве с центром ЮНЕСКО категории 2 CETIC и IEEE разрабатывается учебный онлайн-курс в форме массового открытого онлайн-курса (MOOC), что является прямым ответом на потребности, выраженные государствами-членами ЮНЕСКО в Африке, судьями и другими заинтересованными сторонами.

Задачи онлайн-курса:

1. Стимулировать диалог с сотрудниками судебных систем о связанных с искусственным интеллектом инновациях в судебной системе и способствовать распространению знаний о цифровых инновациях в системе правосудия;
2. Способствовать обмену знаниями и опытом между сотрудниками судебных систем по вопросам искусственного интеллекта, существующих норм и стандартов (жесткого и мягкого права) в этой области, а также его последствий для прав человека;
3. Освещать существующие тематические исследования и передовую практику, которые воплощают этические принципы на практике как в плане использования ИИ в системах правосудия, так и в случаях, когда ИИ влияет на права человека.