Государства-члены ЮНЕСКО приняли первое глобальное соглашение по этическим аспектам искусственного интеллекта

26.11.21 | 13:03

Накануне Генеральный директор ЮНЕСКО Одрэ Азуле представила первые в истории глобальные стандарты этических аспектов искусственного интеллекта, принятые государствами-членами ЮНЕСКО в ходе Генеральной конференции. В этом историческом тексте изложены общие ценности и принципы, которые будут определять создание необходимой правовой инфраструктуры для обеспечения здорового развития ИИ.

ИИ повсеместно распространен и поддерживает многие из наших повседневных дел, от бронирования рейсов, управления автомобилями без водителя до персонализации наших утренних новостных лент. ИИ также поддерживает процесс принятия решений правительствами и частным сектором. Технологии искусственного интеллекта дают замечательные результаты в узкоспециализированных областях, таких как диагностика рака и создание инклюзивной среды для людей с ограниченными возможностями.

Эти технологии также могут помочь в борьбе с глобальными проблемами, такими как изменение климата и голод в мире, и способствовать сокращению масштабов нищеты путем оптимизации экономической помощи. Но эти технологии также ставят новые беспрецедентные задачи.
Мы являемся свидетелями усиления гендерных и этнических предубеждений, серьезных угроз для частной жизни и т.д.

Как сообщает пресс-служба ЮНЕСКО, в 2018 году Генеральный директор ЮНЕСКО Одрэ Азуле презентовала проект: предоставить миру этическую основу для использования искусственного интеллекта. Сегодня, спустя 3 года, 193 государства-члена ЮНЕСКО только что официально приняли эти этические рамочные нормы.

Рекомендация направлена на реализацию преимуществ, которые искусственный интеллект приносит обществу, и уменьшение связанных с этим рисков.

1. Защита данных

В Рекомендации содержится призыв принять меры, выходящие за рамки того, что делают технологические компании и правительства, для того чтобы гарантировать отдельным лицам более надежную защиту путем обеспечения транспарентности, управления и контроля над их персональными данными. В Рекомендацие говорится, что все лица должны иметь возможность доступа к личным данным или даже их стирания. Она также включает в себя меры по улучшению защиты данных и повышению осведомленности отдельного лица о своих собственных данных и праве на контроль над ними. Рекомендация также расширяет возможности регулирующих органов во всем мире по обеспечению соблюдения этого требования.

2. Запрет социальной оценки и массового наблюдения

Рекомендация прямо запрещает использование систем искусственного интеллекта для социальной оценки и массового наблюдения. Эти виды технологий являются весьма инвазивными, они ущемляют права человека и основные свободы и широко используются. В Рекомендации подчеркивается, что при разработке нормативно-правовой базы государствам-членам следует учитывать, что конечная ответственность и подотчетность всегда должны лежать на людях и что технологии искусственного интеллекта не должны становиться правосубъектными.

3. Содействие мониторингу и оценке

Рекомендация также закладывает основу для инструментов, которые будут содействовать ее осуществлению. Оценка этического воздействия призвана помочь странам и компаниям, разрабатывающим и развертывающим системы искусственного интеллекта, в оценке воздействия этих систем на людей, общество и окружающую среду. Методология оценки готовности помогает государствам-членам оценить степень своей готовности с точки зрения правовой и технической инфраструктуры. Этот инструмент поможет укрепить институциональный потенциал стран и рекомендовать надлежащие меры, которые необходимо принять для обеспечения соблюдения этических норм на практике. Кроме того, в Рекомендации содержится призыв к государствам-членам рассмотреть вопрос о создании роли независимого должностного лица по вопросам этических аспектов ИИ или какого-либо другого механизма для надзора за проведением ревизий и непрерывным мониторингом.

4. Охрана окружающей среды

В Рекомендации подчеркивается, что субъектам в сфере искусственного интеллекта следует отдавать предпочтение эффективным методам использования данных, энергии и ресурсоэффективным технологиям ИИ, которые помогут обеспечить, чтобы искусственный интеллект стал более важным инструментом в борьбе с изменением климата и в решении экологических проблем. В Рекомендации правительствам предлагается оценивать прямое и косвенное воздействие на окружающую среду на протяжении всего жизненного цикла систем ИИ.

Это включает углеродный след, потребление энергии и экологические последствия добычи сырья для поддержки производства технологий искусственного интеллекта.

Рекомендация также направлена на уменьшение воздействия систем ИИ и инфраструктур данных на окружающую среду. Она стимулирует правительства к инвестированию в экологически чистые технологии, и если системы ИИ оказывают непропорциональное негативное воздействие на окружающую среду, Рекомендация предписывает не использовать их. «Решения, затрагивающие миллионы людей, должны быть справедливыми, прозрачными и оспариваемыми.

Эти новые технологии должны помочь нам решить основные проблемы современного мира, такие как усиление неравенства и экологический кризис, а не усугубить их», - заявила Габриэла Рамос, заместитель Генерального директора ЮНЕСКО по социальным и гуманитарным наукам. Новые технологии, такие как искусственный интеллект, доказали свою огромную способность приносить пользу.

Однако негативные последствия, усугубляющие и без того расколотый и неравный мир, необходимо контролировать. Разработки ИИ должны основываться на верховенстве права, избегая причинения вреда и обеспечивая наличие механизмов подотчетности и возмещения ущерба пострадавшим.