«Социальные рейтинги» — под запретом, распознавание лиц — только с разрешения суда
ЕС готовится ввести первый в мире закон, регулирующий использование искусственного интеллекта: 11 мая профильные комитеты Европарламента поддержали проект, за которым закрепилось название AI Act. Если документ примут, то во всех странах Евросоюза введут беспрецедентные ограничения, в том числе на системы распознавания лиц в общественных местах, прогнозирование правонарушений и социальный рейтинг на основе ИИ. «Медуза» подробнее рассказывает об этом законопроекте.
Европейский союз решил зарегулировать искусственный интеллект еще два года назад, в апреле 2021 года. Маргрет Вестагер, вице-председатель Еврокомиссии, тогда объясняла это необходимостью «доверять ИИ» и «проложить путь к этичному применению технологий во всем мире», в то время как «на карту поставлены безопасность и права граждан».
ЕС при этом не собирался полностью запрещать развитие искусственного интеллекта — и, наоборот, подчеркивал, что ИИ обладает «огромным потенциалом в здравоохранении, транспорте, энергетике, сельском хозяйстве, туризме и кибербезопасности».
Поначалу страны Евросоюза неспешно обсуждали варианты законопроекта, проводили исследования (например, об этичности использования ИИ и соблюдении прав человека) и вели дискуссии со специалистами. Но затем — на фоне стремительного развития технологий и гонки корпораций в области генеративного искусственного интеллекта — еврочиновникам пришлось поторопиться и в последний момент добавить в документ важнейшие поправки.
Вот что за несколько дней до голосования сказал агентству AP один из инициаторов законопроекта, румынский депутат Европарламента Драгош Тудораш:
Если еще [два года назад] кто-то сомневался, нужно ли нам вообще [какое-то регулирование искусственного интеллекта], то сейчас, я думаю, [никаких] сомнений больше нет.
11 мая два комитета, которые отвечают за регулирование ИИ, — по внутреннему рынку и защите прав потребителей, а также по гражданским свободам — одобрили AI Act. Проект поддержали 84 евродепутата, семь выступили против, 12 воздержались. Хотя новые стандарты еще далеки от вступления в силу, прошедшее голосование означает огромный шаг вперед для законодателей — особенно в текущей версии документа.
Для полиции и судов использование ИИ ограничат. А некоторые сервисы запретят вовсе
Категории риска
Евродепутаты предлагают разделять все системы, основанные на искусственном интеллекте, на четыре категории по риску: минимальный (или вообще его отсутствие), ограниченный, высокий и неприемлемый.
ИИ-системы с «минимальным» риском — под эту категорию должно подходить большинство инструментов, например игры или спам-фильтры, — будут работать без ограничений. Если система получит статус «ограниченного» риска (вероятно, чат-бот ChatGPT или фотогенератор Midjourney), то его создатели должны прежде всего соблюдать требования о «прозрачности»: предполагается, что пользователь должен знать, что перед ним — условно — дипфейк или созданный нейросетью текст.
«Высокую» степень риска ЕС видит в более специализированных ИИ-системах. Еврочиновники приводят в пример правосудие (например, если ИИ оценивает доказательства сторон), здравоохранение (медицинские приборы), транспортную сферу (беспилотные автомобили), образование (имеются в виду ситуации, когда ИИ определяет, кто заслуживает поступить, а кто нет), трудоустройство (к примеру, автоматическая сортировка резюме), госуслуги и контроль над миграцией (в том числе оценка подлинности документов). Все такие сервисы, как предполагается, не попадут к конечному пользователю, пока не пройдут самую тщательную оценку — и не будут гарантировать, что дают крайне точный и безопасный для человека результат.
Системы, которые в ЕС сочтут «неприемлемыми», просто запретят из-за угроз безопасности. Под эту категорию подходят ИИ-сервисы для выставления «социального рейтинга» на основе благонадежности граждан (да, как в Китае), а также для манипуляций (в пример приводятся игрушки с голосовым ассистентом, провоцирующие детей на «опасное поведение»).
16:41
16:23
16:09
15:55
15:41
15:26
15:12
14:55
14:41
14:26
14:13
13:55
13:41
13:26
13:12
12:55
12:43
12:27
12:13
11:55
11:39
11:25
11:12
10:56
10:42
10:27
10:14
10:01
09:49
09:36
09:23
09:09
15:35
14:27
14:13
13:55
13:43
13:28
13:14
12:57
12:41
12:27
12:13
11:49
11:36
11:12
10:59
10:43
10:28
10:14
| Вс | Пн | Вт | Ср | Чт | Пт | Сб | |
| 1 | 2 | 3 | |||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 | |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 | |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 | |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 | |
15:39
09:49
13:25
14:04
12:51
15:28
12:39
13:24
13:02
12:39
15:08
11:15
14:33
12:26
11:23
13:25
15:19
14:27
15:16
12:13
15:14
14:44
13:25
11:06
13:12
11:13
14:15
11:26
09:35
11:41
10:37
10:55
12:28
12:13
12:51
11:35
10:45
16:51
10:21
14:27
12:37
11:23
13:03
10:47
13:03
13:15
14:58
14:55
14:31
14:19
