Как обнаружилось в ходе расследования, проведенного журналистами Би-би-си, педофилы с помощью технологий искусственного интеллекта (ИИ) создают и продают реалистичные изображения детской порнографии.
Некоторые покупатели получают доступ к такого рода картинкам, подписываясь на вполне легальные платные сайты контентного обмена вроде Patreon.
При этом сам Patreon заявляет, что в отношении такого рода картинок на сайте действует политика «нулевой терпимости».
В свою очередь британский Совет начальников национальной полиции (NPCC) считает, что это возмутительно, когда некоторые интернет-платформы получают огромную прибыль, не неся при этом никакой моральной ответственности.
А Центр правительственной связи (GCHQ) — спецслужба Великобритании, ответственная за ведение радиоэлектронной разведки и обеспечение защиты государственной и военной информации — заявил по поводу расследования Би-би-си, что «те, кто совершает сексуальные преступления в отношении детей, пользуются всеми возможными технологиями, и некоторые даже считают, что будущее детской порнографии связано с контентом, генерируемым с помощью ИИ».
Создатели образов насилия над детьми используют основанную на ИИ программу Stable Diffusion, которая предназначалась для тех, кто занимается искусством и графическим дизайном.
Эта программа позволяет компьютерам выполнять задания, которые обычно требуют человеческого интеллекта.
С помощью программного обеспечения на основе ИИ Stable Diffusion дает возможность пользователям описать словами любой образ, который затем воспроизводится на экране.
Однако, как выяснила Би-би-си, эту программу используют и для того, чтобы создавать реалистичные образы сексуального насилия над детьми, включая изнасилование младенцев и детей.
Подразделения британской полиции, расследующие случаи насилия над детьми в интернете, говорят, что им уже встречались такие картинки.
Подпись к фото,
По словам Оливии Шипшэнкс, интернет захлестнула волна изображений, созданных с помощью ИИ-технологий
Журналистка-фрилансерка Октавия Шипшэнкс несколько месяцев занималась расследованием этого вопроса и через благотворительную организацию Национальное общество по предотвращению жестокого обращения с детьми (NSPCC) вышла на контакт с Би-би-си, чтобы рассказать о результатах своего расследования.
«После того как стало возможно создавать изображения с помощью ИИ, хлынул настоящий поток. И речь идет не только об очень юных девочках, они [педофилы] говорят уже о малышах», — говорит Шипшэнкс.
«Псевдообразы» насилия над детьми, созданные с помощью компьютера, приравниваются к настоящим фотографиям, и их хранение, публикация или передача в Великобритании незаконны.
По словам Иэна Критчли, возглавляющего в NPCC отдел по защите прав детей, нельзя говорить о том, что поскольку на таких «синтезированных» картинках не изображены реальные дети, от этого никто не страдает.
Критчли предупреждает, что педофил может «эволюционировать по шкале преступления от мысли к синтезированному образу, а затем и к насилию над настоящим ребенком».
Процесс распространения картинок со сценами сексуального насилия состоит из трех этапов:
Некоторые из таких картинок их создатели размещают на популярной японской платформе Pixiv, которую обычно используют художники, специализирующиеся на стилях манга и аниме.
Но поскольку это японский сайт, где обмен рисунками с ярко выраженной сексуальной коннотацией, в том числе и с изображением детей, не считается незаконным, авторы используют его для рекламы своих работ, в том числе с использованием хэштэгов, которые служат ключевыми словами для индексации по тематике.
По словам представителя Pixiv, поднятому вопросу о созданных с помощью ИИ образов уделяется огромное внимание, и с 31 мая на сайте запрещены все реалистические изображения сексуального насилия с участием малолетних.
В компании заявили, что усилили систему мониторинга и выделили значительные ресурсы для противодействия проблемам, связанным с разработками в области ИИ.
Как рассказала Би-би-си Октавия Шипшэнкс, ее исследование позволяет сделать вывод, что картинки, изображающие сексуальное насилие над детьми, производятся в промышленных масштабах.
«Объем настолько велик, словно люди [создатели] сказали „наша цель —производить по тысяче изображений в месяц“, — говорит она.
Из комментариев некоторых пользователей Pixiv по поводу отдельных образов ясно следует, что они испытывают сексуальный интерес к детям, а некоторые даже предлагают поделиться реальными, а не сгенерированными с помощью ИИ фотографиями и видео сексуального насилия.
Шипшэнкс также отслеживала некоторые группы на этой платформе.
«Внутри этих групп, в которых бывает по 100 участников, люди делятся друг с другом: „о, вот ссылка на кое-что настоящее“», — говорит она.
Многие из аккаунтов на Pixiv размещают в биографии ссылки, перенаправляющие пользователей к тому, что они называют «контентом без цензуры» на американском сайте Patreon.
Patreon оценивается в $4 млрд и утверждает, что у него более 250 тыс. создателей контента (криэйторов), в большинстве своем это легитимные аккаунты, которые принадлежат разным знаменитостям, журналистам и писателям.
Фанаты могут поддерживать свои криэйторов с помощью ежемесячной подписки, которая стоит от $3,85 и дает доступ к блогам, подкастам, видео и картинкам.
Однако в ходе расследования, проведенного совместно Би-би-си и Оливией Шипшэнкс, выяснилось, что на аккаунтах Patreon предлагаются и реалистичные, созданные с помощью технологии ИИ образцы детской порнографии по разным расценкам в зависимости от типа материала.
«Я муштрую своих девочек в компьютере», — пишет пользователь одного из таких аккаунтов, добавляя, что они демонстрируют «покорность». Другой пользователь за $8,30 в месяц предлагает «эксклюзивное искусство без цензуры».
Би-би-си направила Patreon один из таких образцов, и компания подтвердила, что он является «полуреалистичным и нарушает ее политику». Она также сообщила, что немедленно закрыла этот аккаунт.
Patreon утверждает, что придерживается политики «нулевой терпимости», настаивая на том, что «криэйторы не могут финансировать контент, посвященный сексуальным темам с участием несовершеннолетних».
В компании заявили также, что увеличение в интернете объемов вредоносного контента, созданного с применением ИИ-технологий «весьма реально и вызывает тревогу», и добавили, что уже «выявляют и удаляют все возрастающие объемы» такого рода материала.
«Мы уже запретили весь созданный с помощью ИИ синтезированный материал, связанный с сексуальной эксплуатацией детей», — говорится в заявлении компании, которая называет себя «очень проактивной», поскольку имеет специально выделенные команды специалистов, технологии и работает с партнерами для «обеспечения безопасности подростков».
Подпись к фото,
Иэн Критчли из NPCC уверен, что для общества настал поворотный момент
Генератор ИИ-образов, программа Stable Diffusion была создана в процессе глобального сотрудничества ученых и ряда компаний во главе с британской фирмой Stability AI.
Было выпущено несколько версий этой программы, причем в ее код были вписаны ограничения, контролирующие содержание конечного продукта.
Однако в прошлом году была выпущена в открытый доступ ранняя версия с открытым кодом, позволяющая пользователям удалять любые фильтры и заставлять программу создавать любые образы, в том числе и противозаконные.
В Stability AI заявили Би-би-си, что «запрещают использование программы в незаконных или аморальных целях на всех наших платформах, и в нашей политике ясно прописано, что это включает CSAM (материалы сексуального насилия над детьми)».
«Мы всецело поддерживаем усилия правоохранителей по борьбе с теми, кто злоупотребляет нашей продукцией, используя ее в незаконных или злодейских целях», — говорится также в заявлении Stability AI.
По мере быстрого развития ИИ-технологий возникают и вопросы о рисках, которые они могут представлять для частной жизни людей, их прав и безопасности.
«GCHQ оказывает поддержку правоохранительным органам, чтобы они были готовы справиться с такими возникающими угрозами, как создаваемый с помощью ИИ контент, и не давали нарушителям почувствовать себя в безопасности», — заявила Би-би-си глава миссии GCHQ по борьбе с сексуальным насилием в отношении детей Джо (ее настоящее имя не называется в интересах безопасности).
Представитель NPCC Иэн Критчли также выразил опасение, что поток реалистичных, созданных с помощью ИИ образов может замедлить процесс выявления настоящих жертв сексуальных домогательств.
«Это создает дополнительные требования к работе правоохранительных органов с тем, чтобы выявить, подвергается ли где-то в мире сексуальному насилию настоящий ребенок, или это искусственное, синтезированное изображение», — поясняет он.
С точки зрения Критчли, для общества наступил поворотный момент.
«Или мы обеспечим, чтобы интернет и технологии предоставляли фантастические возможности молодым людям, или интернет станет куда более опасным местом», — говорит он.
NSPCC в среду обратилась к технологическим компаниям с призывом внимательно отнестись к этой проблеме.
«Скорость, с которой все эти возникающие технологии были взяты на вооружение злоумышленниками, потрясает, но не удивляет, потому что компании, которые мы предупреждали об опасностях, сидели сложа руки, изрекая лишь пустые слова о безопасности, — заявила Анна Эдмундсон, отвечающая за политику и связи с общественностью в этой благотворительной организации. — Теперь технологические компании знают, что их продукция используется в интересах сексуального насилия над детьми, и их бездействие уже ничем нельзя оправдать».
«Закон о безопасности в интернете потребует от компаний проактивных действий для борьбы со всеми формами сексуального насилия над детьми в сети, включая груминг, прямые трансляции, материал, содержащий элементы сексуального насилия над детьми и запрещенные изображения детей. В противном случае им будут грозить огромные штрафы», — заявил по этому поводу представитель правительства.
16:55
16:41
16:17
16:17
16:06
15:55
15:41
15:28
15:14
14:55
14:41
14:26
14:13
13:59
13:45
13:31
13:16
13:03
12:49
12:35
12:21
12:08
11:55
11:41
11:29
11:17
11:04
10:51
10:39
10:26
10:13
10:01
09:49
09:36
09:23
09:09
17:41
17:29
17:18
17:07
16:55
16:41
16:29
16:17
16:06
15:55
15:41
15:28
15:14
14:55
| Вс | Пн | Вт | Ср | Чт | Пт | Сб | |
| 1 | 2 | 3 | |||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 | |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 | |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 | |
| 25 | 26 | 27 | 28 | 29 | 30 | ||
15:39
09:49
13:25
14:04
12:51
15:28
12:39
13:24
13:02
12:39
15:08
11:15
14:33
12:26
11:23
13:25
15:19
14:27
15:16
12:13
15:14
14:44
13:25
11:06
13:12
11:13
14:15
11:26
09:35
11:41
10:37
10:55
12:28
12:13
12:51
11:35
10:45
16:51
10:21
14:27
12:37
11:23
13:03
10:47
13:03
13:15
14:58
14:55
14:31
14:19
