Южную Корею потрясла волна фейковых изображений откровенного сексуального характера, которые создаются и распространяются в Интернете, без разбора нацеленных на женщин и девочек, используя их школьные фотографии, селфи в социальных сетях и даже военные снимки головы. Сообщается, что Telegram-канал с более чем 220 000 участников использовался для создания и распространения порнографических изображений, созданных искусственным интеллектом, что служило глобальным напоминанием о мрачных последствиях широкого распространения этой технологии.

Пользователи могли загружать фотографии и за считанные секунды создавать откровенный контент с лицами своих друзей, одноклассников или романтических партнеров. Первоначальные сообщения местных новостных агентств привели к тому, что все больше женщин стали называть себя жертвами, а количество Telegram-каналов увеличилось, что показало истинный масштаб проблемы. Многие из пострадавших - несовершеннолетние. В конце прошлого месяца протестующие в белых масках, закрывающих глаза, собрались в Сеуле, требуя справедливости.

Возмущение росло, и президент Южной Кореи Юн Сок Ель призвал свое правительство принять меры по борьбе со злоупотреблениями в сфере цифровых технологий, а власти заявили, что создадут специальную группу для решения проблемы. Пока полиция проводила расследование, наметилась еще одна тревожная тенденция. Предварительные данные свидетельствуют о том, что подавляющее большинство подозреваемых в совершении недавних преступлений были подростками.

"Некоторые могут отнестись к этому как к простой шутке, но это явно преступное деяние, которое использует технологии под прикрытием анонимности", - сказал Юн во время заседания кабинета министров в конце прошлого месяца, признав, что многие как жертвы, так и преступники были несовершеннолетними.

Юн прав. Это не просто розыгрыш, и последствия такого рода цифрового сексуального насилия могут быть разрушительными для жертв. Большая часть вины справедливо возлагается на Telegram, тем более что скандал разгорается в то самое время, когда главный исполнительный директор платформы Павел Дуров был арестован во Франции и обвинен в предполагаемом соучастии в преступлениях, включая распространение детской порнографии, совершенных с помощью его приложения. Корейские власти заявили, что Telegram сотрудничает со следствием и просит удалить контент.

Но для некоторых слова Юна прозвучат неубедительно, учитывая, что он пришел к власти в 2022 году, обхаживая молодых избирателей-мужчин предложениями ликвидировать министерство по вопросам гендерного равенства, которое он обвинил в том, что оно относится к мужчинам как к "потенциальным сексуальным преступникам". Он также заявил, что в Южной Корее не существует системной дискриминации по признаку пола, и предположил, что в низкой рождаемости в стране виноват феминизм. Между тем, женщины зарабатывают примерно на 30% меньше, чем их коллеги-мужчины, что свидетельствует о самом высоком разрыве в заработной плате между мужчинами и женщинами в развитом мире. Даже в семьях с двойным доходом женщины несут основную тяжесть работы по дому и уходу за детьми.

И до того, как недавнее появление инструментов искусственного интеллекта значительно упростило создание откровенных изображений deepfake, правозащитные группы привлекали внимание к множеству цифровых сексуальных преступлений, обычно связанных с использованием интимных изображений без согласия пользователя или скрытых камер.

Существует множество причин, по которым южнокорейские женщины, как и их коллеги во всем развитом мире, предпочитают не заводить детей, включая растущее участие в рабочей силе и неравномерное бремя воспитания детей. Вместо того, чтобы обвинять феминизм, было бы полезнее взглянуть на эту гору тревожных данных. По иронии судьбы, в одной из основных групп в Telegram, распространяющих эти изображения, по сообщениям, было около 227 000 подписчиков - это примерно столько же, сколько детей родилось в прошлом году.

Южнокорейские женщины смело поднимают этот вопрос с помощью протестов и активизма, что является первым шагом на пути к переменам в связи с кризисом, который затрагивает людей по всему миру. По сравнению с другими юрисдикциями, страна также находится на переднем крае в регулировании порнографии, основанной на глубокой подделке. На самом деле в стране действуют законы, предусматривающие наказание в виде тюремного заключения сроком до пяти лет и штрафов для лиц, признанных виновными в создании изображений с целью их распространения. В США федеральное законодательство получило двухпартийную поддержку среди законодателей, но все еще медленно продвигается через Конгресс.

Регулирование важно, но случаи в Корее также показывают, насколько сложной может быть правоприменительная практика в связи с такой широко распространенной проблемой, а также насколько легко создавать такой контент и распространять его в первую очередь. Расширение законодательства, делающее незаконным владение такими материалами, могло бы помочь. Но это по-прежнему возлагает на жертв большую ответственность за то, чтобы в цифровом виде отследить, кто создал контент, перевернувший их жизни.

Недавний арест генерального директора Telegram показывает, что во всем мире растет стремление привлечь технологические компании к ответственности за их роль в причинении вреда их платформам. Это шаг в правильном направлении; по мере того, как все больше регулирующих органов перекладывают ответственность на эти влиятельные компании, можно было бы приветствовать новые отраслевые решения. Университеты и исследовательские центры разрабатывают несколько многообещающих инструментов для защиты изображений от манипуляций ИИ. Но на ответственное внедрение ИИ в отрасли, создающей ИИ, выделяется недостаточно ресурсов.

На технологические компании должно быть возложено больше ответственности за разработку проактивных решений. В последние годы многие технологические гиганты отказались от этичных и ответственных команд по ИИ на фоне более широкого сокращения расходов. Но достоинство женщин и девочек - это не то, чем следует жертвовать в угоду выгоде.

Южная Корея в настоящее время является эпицентром этого кризиса. Но это глобальная проблема, которая может затронуть любого, от знаменитостей вроде Тейлор Свифт до учениц средних школ от Сеула до Нью-Джерси. Технологический сектор больше не может уклоняться от ответственности.

(Этот сюжет не редактировался сотрудниками NDTV и автоматически создан на основе синдицированной ленты).