"Глубоко поддельное" видео, пародирующее Камалу Харрис, манипулированный клип с Джо Байденом, изобилующий ругательствами, и сфабрикованное изображение арестованного Дональда Трампа - волна политической дезинформации, подпитываемой искусственным интеллектом, вызвала тревогу по поводу возможности манипулирования избирателями по мере разгара президентской гонки в США.

В ходе ноябрьских выборов, которые широко рекламируются как первые в Америке выборы с использованием искусственного интеллекта, исследователи предупреждают, что фальсификации с использованием технологий могут быть использованы для того, чтобы склонить избирателей к кандидатам или отвернуться от них - или даже вообще избежать участия в выборах, что усилит напряженность в и без того гиперполяризованной среде.

Недавняя волна дезинформации возобновила призывы к технологическим гигантам, многие из которых отказались от модерирования контента в социальных сетях, усилить защиту искусственного интеллекта в преддверии голосования.

На прошлой неделе Илон Маск подвергся резкой критике за то, что опубликовал фальшивое видео с участием вице-президента Харриса, предполагаемого кандидата от Демократической партии, с его 192 миллионами подписчиков в X, бывшем Twitter.

В нем голос за кадром, имитирующий Харрис, называет президента Джо Байдена маразматиком; затем голос заявляет, что она "ничего не знает о том, как управлять страной".

В видео не было никаких признаков того, что это пародия, за исключением смеющегося эмодзи. Только позже Маск пояснил, что видео было задумано как сатира.

Это удивительно? pic.twitter.com/KpnBKGUUwn

— Илон Маск (@elonmusk) 26 июля 2024 г.

Исследователи выразили обеспокоенность тем, что зрители могли ошибочно заключить, что Харрис высмеивала себя и очерняла Байдена.

Специалисты AFP по проверке фактов разоблачили другие подделки с использованием искусственного интеллекта, которые вызвали тревогу.

В прошлом месяце на канале X появилось манипулированное видео, на котором Байден проклинает своих критиков, в том числе используя оскорбления в адрес ЛГБТК, после того, как он объявил, что не будет добиваться переизбрания, и поддержал кандидатуру Харриса в номинации от Демократической партии.

Обратный поиск изображений показал, что кадры были взяты из одной из речей Байдена, транслировавшихся в прямом эфире телекомпанией PBS, в которой он осудил политическое насилие после покушения на Трампа 13 июля.

PBS заявила, что смонтированное видео было подделкой, которая использовала свой логотип, чтобы обмануть зрителей.

Неделями ранее на разных платформах появилось изображение, на котором видно, как полиция насильственно арестовывает Трампа после того, как нью-Йоркское жюри присяжных признало его виновным в фальсификации деловых документов, связанных с выплатой денег за молчание порнозвезде Сторми Дэниелс.

Но фотография была подделкой, сообщили AFP эксперты по цифровой криминалистике.

"Межпартийная напряженность"

"Эти недавние примеры наглядно демонстрируют, как в будущем в политике будут использоваться фальшивки", - сказал AFP Лукас Хансен, соучредитель некоммерческой организации CivAI.

"Хотя дезинформация с помощью искусственного интеллекта, безусловно, вызывает беспокойство, наиболее вероятными приложениями будут сфабрикованные изображения и видео, предназначенные для того, чтобы вызвать гнев и усилить межпартийную напряженность".

Хансен продемонстрировал AFP способность чат-бота с искусственным интеллектом манипулировать явкой избирателей, массово публикуя ложные твиты.

Инструмент получил простую подсказку - "На избирательных участках взимается плата за парковку" - с сообщением, настроенным для конкретного местоположения: Аллен, Техас.

В течение нескольких секунд был распространен твит, дезинформирующий зрителей о том, что власти Аллена "незаметно ввели плату за парковку в размере 25 долларов на большинстве избирательных участков".

В ходе предыдущей попытки возможного подавления голосования робот с поддержкой искусственного интеллекта, выдававший себя за Байдена, в январе призвал жителей Нью-Гэмпшира не голосовать на праймериз в штате.

Тесты другого ведущего инструмента искусственного интеллекта, Midjourney, позволили создать изображения, на которых, по-видимому, изображен арест Байдена, а Трамп появляется рядом с двойником, сообщил в июне некоммерческий центр по противодействию цифровой ненависти (CCDH).

Технические активисты сообщили, что Midjourney ранее заблокировал все запросы, связанные с Трампом и Байденом, фактически запретив пользователям создавать поддельные изображения.

Но CCDH заявила, что пользователи могут легко обойти эту политику - в некоторых случаях, добавив одну обратную косую черту к приглашению, ранее заблокированному Midjourney.

"Переломный момент"

Наблюдатели предупреждают, что подобная фальсификация в массовом масштабе может вызвать недовольство общественности избирательным процессом.

Согласно опросу, опубликованному в прошлом году медиагруппой Axios и аналитической компанией Morning Consult, более 50 процентов американцев ожидают, что ложь с использованием искусственного интеллекта повлияет на то, кто победит на выборах 2024 года.

Согласно опросу, около трети американцев заявили, что будут меньше доверять результатам из-за ИИ.

Несколько технологических гигантов заявили, что работают над системами маркировки контента, созданного с помощью ИИ.

В апреле в письме к техническим руководителям более 200 правозащитных групп потребовали принятия срочных мер по усилению борьбы с фальсификациями с помощью искусственного интеллекта, включая запрет на использование глубоких подделок в политической рекламе и использование алгоритмов для продвижения фактического предвыборного контента.

Некоммерческая организация Free Press, одна из групп, подписавших письмо, заявила, что они "не услышали ничего существенного" в обязательствах, которые платформы возьмут на себя в этом избирательном цикле.

"Сейчас мы имеем дело с токсичной онлайн-средой, где ложь наводняет наши каналы и сбивает с толку избирателей", - сказала AFP Нора Бенавидес, старший юрисконсульт watchdog.

"Это переломный момент в наших выборах", - добавила она. "Руководители платформы должны стремиться к укреплению и внедрению своей политики борьбы с глубокими подделками и другими проблемами".

(За исключением заголовка, этот материал не был отредактирован сотрудниками NDTV и опубликован на синдицированном канале.)