В среду Meta заявила, что обнаружила "вероятно, созданный искусственным интеллектом" контент, который использовался обманным путем на своих платформах Facebook и Instagram, включая комментарии, восхваляющие действия Израиля в отношении войны в Газе, опубликованные под публикациями мировых новостных организаций и американских законодателей.

Компания социальных сетей в ежеквартальном отчете о безопасности заявила, что аккаунты выдавались за еврейских студентов, афроамериканцев и других неравнодушных граждан и были нацелены на аудиторию в Соединенных Штатах и Канаде. В нем говорилось, что кампания была организована базирующейся в Тель-Авиве фирмой политического маркетинга STOIC.

СТОИК не сразу ответил на просьбу прокомментировать обвинения.

Почему это важно

В то время как Meta с 2019 года находила базовые фотографии профиля, созданные искусственным интеллектом в influence operations, в отчете впервые раскрывается использование более сложных технологий генеративного ИИ с тех пор, как они появились в конце 2022 года.

Исследователи обеспокоены тем, что генеративный искусственный интеллект, который может быстро и дешево создавать текст, изображения и аудио, похожие на человеческие, может привести к более эффективным кампаниям по дезинформации и повлиять на выборы.

В ходе пресс-конференции руководители Meta security заявили, что, по их мнению, новые технологии искусственного интеллекта не помешали им разрушить сети влияния, которые представляют собой скоординированные попытки распространения сообщений.

Руководители заявили, что они не видели изображений политиков, созданных с помощью искусственного интеллекта, настолько реалистичных, чтобы их можно было спутать с подлинными фотографиями.

Ключевая цитата

"В этих сетях есть несколько примеров того, как они используют инструменты искусственного интеллекта для создания контента. Возможно, это дает им возможность делать это быстрее или в большем объеме. Но на самом деле это не повлияло на нашу способность обнаруживать их", - сказал руководитель отдела расследования угроз Meta Майк Двилянски.

Судя по Цифрам

В отчете были освещены шесть операций по оказанию тайного влияния, которые Meta пресекла в первом квартале.

В дополнение к сети STOIC, Meta закрыла базирующуюся в Иране сеть, посвященную конфликту между Израилем и ХАМАСОМ, хотя и не выявила какого-либо использования искусственного интеллекта в этой кампании.

Контекст

Meta и другие технологические гиганты столкнулись с проблемой потенциального неправомерного использования новых технологий искусственного интеллекта, особенно на выборах.

Исследователи обнаружили примеры того, как генераторы изображений от таких компаний, как OpenAI и Microsoft, создают фотографии с дезинформацией, связанной с голосованием, несмотря на то, что у этих компаний есть политика, запрещающая использование такого контента.

Компании сделали упор на системы цифровой маркировки для маркировки контента, созданного с помощью искусственного интеллекта, на момент его создания, хотя эти инструменты не работают с текстом, и исследователи сомневаются в их эффективности.

Что дальше

Meta сталкивается с серьезными испытаниями на прочность в связи с выборами в Европейском союзе в начале июня и в Соединенных Штатах в ноябре.

(Этот материал не редактировался сотрудниками NDTV и автоматически сгенерирован из синдицированной ленты).