Инженер-программист в США был арестован в понедельник по подозрению в создании и распространении тысяч созданных с помощью искусственного интеллекта изображений материалов о сексуальном насилии над детьми (CSAM). Согласно судебным документам, 42-летний Стивен Андерегг, предположительно, использовал модель преобразования текста в изображение с помощью искусственного интеллекта (GenAI) под названием Stable Diffusion для создания тысяч реалистичных изображений несовершеннолетних в препубертатном возрасте, сообщает Guardian. На многих из этих изображений были изображены обнаженные или частично одетые несовершеннолетние, которые похотливо демонстрируют свои гениталии или прикасаются к ним, а также вступают в половые сношения с мужчинами.
Он также пообщался с 15-летним мальчиком, рассказав о процессе создания изображений, и отправил ему несколько изображений несовершеннолетних, сгенерированных с помощью искусственного интеллекта, через прямые сообщения в Instagram.
Андерегг привлек внимание правоохранительных органов благодаря киберподписке от Национального центра по делам пропавших без вести и эксплуатируемых детей (NCMEC) после того, как Instagram сообщил о том, что его аккаунт распространял эти изображения.
"Технологии могут меняться, но наша приверженность защите детей - нет. Министерство юстиции будет активно преследовать тех, кто производит и распространяет материалы о сексуальном насилии над детьми — или CSAM — независимо от того, как эти материалы были созданы. Проще говоря, CSAM, генерируемый ИИ, по-прежнему остается CSAM, и мы будем привлекать к ответственности тех, кто использует ИИ для создания непристойных, оскорбительных и все более фотореалистичных изображений детей", - говорится в пресс-релизе заместителя генерального прокурора Монако.
Это один из первых известных случаев, когда ФБР предъявило кому-либо обвинение в использовании искусственного интеллекта для создания материалов о сексуальном насилии над детьми.
"Сегодняшнее объявление посылает четкий сигнал: использование искусственного интеллекта для создания изображений детей сексуального содержания незаконно, и Министерство юстиции без колебаний привлечет к ответственности тех, кто обладает, производит или распространяет материалы о сексуальном насилии над детьми, созданные с помощью искусственного интеллекта", - заявила первый заместитель помощника Генерального прокурора Николь Арджентьери.
Андерегг находится под стражей в федеральном суде в ожидании слушания по делу о заключении под стражу, назначенного на 22 мая.
Ему предъявлены четыре обвинения в создании, распространении и хранении материалов о сексуальном насилии над детьми и отправке откровенных материалов ребенку младше 16 лет. Если его признают виновным, ему грозит максимальное наказание в виде тюремного заключения сроком около 70 лет.
"NCMEC глубоко обеспокоен этой быстро растущей тенденцией, поскольку злоумышленники могут использовать искусственный интеллект для создания фальшивых изображений или видеороликов сексуального содержания на основе любой фотографии реального ребенка или генерировать CSAM, на которых изображены созданные компьютером дети, совершающие наглядные половые акты", - говорится в отчете NCMEC.
