Миллионы детей и подростков по всему миру становятся жертвами преступлений, связанных с созданием сексуализированных дипфейков. Об этом говорится в совместном исследовании ЮНИСЕФ, международной организации ECPAT и Интерпол, проведённом в 11 странах, сообщает пресс-служба ООН.
Согласно данным исследования, примерно каждый 25-й ребёнок становится жертвой злоумышленников, создающих сексуализированные дипфейки. По меньшей мере 1,2 млн детей сообщили, что их изображения были обработаны и превращены в сексуально откровенные поддельные материалы. В ЮНИСЕФ подчеркнули, что масштабы проблемы сопоставимы с ситуацией, при которой в каждом школьном классе есть как минимум один ребёнок, ставший жертвой подобного преступления.
Отмечается, что дипфейки — фотографии, видеоролики или аудиофайлы, созданные или обработанные с использованием технологий искусственного интеллекта, которые выглядят или звучат как настоящие, — всё чаще применяются для создания сексуализированного контента с участием детей.
В организации указали, что сами дети осознают существующие риски. В ряде стран, участвовавших в исследовании, около двух третей детей заявили, что обеспокоены возможностью использования искусственного интеллекта для создания поддельных сексуальных изображений или видеороликов.
В ЮНИСЕФ подчёркивают, что создание сексуализированных дипфейков равносильно насилию над детьми. Подобные поддельные видеоматериалы и фотографии, по оценке экспертов, нормализуют сексуальную эксплуатацию несовершеннолетних и подпитывают спрос на контент, содержащий элементы насилия.
В фонде заявили, что приветствуют усилия разработчиков искусственного интеллекта, которые внедряют подходы, основанные на безопасности по умолчанию, а также надёжные механизмы защиты для предотвращения неправомерного использования своих систем. Вместе с тем подчёркивается, что многие модели ИИ создаются без достаточных мер безопасности, а риски возрастают в случае интеграции генеративных инструментов ИИ непосредственно в социальные сети, где обработанные изображения распространяются с высокой скоростью.
ЮНИСЕФ призывает все государства криминализировать создание, приобретение, хранение и распространение контента, сгенерированного с помощью искусственного интеллекта и содержащего сексуализированные изображения детей. Кроме того, в организации считают необходимым, чтобы разработчики ИИ внедряли механизмы безопасности на этапе проектирования, а цифровые компании предотвращали распространение подобных материалов, а не ограничивались их удалением после факта злоупотребления.
