Миллионы людей посещают вредоносные ИИ платформы с раздеванием. Новое исследование показывает, что последние приносят создателям огромные доходы, а используют при этом технологии американских компаний. "Порно приучило к жестокости". Вот что стало с американцами В последние годы в сети стремительно распространились приложения и боты с ИИ-раздеванием, позволяющие создавать оскорбительные изображения женщин и девочек, включая материалы с сексуальным насилием над детьми. Несмотря на попытки политиков и технологических компаний ограничить деятельность таких сервисов, ежемесячно их продолжают посещать миллионы пользователей, а создатели, согласно новому исследованию, имеют многомиллионные прибыли. Анализ 85 таких сайтов — платформ, где пользователи загружают фотографии и с помощью ИИ в несколько кликов получают соответствующие "обнаженные" изображения — показал, что большинство из них используют для работы технологии Google, Amazon и Cloudflare. По данным публикации Indicator, специализирующейся на расследованиях цифрового мошенничества, совокупная месячная аудитория этих сайтов составляет 18,5 млн посетителей, а годовой доход может достигать $36 млн. Алексиос Манцарлис (Alexios Mantzarlis), сооснователь Indicator и исследователь кибербезопасности, называет эту сферу "прибыльным бизнесом", который процветает благодаря "либеральному подходу Кремниевой долины к генеративному ИИ". "Технологические компании должны были прекратить обслуживание таких платформ, как только стало ясно, что их единственное назначение — сексуальные домогательства", — заявил он. Между тем создание и распространение дипфейков постепенно становится незаконным. Согласно исследованию, Amazon и Cloudflare предоставляют хостинг и сервисы доставки контента для 62 из 85 вышеозначенных сайтов, а система входа через Google используется на 54 платформах. Кроме того, сайты пользуются платежными системами и другими услугами крупных компаний. Представитель Amazon Web Services Райан Уолш (Ryan Walsh) заявил, что их компания требует от клиентов соблюдения законов и запрещенный контент оперативно блокирует, причем пользователи могут сообщать о соответствующих нарушениях команде безопасности. Карл Райан (Karl Ryan) из Google отметил, в свою очередь, что компания уже принимает меры против нарушителей, включая долгосрочные решения. Также их система авторизации требует от разработчиков согласия с политикой, запрещающей использование незаконного контента и материалов, преследующих других пользователей. Cloudflare на момент публикации на запрос WIRED не ответила. Названия сайтов не раскрываются, чтобы избежать их популяризации. Сервисы и боты для "раздевания" активно развиваются с 2019 года, наследуя технологию первых эксплицитных дипфейков. Как сообщает Bellingcat*, в сети появились сети взаимосвязанных компаний, монетизирующих эту технологию. Такие сервисы используют ИИ для создания изображений людей без их согласия и зарабатывают на продаже "кредитов" или подписок. Их распространение усилилось с появлением генеративного ИИ. Последствия оказались крайне разрушительны: фото из соцсетей превращают в оскорбительные изображения, и подростки по всему миру используют их для кибербуллинга и издевательств, создавая подобные изображения своих одноклассниц. Подобное злоупотребление интимными образами наносит жертвам тяжелейшую психологическую травму, а удалить такого рода материалы из интернета крайне сложно. Сотрудники издания Indicator и исследователь Сантьяго Лакатос (Santiago Lakatos) провели анализ инфраструктуры 85 сайтов для "раздевания", используя различные инструменты с открытым исходным кодом, включая сервис анализа веб-сайтов Built With. Исследование показало, что эти платформы используют целый комплекс услуг: сети доставки контента (CDN), хостинг-провайдеров, регистраторов доменных имен и вебмастер-сервисов, предоставляемых как крупнейшими технологическими компаниями, так и небольшими предприятиями. На основе расчетов, учитывающих стоимость подписок, предполагаемый уровень конвертации пользователей в платящих клиентов и объем трафика, направляемого на платежные системы, исследователи оценили, что 18 из этих сайтов заработали за последние полгода от $2,6 до $18,4 млн. В годовом исчислении это может составлять около $36 млн. (Отмечается, что это довольно консервативная оценка, не учитывающая все подобные сайты и транзакции, совершаемые вне этих платформ, например через Telegram). Недавно Der Spiegel со ссылкой на данные внутренней переписки сообщил, что один крупный сайт может располагать бюджетом в несколько миллионов долларов. Другая платформа заявляла о многомиллионных доходах публично. Согласно исследованию, среди 10 самых посещаемых сайтов наибольшее количество пользователей приходится на США. В первую пятерку стран также вошли Индия, Бразилия, Мексика и Германия. Поисковые системы хоть и по-прежнему направляют трафик на эти платформы, все больше посетителей приходят из других онлайн-источников. Популярность подобных сервисов достигла такого уровня, что российские хакеры начали распространять их поддельные версии с вредоносным ПО. Как сообщало издание 404 Media, за последний год один из сайтов даже выпускал спонсируемые видео с участием взрослых исполнителей. Кроме того, такие платформы активно используют платные партнерские и реферальные программы для привлечения аудитории. "Наш анализ показывает, что создатели таких сервисов стремятся закрепиться в нише взрослого контента, — говорит Лакатос. — Скорее всего, они продолжат интегрировать свои сервисы в индустрию взрослого контента — и эту тенденцию необходимо пресекать как технологическим гигантам, так и легальным производителям контента 18+". Многие проблемы, связанные с тем, что технологические компании позволяют платформам для раздевания использовать свои системы, хорошо известны. На протяжении многих лет технические журналисты сообщали, как индустрия дипфейков использует для своей деятельности популярные платежные сервисы, рекламу в социальных сетях, продвижение через поисковые системы и технологии крупных компаний. Тем не менее, до сих пор никаких комплексных мер противодействия принято не было. Размер имеет значение? Развеяны десять заблуждений о сексе, которые разрушают вашу жизнь. Вас это удивит "С 2019 года приложения для раздевания превратились из кустарных проектов в профессиональный незаконный бизнес с миллионами пользователей, — отмечает эксперт по ИИ и дипфейкам Генри Адждер (Henry Ajder), который первым в 2020 году раскрыл масштабы роста экосистемы „нудификации“. —Только когда компании, обслуживающие эти приложения, начнут активно противодействовать их „’извращенной бизнес-модели“, мы увидим реальный прогресс в ограничении доступа и монетизации таких сервисов", — заявил он. Появились признаки того, что сайты для раздевания меняют тактику, чтобы избежать блокировок. Как сообщал в прошлом году WIRED, эти платформы использовали системы единого входа от Google, Apple и Discord для быстрой регистрации пользователей. После публикации многие аккаунты разработчиков были отключены. Однако, как отмечает The Indicator, 54 из 85 сайтов по-прежнему используют систему входа через Google, применяя новые методы обхода блокировок. Согласно отчету, создатели сайтов теперь задействуют "промежуточные страницы", маскирующие настоящий URL при регистрации, чтобы избежать обнаружения. Хотя технологические компании и регуляторы годами медлили с борьбой против злоупотреблений дипфейками, в последнее время наметился прогресс. Городской прокурор Сан-Франциско подал в суд на 16 сервисов, создающих изображения без согласия людей. Microsoft выявила разработчиков, стоящих за дипфейками знаменитостей, а Meta** подала иск против компании, которая, по ее данным, неоднократно размещала рекламу приложения для раздевания на своей платформе. Параллельно в мае президент США Дональд Трамп подписал спорный закон Take It Down, обязывающий технологические компании оперативно удалять материалы с недобровольным обнажением. В Великобритании же правительство и вовсе запретило создание откровенных дипфейков. Эти меры могут ослабить некоторые сервисы, но для реального воздействия нужны более жесткие меры. Манцарлис считает, что ужесточение политик технологических компаний сократит аудиторию и доходы таких платформ. "Да, они переместятся в менее регулируемые уголки интернета — пусть. Если доступ усложнится, их влияние уменьшится. Этот токсичный продукт эпохи ИИ нельзя отменить, но можно серьезно ограничить". *организация внесена в список иноагентов, ее деятельность признана нежелательной в Российской Федерации**организация признана экстремистской, ее деятельность запрещена в России