Reklamowana aplikacja (nie podamy celowo jej nazwy) zarówno na Facebooku jak i Instagramie oferowała możliwość wgrywania zdjęcia prawdziwych osób i umieszczania ich twarzy w wygenerowanych scenach seksualnych. Jak informuje WIRED, jedna z reklam pokazywała kobietę bardzo podobną do znanej amerykańskiej polityczki, a po chwili wyświetlała pornograficzne nagranie z tą samą twarzą.Powyższa ilustracja została syntetycznie wygenerowana z wykorzystaniem sieci neuronowej podczas procesu inferencji modelu generatywnego typu text-to-imageMeta nie weryfikuje reklam skutecznieAnaliza wykazała, że konto reklamodawcy wyświetlało 32 reklamy, wszystkie skierowane wyłącznie do mężczyzn. Co ciekawe, ponoć żadna z reklam nie zanotowała więcej niż 10 wyświetleń. Choć Meta deklaruje, że każdą reklamę sprawdza przed publikacją, to nie jest tajemnicą, że robią to głównie automaty, które nieuczciwi reklamodawcy obchodzą np. tak, że początkowe sekundy reklamy są niewinne, a “prawdziwa” treść pojawia się później. Jak zauważa WIRED, strona dotycząca aplikacji do rozbierania powstała 3 sierpnia i choć nie miała żadnych obserwujących, to bez problemu mogła wyświetlać reklamy. Apek do rozbierania jest więcej…I to nie jest odosobniony przypadek. Z analizy Tech Transparency Project wynika, że konta powiązane chińską spółką uruchomiły aż 7600 reklam aplikacji tego typu targetowanych na obszar Europy. Aż 179 z 210 badanych stron miało reklamy później usunięte za naruszenia zasad, ale część nadal reklamowała się po wcześniejszych blokadach. Co ciekawe, aplikacja do rozbierania była też dostępna w sklepie Apple, gdzie udawała apkę do obróbki zdjęć. Ale jeśli ktoś zapłacił, miał możliwość obróbki zdjęć w scenariuszach “seksulanych”. Apple apkę usunęło i twierdzi, że “niedozwolone funkcje mogły zostać dodane po weryfikacji”. Tego typu aplikacji — wciąż dostępnych — na oficjalanych platformach jest więcej. Choć nie reklamują się jako apki do rozbierania, pozwalają na tworzenie nagich materiałów ze wskazaną przez użytkownika twarzą. Warto o tym pamiętać, jeśli kiedyś zobaczycie “czyjeś rozbierane zdjęcia” lub “seks-taśmy”. Stworzenie tego typu materiałów dziś jest bardzo proste i możliwe przez każdego. Niestety udowodnienie, że nagranie nie jest prawdziwe, już takie proste nie jest. Zawsze ktoś nie uwierzy i zawsze dostanie lajka, niezależnie od tego jak fałszywy dowód na prawdziwość nagrania nie poda. Ale to samo działa też w drugą stronę — prawdziwe nagrania, które nie pasują komuś do tezy, są “obalane” poprzez nazywanie ich deepfejkami (patrz niedawna afera z wyjściem Netanjahu na kawę). Era, w której mogliśmy wierzyć temu co widzimy i słyszymy na nagraniach definitywnie się skończyła. A skutecznych wymagań prawnych i technicznych co do znakowania treści syntetycznych wciąż brak.