Zatiaľ čo takéto videá, často nazývané deepfakes, existujú na internete už roky, pokroky v umelej inteligencii a rastúca dostupnosť tejto technológie toto zneužívanie uľahčili.
Revízia webu NBC News na dvoch najväčších webových stránkach, ktoré hosťujú sexuálne explicitné falošné videá zistila, že sú ľahko dostupné cez Google a že tvorcovia na predaj týchto videí používajú platformu Discord a najznámejšie platobné spoločnosti.
Čo to vlastne je?
Deepfake sa vytvára pomocou softvéru AI, ktorý dokáže nasnímať existujúce video a bez problémov nahradiť tvár jednej osoby inou, dokonca zrkadlí výrazy tváre. Niektoré odľahčené a falošné videá celebrít sa stali virálnymi, no najčastejšie sa používajú sexuálne explicitné videá.
Extrémny nárast fake porna
Deepfake porno nedávno vzbudil prudký nárast po tom, čo sa populárny livestreamer priznal, že sa pozrel na sexuálne explicitné deepfake videá iných livestreamerov. Práve v tom čase sa vyhľadávanie falošného porna na Googli extrémne zvýšilo.
Nárast sa tiež zhodoval so zvýšením počtu videí nahraných na MrDeepFakes, jednu z najvýznamnejších webových stránok vo svete deepfake porna. Webová stránka obsahuje tisíce sexuálne explicitných hlboko falošných videí, ktoré si môžete pozrieť zadarmo. Podľa webovej analytickej firmy SimilarWeb má 17 miliónov návštevníkov mesačne.
Vo vyhlásení pre NBC News hovorca Google uviedol, že ľudia, ktorí sú predmetom deepfake, môžu požiadať o odstránenie stránok z Vyhľadávania Google, ktoré obsahujú „nedobrovoľnú falošnú pornografiu“.
Nie sú to len známe osobnosti
Noelle Martin, právnička a právnička zo Západnej Austrálie, ktorá pracuje na zvyšovaní povedomia o sexuálnom zneužívaní podporovanom technológiou, uviedla, že na základe jej rozhovorov s inými osobami, ktoré prežili sexuálne zneužívanie, je čoraz bežnejšie, že obeťami takéhoto zneužívania sa stávajú neznáme osobnosti.
„Cieľom je čoraz viac ľudí,“ povedala Martin, ktorá bola sama terčom falošného sexuálneho zneužívania. „V skutočnosti stále častejšie počúvame o obetiach z radov obyčajných ľudí,“ prezradila.
Znovu je tam Visa a Matercard
Videá na MrDeepFakes sú zvyčajne len niekoľko minút dlhé a fungujú ako upútavky na oveľa dlhšie deepfake videá, ktoré sú zvyčajne dostupné na zakúpenie na inej webovej stránke: Fan-Topia. Tam môžu zaplatiť za prístup ku knižniciam deepfake videí bez problémov svojimi kreditnými kartami.
Visa a Mastercard už v minulosti zakročili proti ich používaniu ako spracovateľov platieb pre sexuálne videá, na stránke Fan-Topia však stále ostávajú. Po kauze z decembra 2020, kedy na stránke Pornhub mal byť umiestnený materiál s detskou pornografiou, tieto spoločnosti vydávajúce kreditné karty zrušili spoluprácu z porno stránkou a vo veľkom sa dištancovali. „Pravidlá Visa výslovne a jednoznačne zakazujú používanie našich produktov na platby za obsah, ktorý zobrazuje nekonsenzuálne sexuálne správanie,“ povedal vo vyhlásení predseda predstavenstva Visa Al Kelly.
Využívali aj Discord
Niektorí deepfake tvorcovia prijímajú požiadavky prostredníctvom platformy Discord. Napriek tomu, že aj ich pravidlá jasne zakazujú „obsah alebo správania, ktoré sexualizuje alebo sexuálne ponižuje ostatných bez ich zjavného súhlasu.“
NBC News preskúmala ďalšie komunity Discord, ktoré sa venujú vytváraniu sexuálne explicitných hlbokých falošných obrázkov prostredníctvom metódy vývoja AI známej ako Stable Diffusion, z ktorých jedna obsahovala nekonsenzuálne snímky celebrít a bola ukončená po tom, čo NBC News požiadala o komentár. Discord vo vyhlásení uviedol, že výslovne zakazuje „propagáciu alebo zdieľanie nekonsenzuálnych deepfake“.
Emma Watson a Scarlett Johansson
Od streamerov až po ženy, ktoré hrajú vo vysokorozpočtových franšízach. Vo falošných videách na Fan-Topia a MrDeepFakes využijú tvár naozaj každého. Dve ženy, ktoré sa podľa rebríčka webovej stránky vyskytujú v najväčšom obsahu na MrDeepFakes, sú herkečky Emma Watson a Scarlett Johansson. „Skutočnosť, že tieto stránky sú populárne a stále v prevádzke, je katastrofálna vizitka všetkých regulačných systémov a orgánov činných v trestnom konaní,“ hovorí právnička Martin.
Vo svete však existuje len veľmi málo právnych možností, ktoré môžu bojovať proti tejto forme sexuálneho zneužívania. V USA iba štyri štáty schválili legislatívu týkajúcu sa konkrétne deepfake. Tento mesiac sa k nim pridala už aj Čína. Čo sa týka Európskej únie, deepfake videá a obrázky majú byť zahrnuté v novom zákone o umelej inteligencii na ktorom sa zatiaľ len pracuje.