Najprv v noci, potom v digitálnom priestore

Anonymný používateľ, skrývajúci sa za profilom Woman Shot A.I na YouTube, zverejnil od 20. júna 2025 do polovice septembra videá s názvami Japonské školáčky postrelené do prsníka, Sexy hospodynka postrelená do prsníka, Tragický koniec reportérky a Headshot AI. Obsah generovaný umelou inteligenciou, ktorý zobrazoval ženy prosiace o milosť len niekoľko sekúnd predtým, ako boli bodnuté, postrelené do hrude alebo sťaté, mal viac ako tisíc sledovateľov a viac ako 175 000 videní. Woman Shot A.I stvárňovala ich fantázie pomocou Veo 3, nástroja Google AI Studio, ktorý „prináša väčší realizmus… a ponúka bezprecedentnú kontrolu, aby ste mohli zrealizovať svoje najambicióznejšie vízie“.

A tu nehovoríme o internetovom undergrounde, o prehrabávaní sa v cudzej špinavej bielizni, ketamíne a strelive, ale o videách dostupných na globálnej video platforme, ktorú denne používajú milióny dospelých a detí. Skutočnosť, že žiadny z existujúcich overovacích mechanizmov nedokázal tento problém odhaliť – najskôr vo Veo 3, ktorý údajne blokuje všetky výzvy, ktoré sú v rozpore s politikami a smernicami spoločnosti Google, a potom na YouTube – dokazuje, ako povrchne sa pristupuje k násiliu páchanému na ženách. Sporný profil bol odstránený až potom, čo nezávislý portál 404 Media o tomto prípade informoval a požiadal YouTube o odpoveď – inými slovami, až keď sa Woman Shot A.I stal potenciálnym problémom pre PR. Kým si napĺňali vrecká, sexuálne explicitný obsah a násilný materiál, zakázaný na papieri, ich radar nezaznamenal.

Skutočné hranice deepfake

Vizuálne materiály vytvorené umelou inteligenciou, ktoré nemajú žiadny základ v realite (k tejto formulácii sa ešte vrátim), sa označujú ako deepfakes. Prvý zaznamenaný kontext, v ktorom sa tento termín použil, odhaľuje jeho pôvodný účel, ktorý je nápadne podobný použitiu v prípade Woman Shot A.I: už v roku 2017 členovia fóra subredditu s názvom r/deepfakes vkladali tváre slávnych žien do existujúcich pornografických materiálov. Panika spojená s vniknutím umelej inteligencie do všetkých sfér nášho života sa vo veľkej miere zameriavala na politický kontext a deštruktívny potenciál technológie, ktorá vytvára falošné histórie a šíri nenávisť, prenasleduje jednotlivcov a konkrétne sociálne skupiny. Málokto však pristupuje s rovnakou vážnosťou k problému používania umelej inteligencie na ponižovanie a zastrašovanie žien – to znamená na vytváranie a šírenie mizogýnie prostredníctvom deepfake pornografie a živenia fantázií o vraždení žien, a to pomocou aplikácií a programov, ktoré sú dostupné každému.

Nie je náhodou, že spomínané názvy kontroverzného deepfake obsahu znejú ako hybridy kriminálnych správ a materiálu z Pornhubu. V každom z 27 odstránených videí sa nad vystrašenou ženou týči hrozivá mužská postava chrbtom otočená k divákom, v rukách zbraň, z ktorej padajú výstrely.

Štatistiky nám pravidelne pripomínajú, že fantázie o zabíjaní a mrzačení ženského tela nie sú ničím novým1, rovnako ako pokusy diskreditovať a kontrolovať ženy tým, že ich asociujeme so sexom a sexualitou. Cieľ zostáva rovnaký, ale prostriedky a metódy sú teraz technologicky sofistikovanejšie. V dôsledku toho sa každý, kto má na karte pár dolárov a nekalé úmysly, môže pomstiť svojej bývalej partnerke tým, že ju digitálne vyzlečie pomocou umelej inteligencie a zdieľa jej nahé fotografie s priateľmi na WhatsAppe. Stačí na to len pár jej fotografií, čo v dobe extrémnej technologickej závislosti zvyčajne nie je vôbec ťažké, a hotovo. Keď si obeť uvedomí, čo sa stalo – ak to vôbec zistí –, je už príliš neskoro.

Pornografický materiál sa – ako šváby – zavŕta hlboko do počítačov, notebookov a iných elektronických zariadení, do cloudov a digitálnych komôr, kde je schopný prežiť aj jadrovú katastrofu. Hoci by sme radi verili, že vieme rozlíšiť realitu od umelo generovaného obsahu, umelá inteligencia sa učí a vyvíja takou rýchlosťou, že je už schopná oklamať aj technologicky najzdatnejšie oči. V praxi to znamená, že hranice našich svetov sa stále viac stierajú. Aj keď sa niečo v skutočnosti nestalo, stáva sa súčasťou našej reality jednoducho tým, že s tým interagujeme a konzumujeme to. Realita generovaná umelou inteligenciou má reálne dôsledky; obete deepfake pornografie často porovnávajú svoju skúsenosť so znásilnením.2

Psychoterapia nie je v cene

Deepfakes sa stávajú nástrojom vydierania, manipulácie a zastrašovania. Vo svojej knihe The New Age of Sexism (Nová éra sexizmu) britská novinárka a aktivistka Laura Bates vezme čitateľov a čitateľky do kedysi pokojného španielskeho mestečka Almendralejo, kde sa v septembri 2023 stalo viac ako 20 stredoškolských dievčat terčom útoku umelej inteligencie. Ich nahé fotografie, vytvorené pomocou aplikácie ClothOff, začali kolovať v miestnych skupinách WhatsApp a na internete, čo spôsobilo, že mnohé obete – najmladšia mala v tom čase len 11 rokov – celé dni odmietali vyjsť z domu. Páchatelia boli identifikovaní ako skupina chlapcov, ich rovesníkov, ktorí z čírej nudy traumatizovali celú miestnu generáciu dievčat.

Ale skôr ako začneme hádzať kamene do chlapcov, myslím si, že je oveľa dôležitejšie riešiť skutočnosť, že verejne dostupné aplikácie na vyzliekanie kohokoľvek, najmä maloletých, vôbec existujú. Správanie týchto adolescentov by sme nemali vnímať ako ojedinelý incident. Ich rozhodnutie sexualizovať a ponižovať svoje spolužiačky by sme mali skôr interpretovať v širšom sociálnom kontexte, v ktorom je násilie voči ženám bežne prezentované ako niečo normálne – dalo by sa povedať, že ako bremeno toho, že je človek ženou.

Keďže technologickí giganti kŕmia svoje stroje informáciami presiaknutými dominantnými hodnotami a ideológiami spoločností, z ktorých pochádzajú, technológia iba udržiava existujúce mocenské vzťahy. Preto napríklad systémy rozpoznávania tváre nedokážu rozpoznať tváre čiernych žien a mnoho aplikácií na vyzliekanie nefunguje, keď sú kŕmené fotografiami mužov. Najdoslovnejší príklad tohto ideologického zrkadlenia možno nájsť v dizajne novej generácie ženských sexuálnych robotiek, ktoré, ako sa dozvedáme z propagačného videa produktu RealDoll, „pre vás spravia všetko“, čo z nich v kombinácii s postavou v tvare presýpacích hodín, bielou pokožkou a personalizovanými bradavkami robí údajne dokonalé partnerky. Možno len dúfať, že v astronomickej cene 11 349,99 dolárov za Tanyu je zahrnutý aj psychológ.

Viac než trest

Rovnako ako v prípade iných foriem rodovo podmieneného násilia, vzdelávanie o hrôzach moderných technológií zvyčajne obsahuje odsek o tom, ako by dievčatá a ženy mali byť v digitálnom priestore opatrnejšie, dávať pozor na to, koho prijímajú za priateľov a aké fotografie zdieľajú, pretože, viete, na internete je veľa bláznov. Namiesto toho, aby sa pozornosť sústredila na páchateľov alebo technologické spoločnosti, ako je Meta, na ktorých platformách sa pravidelne inzerujú aplikácie na výrobu deepfakeov, alebo na Google a YouTube, ktorých kontrolné mechanizmy zjavne nedokážu rozpoznať explicitný obsah, vina sa opäť prenáša na obete. Prečo je jediným riešením, ktoré vieme priniesť, návrh umlčať ženy a obmedziť ich slobodu pohybu, najprv v noci a teraz aj v digitálnom priestore?

Bates bystro dochádza k záveru, že jedinou dobrou vecou na technológii umelej inteligencie je to, že konečne objasnila, že obete pomstychtivej pornografie nikdy neboli zodpovedné za zločiny a utrpenie, ktoré im bolo spôsobené: „Veľkou iróniou je, že samotná existencia deepfakeov priamo dokazuje absurdnosť obviňovania obetí. Keď sa po prvýkrát objavilo sexuálne zneužívanie prostredníctvom obrázkov, … jednou z najčastejších reakcií na tento problém … bol samozrejme návrh, aby si ženy prestali robiť intímne fotografie… A potom prišla technológia deepfake, ktorá úplne vyvrátila predstavu, že ženy, ktoré si nikdy nerobili intímne fotografie, sú nejako chránené pred pornografickým zneužívaním. Ako smiešne teraz vyzerajú všetci tí policajti, riaditelia škôl a publicisti, keď akákoľvek žena, kdekoľvek, bez ohľadu na to, či niekedy takéto fotografie robila, môže mať stále nahé fotografie seba samej rozšírené po celom internete, ktoré sa používajú na jej viktimizáciu a zahanbenie. Kým sme boli takí zaneprázdnení kontrolovaním žien, páchatelia s radosťou využili čas na vývoj čoraz sofistikovanejších nástrojov na ich „vyzliekanie“.

„Nekonsenzuálne porno“, na rozdiel od už používaného slovného spojenia „porno ako pomsta“, uznáva, že dôvod, prečo sa niekto rozhodne zdieľať intímny obsah inej osoby bez jej súhlasu, môže byť komplexnejší ako číra pomsta. V prípade Almendralejo bola najdôležitejšia túžba získať popularitu medzi rovesníkmi. A nezabúdajme na výnosy z odvetvia, ktorého hodnota dosahuje najmenej 15 miliárd USD, pričom niektoré nedávne odhady hovoria až o 100 miliardách USD.

Nedávny prípad týkajúci sa použitia chatbota Grok s umelou inteligenciou, produktu spoločnosti xAI Elona Muska, na odhaľovanie skutočných dospelých a maloletých, nakoniec potvrdzuje tézu, že pre technologických gigantov je zisk vždy na prvom mieste. Na Nový rok 2026 Musk zdieľal na svojej sociálnej sieti X fotografiu seba v plavkách, ktorú vytvoril pomocou Groku, a vyzval ostatných používateľov, aby urobili to isté – samozrejme nie so svojimi vlastnými fotografiami. Až potom, čo médiá informovali o záplave kontroverzného deepfake obsahu na bývalom Twitteri, Musk pohrozil „dôsledkami“ každému, kto používa Grok na vytváranie detskej pornografie. Krátko nato začal za službu tvorby obsahu pomocou umelej inteligencie účtovať poplatky. V kombinácii s oznámením generálneho riaditeľa OpenAI Sama Altmana, že ChatGPT bude čoskoro disponovať režimom pre dospelých, je úplne jasné, že používanie umelej inteligencie na uspokojovanie pornografických fantázií používateľov, bez ohľadu na to, či sú nevinné, alebo patologické, sa intenzívne podporuje.

Všetky členské štáty Európskej únie (EÚ) spoločne uznali nebezpečenstvo technológie umelej inteligencie. Napríklad v Chorvátsku od roku 2022 článok 144.a trestného zákona umožňuje odsúdiť páchateľa, ktorý vytvoril sexuálne explicitný obsah, na jeden rok odňatia slobody, s možnosťou predĺženia až na tri roky, ak bol záznam sprístupnený väčšiemu počtu ľudí. Otázkou však zostáva, ako táto jurisdikcia vyzerá v praxi. Chlapci z Almendraleja v Španielsku boli potrestaní, ale to bola skôr výnimka ako pravidlo. Hoci nenavrhujem, aby sme trestne stíhali ešte viac detí, nie je prijateľné, aby páchatelia vyviazli bez trestu, keď telá ich obetí zostávajú vydané na milosť a nemilosť nepredvídateľným internetovým prúdom, najmä keď asi 50 % obetí neoprávnenej pornografie uvažuje o samovražde.

Od videí mačičiek, ktoré sa naháňajú po posteliach, až po znepokojujúce obrázky Donalda Trumpa s nohou Elona Muska v ústach – každý, kto si ešte nevymazal sociálne médiá, vám povie, že internet sa zmenil na žumpu naplnenú po okraj umelou inteligenciou. Zavedenie prísnejšieho regulačného rámca je prvým krokom, ale len ideologická a intelektuálna zmena nás môže zachrániť z tejto dystopickej nočnej mory, do ktorej sa stále viac a viac ponárame. Samozrejme, je dôležité učiť deti od útleho veku, ako sa orientovať v nebezpečných digitálnych vodách, ale ešte dôležitejšie je naučiť ich empatii a solidarite, aby ich nikdy nenapadlo použiť školské fotografie svojich spolužiačok na vytvorenie falošného pornografického materiálu.