Európska únia sprísňuje pravidlá používania umelej inteligencie, pričom nové povinnosti sa výrazne dotknú aj pornografického priemyslu. Nariadenie známe ako AI Act, ktorého podstatná časť sa začala uplatňovať 2. augusta 2026, stanovuje pravidlá pre vytváranie obsahu pomocou umelej inteligencie, používanie virtuálnych modeliek, overovanie veku používateľov či automatizované moderovanie obsahu. Nové požiadavky sa pritom nemusia týkať iba európskych spoločností, ale aj zahraničných prevádzkovateľov, ktorých systémy umelej inteligencie sa používajú na území Európskej únie.
Umelá inteligencia nachádza v pornopriemysle čoraz širšie využitie. Okrem generovania obrázkov a videí ju prevádzkovatelia používajú na vytváranie virtuálnych spoločníčok, komunikáciu so zákazníkmi, odporúčanie obsahu, odhaľovanie podvodov či kontrolu nahrávaných materiálov. Práve tieto technológie však môžu predstavovať riziko pre súkromie a osobné práva používateľov aj účinkujúcich. Pornografické platformy totiž často pracujú s mimoriadne citlivými údajmi vrátane intímnych fotografií, biometrických informácií, sexuálnych preferencií či histórie sledovaného obsahu.
Jednou z najvýznamnejších zmien je povinnosť transparentne informovať používateľov o využívaní umelej inteligencie. Ak zákazník komunikuje s chatbotom alebo virtuálnou spoločníčkou vytvorenou pomocou AI, musí byť zrozumiteľne upozornený, že nekomunikuje so skutočným človekom. Nestačí pritom iba nenápadná zmienka v obchodných podmienkach. Podobné požiadavky sa vzťahujú aj na takzvané deepfake videá a fotografie, pri ktorých umelá inteligencia vytvára alebo upravuje podobu skutočných osôb. Takýto obsah musí byť v prípadoch stanovených nariadením jasne označený, aby divák vedel, že nejde o autentický záznam. Samotný digitálny vodoznak nemusí byť na splnenie tejto povinnosti postačujúci.
Osobitnú pozornosť venuje európska legislatíva zneužívaniu umelej inteligencie na vytváranie intímneho obsahu bez súhlasu zobrazovaných osôb. Od 2. decembra 2026 začnú platiť nové zákazy týkajúce sa AI systémov určených na generovanie alebo úpravu takýchto materiálov. Regulácia sa zameriava napríklad na nástroje, ktoré dokážu z bežnej fotografie človeka vytvoriť falošný nahý záber alebo pornografické video. Zakázané budú aj systémy určené na vytváranie materiálov zobrazujúcich sexuálne zneužívanie detí vrátane syntetického obsahu. Prevádzkovatelia preto budú musieť venovať zvýšenú pozornosť tomu, aké generatívne nástroje ponúkajú a akým spôsobom zabraňujú ich zneužitiu.
Nové pravidlá sa dotknú aj samotných pornohercov a pornoherečiek. Produkčné spoločnosti by mali vo svojich zmluvách presnejšie upravovať podmienky používania digitálnej podoby účinkujúcich. Súhlas s natočením klasického pornografického filmu totiž automaticky neznamená súhlas s vytvorením digitálnej kópie tváre, klonovaním hlasu alebo generovaním úplne nových scén pomocou umelej inteligencie. Zmluvy by preto mali jasne určovať, na aké účely možno podobu účinkujúcich používať, ako dlho môže súhlas platiť, za akých podmienok ho možno odvolať a či za ďalšie využitie digitálnej identity prináleží účinkujúcemu odmena.
Významnou oblasťou je aj ochrana osobných a biometrických údajov. AI Act zakazuje určité využitie biometrických systémov na odvodzovanie citlivých charakteristík človeka vrátane jeho sexuálneho života alebo sexuálnej orientácie. Pornografické platformy by preto nemali využívať nástroje, ktoré by sa pokúšali takéto informácie určovať napríklad na základe tváre, hlasu alebo telesných znakov. Samotné odporúčanie videí podľa predchádzajúceho správania používateľa nie je automaticky zakázané, no spracúvanie histórie sledovania môže podliehať prísnym pravidlám ochrany citlivých osobných údajov podľa GDPR.
Diskusiu vyvoláva aj používanie umelej inteligencie pri overovaní veku návštevníkov pornografických stránok. Niektoré systémy dokážu odhadnúť vek človeka na základe fotografie jeho tváre, čo však prináša otázky týkajúce sa presnosti aj ochrany súkromia. Prevádzkovatelia musia posúdiť, ako sa získané údaje ukladajú, či sa používajú na ďalší tréning AI modelov a ako možno riešiť nesprávne vyhodnotenie veku. Za vhodnejšie riešenie sa považujú technológie, ktoré dokážu potvrdiť plnoletosť používateľa bez toho, aby pornografická stránka musela uchovávať jeho občiansky preukaz, fotografiu tváre alebo kompletné identifikačné údaje.
Umelá inteligencia sa čoraz častejšie využíva aj pri moderovaní pornografického obsahu. Automatizované systémy dokážu identifikovať potenciálne nezákonné materiály, podozrivé nahrávky, podvody či spam. Takéto nástroje nie sú automaticky považované za vysokorizikové, ich prevádzkovatelia by však mali pravidelne kontrolovať presnosť rozhodovania a zabezpečiť možnosť ľudského preskúmania závažných rozhodnutí. Osobitné pravidlá sa môžu vzťahovať na AI systémy používané pri nábore pracovníkov, hodnotení účinkujúcich alebo rozhodovaní o ich pracovných príležitostiach. Hlavné povinnosti pre príslušné vysokorizikové systémy majú začať platiť 2. decembra 2027.
Porušenie európskych pravidiel môže mať pre prevádzkovateľov závažné finančné následky. Za najzávažnejšie porušenia týkajúce sa zakázaných postupov umelej inteligencie môžu príslušné orgány uložiť pokutu až do výšky 35 miliónov eur alebo 7 % celosvetového ročného obratu spoločnosti, podľa toho, ktorá suma je vyššia. Pri ďalších porušeniach vrátane nesplnenia požiadaviek na transparentnosť môžu sankcie dosiahnuť 15 miliónov eur alebo 3 % celosvetového ročného obratu. Pri stanovovaní pokút sa však zohľadňujú aj osobitné pravidlá a proporcionalita, najmä pri menších podnikoch.
Odborníci preto odporúčajú prevádzkovateľom pornografických platforiem preveriť všetky systémy umelej inteligencie, ktoré používajú, aktualizovať zmluvy s účinkujúcimi a dodávateľmi technológií a zaviesť jasné pravidlá označovania syntetického obsahu. Dôležité bude aj uchovávanie dokumentácie o dodržiavaní predpisov a zabezpečenie možnosti preskúmania automatizovaných rozhodnutí človekom. Hoci nové pravidlá predstavujú pre pornopriemysel ďalšiu administratívnu a finančnú záťaž, ich cieľom je predovšetkým zabrániť zneužívaniu digitálnej identity, chrániť súkromie používateľov a zabezpečiť, aby rozvoj umelej inteligencie neprebiehal na úkor práv skutočných ľudí.
Späť na najnovšie správy
Nové pravidlá EÚ pre umelú inteligenciu zasiahnu aj pornopriemysel. Platformám hrozia miliónové pokuty
Nové pravidlá Európskej únie pre umelú inteligenciu zasahujú aj pornopriemysel. AI Act prináša povinnosti pri označovaní obsahu vytvoreného umelou inteligenciou, ochrane digitálnej identity účinkujúcich či používaní virtuálnych modeliek. Za porušenie pravidiel hrozia prevádzkovateľom platforiem miliónové pokuty.
