Dovoljna je jedna jasna fotografija lica. Ona s Instagrama, Facebooka, LinkedIna ili neke druge platforme na kojoj ste podijelili svoju fotografiju.
Žena ne mora nikada snimiti intimnu fotografiju, izgubiti mobitel ili biti žrtva hakiranja da bi njezino lice završilo u seksualiziranom sadržaju na internetu.
Takav sadržaj danas se može vrlo jednostavno stvoriti uz pomoć umjetne inteligencije. Može biti potpuno izmišljen. Posljedice nisu.
Pravni vakuum unatoč nastojanjima zakonodavaca i regulatora i dalje je prisutan, dok žrtve kao i u svim oblicima nasilja, uvijek izvuku ‘deblji kraj’.
Problem nije samo teoretski ni ograničen na druge zemlje. Prema istraživanju “Percepcija umjetne inteligencije u RH”, koje su 2025. proveli Prizma CPI i Sveučilište Algebra Bernays, 59 posto hrvatskih građana zabrinuto je jer ne može razlikovati sadržaj koji je stvorio AI od onoga koji je stvorio čovjek. Istraživanje je provedeno na reprezentativnom uzorku opće populacije, a pokazalo je i visoku zabrinutost građana zbog mogućeg utjecaja AI-ja na javno mnijenje kroz lažne vijesti, dezinformacije i manipulacije.
Istraživanje “Percepcija umjetne inteligencije u RH”
Ta nesigurnost postaje posebno problematična kada se fotografija ili video stvarne osobe pojavi u seksualiziranom kontekstu koji nikada nije postojao.
Digitalno nasilje nad ženama nije počelo s AI-jem. Prijetnje, uznemiravanje, seksualizirano ponižavanje i dijeljenje intimnog sadržaja bez pristanka postoje godinama. Generativni AI sada takve postupke može učiniti jednostavnijima, bržima i dostupnijima većem broju ljudi.
UN Women upozorava da AI istodobno stvara nove oblike nasilja nad ženama i pojačava postojeće. Među njima su deepfakeovi, lažno predstavljanje, seksualno ucjenjivanje i drugi oblici digitalnog nasilja.
UN Women – AI-powered online abuse
Više nije potrebna ni posebna vještina
Koliko je tehnologija postala dostupna pokazuje istraživanje Oxford Internet Institutea iz 2025. Istraživači su pronašli gotovo 35.000 javno dostupnih varijanti modela za izradu deepfake fotografija prepoznatljivih osoba. Od studenoga 2022. preuzete su gotovo 15 milijuna puta. Čak 96 posto analiziranih modela ciljalo je prepoznatljive žene, od globalno poznatih osoba do korisnica društvenih mreža s relativno malim brojem pratitelja.
Oxford Internet Institute – Dramatic rise in publicly downloadable deepfake image generators
Istraživanje je pokazalo i koliko je malo potrebno za stvaranje pojedinih modela: neke varijante mogu se izraditi uz 20 fotografija ciljane osobe, ‘obično’ računalo i oko 15 minuta obrade.
Đuro Lubura, sudski vještak za telekomunikacije koji se bavi i sigurnosnim, regulatornim i društvenim aspektima AI-ja, završio je Oxford Artificial Intelligence Programme na Sveučilištu u Oxfordu te posjeduje međunarodni AIGP certifikat iz područja upravljanja AI-jem.
Lubura kaže da je stvaranje seksualiziranog deepfake sadržaja danas tehnički vrlo jednostavno, osobito kada je riječ o fotografiji.
“Za osnovni, a često i prilično uvjerljiv rezultat dovoljna je jedna jasna fotografija lica, dok nekoliko fotografija iz različitih kutova znatno poboljšava rezultat. Postoje internetske usluge i aplikacije koje gotovo cijeli postupak automatiziraju, pa korisniku nisu potrebni ni posebno znanje ni snažno računalo. Rezultat se može dobiti za nekoliko minuta.”
Kod videa je potrebno više materijala i znanja, osobito ako treba prikazati prirodne pokrete, osvjetljenje i govor. No deepfake ne mora biti tehnički savršen da bi napravio štetu.
“Na društvenim mrežama sadržaj se često pogleda kratko, na malom ekranu i bez ikakve provjere”, kaže Lubura.
Zašto su žene toliko često meta?
Podaci o zloupotrebi deepfake tehnologije imaju jasnu rodnu dimenziju.
UN Women navodi procjene prema kojima 90 do 95 posto svih online deepfakeova čini ne-konsenzualni pornografski sadržaj, a oko 90 posto prikazanih osoba su žene. Prema drugoj procjeni koju također navodi UN Women, pornografski deepfakeovi čine 98 posto svih deepfake videa, dok žene čine 99 posto osoba prikazanih u takvom sadržaju.
UN Women – AI-powered online abuse
Zato pitanje deepfakeova nije samo pitanje nove tehnologije. Ono je i pitanje nasilja nad ženama.
AI nije stvorio nasilje nad ženama. Otvorio je nove načine na koje se postojeći obrasci mogu automatizirati i proširiti.
Za žrtvu pritom nije presudno je li fotografija ili video stvaran u tehničkom smislu. Ako njezino lice postane dio seksualiziranog sadržaja koji nikada nije postojao, šteta je stvarna.
I hrvatski zakon prepoznaje problem
Hrvatski Kazneni zakon kroz članak 144.a, “Zlouporaba snimke spolno eksplicitnog sadržaja”, predviđa kaznenopravnu zaštitu u slučajevima kada netko izradi novu ili preinači postojeću snimku spolno eksplicitnog sadržaja i uporabi je kao pravu, uz uvjete propisane zakonom.
Za osnovni oblik predviđena je kazna zatvora do 1 godine, a ako takav sadržaj postane dostupan većem broju osoba, do 3 godine zatvora.
Prema MUP-ovu Statističkom pregledu temeljnih sigurnosnih pokazatelja i rezultata rada u 2025. godini, u Hrvatskoj je tijekom 2025. evidentirano 47 kaznenih djela iz članka 144.a Kaznenog zakona, koji obuhvaća zlouporabu snimke spolno eksplicitnog sadržaja. MUP-ova statistika pritom ne izdvaja koliko se tih slučajeva odnosi upravo na AI-generirani ili deepfake sadržaj.
EU ide korak dalje
Europski parlament je 16. lipnja 2026. dao konačno odobrenje izmjenama pravila EU-a kojima se uvodi zabrana AI sustava koji stvaraju slike, videozapise ili audiozapise s prikazom intimnih dijelova tijela prepoznatljive osobe ili seksualno eksplicitnih aktivnosti bez njezina pristanka. Riječ je i o tzv. nudifier alatima, koji fotografiju stvarne osobe mogu pretvoriti u prikaz koji izgleda kao da je osoba gola.
Europski parlament – AI Act i zabrana “nudifier” aplikacija
Istodobno, od 2. kolovoza 2026. počinju se primjenjivati obveze transparentnosti iz AI Acta. One, među ostalim, predviđaju označavanje određenog deepfake sadržaja u slučajevima na koje se pravila odnose, kako bi korisnici mogli prepoznati da je sadržaj umjetno generiran ili izmijenjen.
Europska komisija – obveze transparentnosti AI Acta
Za određene AI sustave koji su već bili stavljeni na tržište prije 2. kolovoza 2026. predviđen je prijelazni rok do 2. prosinca 2026. za tehničko označavanje i mogućnost detekcije takvog sadržaja. Dakle, 2. kolovoza i 2. prosinca nisu 2 različita datuma za istu obvezu: prvi označava početak primjene pravila transparentnosti, a drugi prijelazni rok za određene postojeće sustave.
Kada je riječ o nudifier alatima, tvrtke imaju do 2. prosinca 2026. za usklađivanje svojih sustava s novim pravilima. Nakon toga AI sustavi koji su obuhvaćeni zabranom ne smiju biti dostupni na tržištu EU-a.
Europski parlament – AI Act i zabrana “nudifier” aplikacija
No regulacija ne može izbrisati sadržaj koji je već napravljen niti spriječiti njegovo kopiranje i ponovno objavljivanje.
Zato je za osobu koja otkrije da je njezino lice iskorišteno najvažnije reagirati brzo.
Što napraviti ako se dogodi?
Prva reakcija može biti želja da sadržaj što prije nestane. No prije prijave i uklanjanja treba sačuvati dokaze, upozorava Lubura.
“Najvažnije je odmah sačuvati dokaze, prije nego što sadržaj bude izbrisan ili premješten.”
To znači napraviti snimke zaslona, sačuvati punu internetsku adresu, korisničko ime, datum i vrijeme objave te povezane poruke. Ako je moguće, treba sačuvati i izvornu datoteku. Nakon toga sadržaj treba prijaviti platformi i zatražiti njegovo uklanjanje, a slučaj prijaviti policiji.
Lubura također upozorava da nije dobro pregovarati s počiniteljem, plaćati mu ili bez dovoljno dokaza javno prozivati osobu za koju se sumnja da stoji iza sadržaja.
Počinitelja ponekad je moguće povezati s konkretnim računom analizom digitalnih tragova, uključujući podatke o korisničkom računu, IP adresama, uređajima, komunikaciji ili zapisima platforme. No to nije uvijek moguće i ovisi o tome koliko su podaci dostupni, koliko je brzo slučaj prijavljen i je li počinitelj pokušao prikriti svoj identitet.
“U praksi je često lakše povezati širenje sadržaja s konkretnim računom nego pouzdano utvrditi tko je izradio prvi primjerak”, kaže Lubura.
U svojoj vještačkoj praksi susretao se s analizom digitalnih tragova i identifikacijom korisnika koji su širili seksualno eksplicitne sadržaje, ali još nije radio na predmetu u kojem je takav sadržaj bio izrađen deepfake tehnologijom.
To samo pokazuje koliko je tehnologija brzo stigla do korisnika. Alati postaju dostupniji, a granica između stvarnog i izmišljenog sadržaja sve je teže vidljiva.
Deepfake se dugo predstavljao kao problem budućnosti, nešto što će jednog dana promijeniti način na koji vjerujemo fotografijama i videima.
Za ženu čije je lice već iskorišteno bez njezina pristanka, budućnost je već stigla.
Za takav napad više nije potrebna nečija intimna fotografija. Nažalost, dovoljno je imati, tek njezino lice.
Izradu i objavljivanje serijala tekstova pod naslovom Kako se žene snalaze u digitalnoj ekonomiji: algoritmi ih više targetiraju a poslovi brže nestaju, autorice Tanje Ivančić Belošević, financijski je podržala Agencija za medije kroz projekt Poticanja novinarske izvrsnosti za 2026. godinu.