Preskoči na glavni sadržaj
Preskoči na podnožje
Zamislite da tražite posao. Na Facebooku i Instagramu svakodnevno vam se pojavljuju oglasi, stoga očekujete da bi među njima mogli biti i oni za radna mjesta koja vas zanimaju. No možda ih nećete ni vidjeti. Istraživanja pokazuju da algoritmi oglase za posao ne prikazuju svim korisnicima jednako: oglas za mjesto tajnice češće će vidjeti žene, a oglas za mehaničara muškarci. Još je problematičnije što žene mogu vidjeti i manje oglasa za posao od muškaraca, uključujući i poslove za koje su kvalificirane.
Nitko pritom ne mora izričito zatražiti takvu podjelu. Dovoljno je da algoritam, u nastojanju da postigne što bolji rezultat uz što niži trošak, nauči obrasce iz postojećih podataka i počne ih primjenjivati. Tako diskriminacija može nastati i bez svjesne odluke da se nekoga isključi.
Problem se ne svodi samo na to što žene i muškarci ne vide iste oglase. Algoritmi na društvenim mrežama oblikuju i koje ćemo poslovne prilike, proizvode i druge sadržaje susretati u svakodnevnom korištenju platformi. Ako pritom prednost daju publici koju je jeftinije dosegnuti ili sadržajima koji donose veću zaradu, mogu utjecati i na to koje će informacije i prilike uopće doći do pojedinih korisnika. Drugim riječima, algoritamska pristranost ne određuje samo što ćemo vidjeti nego i što ćemo možda propustiti.
Pristranost bez zle namjere
“Algoritamska pristranost najčešće ne nastaje zato što je netko svjesno odlučio diskriminirati određenu skupinu”, objašnjava Lea Ordanić, AI and Data Manager u tvrtki Span, i dodaje: “Ona može nastati iz podataka nad kojima je model treniran, načina na koji su ti podaci prikupljeni ili u načinu na koji se njegov rezultat/preporuka koristi. Primjerice, ako sustav za preporuku kandidata za zaposlenje uči iz skupova podataka koji preferiraju muške kandidate, takav sustav će favorizirati muške kandidate.”
Dakle, algoritam može proizvesti razlike i kada nije izričito programiran da diskriminira. “Da, uklanjanje podatka o spolu nije isto što i uklanjanje rodne ili neke druge pristranosti. Model može koristiti druge podatke koji su statistički povezani sa spolom ili pristranosti koju želimo izbjeći. Primjerice, određena zanimanja, vrsta obrazovanja, interesi kao promatrani podaci mogu povećati vjerojatnost pristranosti modela i na taj način otkriti spol”, pojasnila nam je L. Ordanić.
A na pitanje kako se takvi rizici mogu pojaviti u digitalnom oglašavanju i može li optimizacija troškova dovesti do toga da žene rjeđe vide oglase za određene poslove ili druge prilike, L. Ordanić odgovara: “Mogući rizici su direktna posljedica prethodno spomenutih pristranih modela. Optimizacijski sustav može favorizirati skupinu kod koje u konkretnim uvjetima postiže niži trošak ili bolji rezultat, što posljedično može dovesti do nejednake zastupljenosti drugih skupina.”
Žene su skuplja publika
Oglašivač određuje cilj kampanje, budžet i publiku, a platforma svojim algoritmom odlučuje kome će prikazati oglas, uzimajući u obzir ciljeve kampanje i trošak dosezanja pojedinih korisnika. Što se dogodi kad je jedna skupina skuplja od druge?
Odgovor daje istraživanje “Online advertisement in a pink-colored market”, koje su Amir Mehrjoo, Rubén Cuevas i Ángel Cuevas objavili 2024. u časopisu EPJ Data Science. Analizirali su podatke Facebookove oglašivačke platforme za više od 4,5 milijuna publika u 187 država i 40 teritorija.
U sažetku rada autori navode da oglašivači za prikazivanje oglasa ženama medijalno plaćaju oko 30 posto više nego za muškarce. U detaljnoj analizi troška za 1000 prikazivanja oglasa medijalna razlika iznosi 19 posto, dok je kod troška klika gotovo nema jer žene češće klikaju na oglase. Pojava je zabilježena u 79 posto analiziranih publika, a među publikama u državama s vrlo visokim indeksom ljudskog razvoja u 98 posto slučajeva. U tim je državama medijalna razlika 31 posto. Autori su istražili i razlike među industrijama te utvrdili da je digitalni ružičasti porez izraženiji u nekim kategorijama. Tako je medijan digitalnog ružičastog poreza u kategoriji hobija i interesa 64 posto viši nego u kategoriji nekretnina. U obrazovanju medijalna razlika iznosi oko 15 posto, a u vijestima, karijerama i znanosti oko 14 posto. Riječ je o trošku za oglašivače, a ne o dokazu da žene te oglase vide rjeđe. Taj dodatni trošak autori nazivaju “digital marketing pink tax”, odnosno digitalnim ružičastim porezom.
Lea Ordanić objašnjava: “Utvrdili su ono što nazivaju digital marketing pink tax: medijalno je prikazivanje oglasa ženskoj publici bilo oko 30 posto skuplje. Važno je ipak biti oprezan s objašnjenjem uzroka. Sama studija među mogućim objašnjenjima navodi tržišnu potražnju za ženskom publikom, stupanj ekonomskog razvoja, kulturne čimbenike i regulatorno okruženje. To znači da iz rezultata ne možemo jednostavno zaključiti da je algoritam odlučio skuplje naplaćivati oglas ženskoj populaciji.
Međutim, posljedica može biti vrlo konkretna: ako je dosezanje jedne skupine skuplje, sustav koji optimizira kampanju prema najnižem trošku ima ekonomski poticaj manje dosezati tu skupinu.”
Kad štednja postane propuštena prilika
Kako to izgleda u praksi, pokazale su Anja Lambrecht i Catherine Tucker još 2019. u časopisu Management Science. Pokrenule su kampanju za promociju karijera u znanosti, tehnologiji, inženjerstvu i matematici. Oglas su namjerno oblikovale tako da bude rodno neutralan. Ipak, vidjelo ga je manje žena nego muškaraca. Manja izloženost nije bila posljedica nezainteresiranosti žena. One koje su oglas vidjele klikale su na njega češće od muškaraca. Autorice su zaključile da je jedan od ključnih razloga vjerojatno cijena dosezanja publike: mlađe žene tražena su oglašivačka skupina, stoga ih je skuplje dosegnuti. Algoritam koji optimizira trošak zato je slabije dosezao mlađe žene.
Na sličan obrazac upućuje i istraživanje objavljeno 5. listopada 2026. u časopisu Gender, Work & Organization. Zhen-Zhen Wang, Songyin Liu i Ping Wang analizirali su više od 700 oglasa za posao na jednoj kineskoj oglašivačkoj platformi i utvrdili da žene imaju 32,4 posto manju stopu izloženosti oglasima za posao nego muškarci. Razlika se ne može objasniti manjim udjelom žena među korisnicima platforme. Žene u svojim feedovima nerazmjerno češće vide oglase za kupnju i zabavu, a rjeđe oglase za posao. Autori taj učinak nazivaju “algoritamskim istiskivanjem”: sektori koji su komercijalno vrjedniji kad ciljaju ženske publike dobivaju veću vidljivost, pa žene dobivaju manje informacija o poslovnim prilikama. Žene rjeđe vide oglase za uredske i bolje plaćene poslove, a češće oglase za fizičke i slabije plaćene poslove. Budući da je istraživanje provedeno na jednoj kineskoj platformi, njegove rezultate nije moguće automatski preslikati na druga tržišta.
Tko je odgovoran
Koliko su za sprječavanje diskriminatornih rezultata odgovorne tehnološke platforme, a koliko oglašivači koji koriste njihove sustave, pitali smo Leu Ordanić.
“Odgovornost je podijeljena, ali mislim da je važno razumjeti da platforma i oglašivač ne kontroliraju iste dijelove procesa. Oglašivač koristi proizvod te definira cilj kampanje, budžet, publiku kojoj se želi obratiti, dok sama platforma upravlja algoritmima koji automatski odlučuju kome će se oglas prikazati.
Kao implementatori sličnih rješenja u području AI-a, imamo odgovornost jer razvijamo algoritme za optimizaciju i imamo najveći uvid u način na koji sustav radi. S druge strane, korisnici rješenja, poput oglašivača, imaju odgovornost razumjeti kako koriste takve sustave, npr. pravilno postaviti kampanje i, tamo gdje je riječ o osjetljivim područjima poput zapošljavanja, pratiti rezultate odnosno proizvodi li kampanja neočekivano različite rezultate za određene skupine.”
Regulatori nisu nesvjesni stanja na tržištu i ponašanja algoritama, no zasad se mjere za sprječavanje takve diskriminacije poduzimaju pojedinačno i sporadično. Europska unija još nema posebno pravilo koje izrijekom uređuje algoritamsko prikazivanje oglasa, ali tijela za ravnopravnost u državama članicama već primjenjuju postojeće propise o zabrani diskriminacije na algoritamske sustave.
U veljači 2025. godine, primjerice, Nizozemski institut za ljudska prava utvrdio je da Metin sustav prikazivanja oglasa za posao na Facebooku dovodi do zabranjene neizravne diskriminacije na temelju spola. Riječ je o neobvezujućem mišljenju, a ne sudskoj presudi. Istraga organizacije Global Witness pokazala je da su se oglasi za “tipično ženske” poslove, poput recepcionara, uglavnom prikazivali ženama, dok su se oglasi za “tipično muške” poslove, poput mehaničara, uglavnom prikazivali muškarcima. Oglas za recepcionara prikazan je ženama u 96 posto slučajeva 2022. godine i u 97 posto 2023. godine, a oglas za mehaničara muškarcima u 96 posto slučajeva u obje godine. Meta je Global Witnessu ranije odgovorila da njezin sustav uzima u obzir različite informacije kako bi ljudima prikazao oglase koji ih najvjerojatnije zanimaju, a 2023. izjavila je da oglašivačima ne dopušta ciljanje tih oglasa prema spolu. Institut je ipak zaključio da Meta nije opovrgnula pretpostavku diskriminacije, da je priznala kako podatak o spolu može biti dio algoritma te da mora pratiti učinke algoritma i, prema potrebi, poduzeti mjere.
Francusko tijelo za zaštitu prava Défenseur des droits utvrdilo je 10. listopada 2025. sličan oblik neizravne diskriminacije i zatražilo od Mete da u roku od 3 mjeseca poduzme mjere. Riječ je o neobvezujućoj preporuci, koju je Meta odbacila. U Francuskoj je, prema Global Witnessu, oglas za odgajateljicu u vrtiću prikazan ženama u 93 posto slučajeva, a oglas za mehaničara muškarcima u 94 posto.
Što se može učiniti
Na zakonodavnoj razini EU tek uspostavlja dodatni regulatorni okvir. Akt o digitalnim uslugama traži od vrlo velikih internetskih platformi i tražilica da jednom godišnje procijene sustavne rizike svojih sustava, uključujući rizik od diskriminacije. U procjenu ulaze i njihovi oglašivački i algoritamski sustavi te način na koji biraju kome će prikazati oglas. Akt o umjetnoj inteligenciji sustave koji se koriste u zapošljavanju, uključujući sustave za ciljano prikazivanje oglasa za konkretna radna mjesta određenim korisnicima, svrstava među visokorizične. Pravila za takve sustave počet će se primjenjivati krajem 2027.
Pravila se tek pripremaju, no algoritmi već rade. Što se može učiniti kako bi se takva pristranost prepoznala, nadzirala i smanjila? Odgovara Lea Ordanić:
“Jedan od principa koje treba slijediti je da je praćenje pristranosti sastavni dio razvoja i održavanja informacijskog sustava tijekom cijelog životnog ciklusa.
To u praksi znači testirati podatke prije razvoja modela, provjeravati zastupljenost različitih skupina, mjeriti rezultate sustava po relevantnim skupinama te monitoring ulaznih podataka i izlaznih rezultata iz modela strojnog učenja.
Smatramo da je važno razvijati svijest o mogućoj pristranosti modela kako bismo ju mogli pravovremeno prepoznati i umanjiti. Tehnologija nam može pomoći donositi bolje odluke, ali odgovornost za to kako je razvijamo, koristimo i nadziremo ipak ostaje na nama.”
Izradu i objavljivanje serijala tekstova pod naslovom Kako se žene snalaze u digitalnoj ekonomiji: algoritmi ih više targetiraju a poslovi brže nestaju, autorice Tanje Ivančić Belošević, financijski je podržala Agencija za medije kroz projekt Poticanja novinarske izvrsnosti za 2026. godinu.