O novih oblikah mizoginije, nereguliranem kibernetskem prostoru, tehnološkem napredku in novi knjigi "The New Age of Sexism: How the AI Revolution is Reinventing Misogyny" smo se smo se pogovarjali z avtorico Lauro Bates.
Nives Bokor9 avgusta, 2025
Nedavno me je nekdo, med precej napetim pogovorom, vprašal: “Zakaj te je tako strah umetne inteligence?” Ker se nisem mogla zadržati, sem tako močno zavila z očmi, da so me zabolele očesne mišice, in samozadovoljno, z nekaj provokacije in v slogu prave debatne šampionke izjavila: “Pa tebe ni?!” Odgovor, ki ga spletni vodiči pogosto navajajo kot enega od petih znakov, da imaš opravka z osebo z narcistično motnjo in pomanjkljivim poznavanjem tematike. Za narcistično plat nisem povsem prepričana, a vsekakor ne poznam tematike dovolj dobro. Ne zato, ker se ne bi trudila razumeti kaj kot človeštvo trenutno preživljamo – bolj zato, ker se vse skupaj odvija z večjo hitrostjo, kot sem si sploh lahko predstavljala. Kot deklica, ki ji je bil “Back to the future” načrt za to, kar nas čaka, še vedno ne morem verjeti, da smo preskočili superge, ki se same zavežejo, leteče avtomobile in lebdeče deske – in namesto tega prišli do osebnih asistentov, ki se tudi oboževalcem “Zvezdnih stez” zdijo znanstvena fantastika. A tisto, kar me najbolj skrbi, niso scenariji iz domišljije, temveč zgodovina človeške civilizacije sama. Po eni strani imamo neverjeten dar ustvarjanja, empatije in globoke ljubezni, po drugi strani pa neverjetno sposobnost, da največjim izumom človeštva namenimo najbolj mračen namen.
Vsi že poznamo uporabo AI-tehnologije za ustvarjanje deepfake fotografij, ki so še dodatno otežile prizadevanja za razumevanje resničnega sveta okoli nas. Nedavno mi je oseba, ki jo izjemno cenim zaradi njene inteligence in kritičnega mišljenja, poslala AI-video enega hrvaškega politika s “tiskovne konference” in pripisala: “A lahko verjameš, kaj govori?” Ostala sem v šoku. Ne zaradi besed, ki jih ta v resnici sploh ni izrekel, ampak zaradi misli: “Če ona ni prepoznala razlike med AI in resničnim posnetkom, kakšne možnosti sploh ima nekdo, ki ni tako dobro seznanjen s trenutnimi tehnološkimi in političnimi dogajanji?”
Težko je danes še ločiti, kaj je resnica in kaj laž v neskončnosti interneta. Seveda je razumljivo, da mnoge skrbi, kako lahko to vpliva na demokratične procese. Pa ste vedeli, da je 96 odstotkov deepfake vsebin pravzaprav spolne oziroma pornografske narave – in da so v 99 odstotkih prikazane ženske? „Seveda je vpliv na demokracijo izjemno pomembna tema, vendar se zdi, da je zelo malo zavedanja in politične volje posvečene temu, kako deepfake tehnologija že zdaj uničuje življenja žensk in deklic,“ mi pove Laura Bates že na samem začetku najinega pogovora. Bates je feministka, kolumnistka in avtorica knjig, ki se ukvarja s položajem žensk v družbi, pa tudi ustanoviteljica projekta Everyday Sexism, lansiranega leta 2012, ki je dobil različne oblike po vsem svetu – tudi pri nas, skozi pobudo Seksizem naš vsakdanji. „Govorila sem z deklicami, ki so doživele hude travme, potem ko so sošolci s pomočjo umetne inteligence ustvarili njihove gole fotografije in jih širili po šoli. Nekatere med njimi nimajo niti enajst let.“
Ko smo bili pred kratkim kolektivno pod vtisom mini serije “Adolescence”, ki se je dotaknila teme mizoginije celo med najmlajšimi, je Laura Bates že leta 2020 napisala knjigo Men Who Hate Women, ki obravnava podobno tematiko – in po njenem izidu je tudi sama na lastni koži občutila, kam je umetna inteligenca že takrat segala. „Po izidu knjige sem prejela deepfake pornografsko sliko, ki je prikazovala moškega, kako me duši s svojimi genitalijami. Nisem nova pri prejemanju groženj s posilstvom ali smrtjo, ampak ta podoba je bila globoko vznemirjajoča in me je prisilila, da sem dojela, na kako izprijene načine se uporablja ta nova tehnologija: ne le za ponavljanje, temveč za intenziviranje nasilja nad ženskami in deklicami.“ To je bil razlog, zakaj je začela delati na knjigi, ki bo izšla septembra – “The New Age of Sexism: How AI and Emerging Technologies Are Reinventing Misogyny”.
Komentirava, kako je zastrašujoče, da mnogi še vedno kot nevarnost umetne inteligence vidijo zgolj distopično prihodnost, v kateri roboti prevzamejo svet, medtem ko so njene posledice že tukaj. “Umetna inteligenca je že zdaj vtkana v skoraj vsak vidik našega vsakdanjega življenja – od financ in zdravstva do maloprodaje. Škoda je že nastala, tukaj in zdaj, in uničuje življenja žensk in deklic,” mi odločno pove Laura, ko nadaljuje z razkrivanjem še ene temne plati uporabe AI-tehnologije. “Če se danes prijavite na delovno mesto, obstaja velika verjetnost, da podjetje, ki obravnava vašo prijavo, uporablja AI-orodja v postopku selekcije. Če zaprosite za kredit, bo finančna institucija skoraj zagotovo uporabila AI-orodje za določanje vašega kreditnega rejtinga, pri čemer pa v mnogih primerih prihaja do diskriminacije in razvrednotenja življenjepisov žensk in marginaliziranih skupin. To ni grožnja iz prihodnosti – to se že dogaja.” Se moramo čuditi? Umetna inteligenca je vendar tehnologija, ki se napaja iz našega znanja in vzorcev vedenja. Zakaj bi bilo torej stanje drugačno od trenutnega, razen v tem, da bomo prikazanim podatkom verjeli še z manj kritičnega premisleka – ker umetno inteligenco dojemamo kot popolnoma točno? Vemo, denimo, da so ženske nesorazmerno zastopane v panogah, ki so najbolj ogrožene ali jih je najlažje nadomestiti z umetno inteligenco, kar pomeni, da bodo delo izgubljale hitreje. Prav tako vemo, da že zdaj zaostajajo v uporabi teh orodij, kar bo neposredno vplivalo na njihove možnosti na trgu dela v prihodnosti. Med mladimi, starimi od 18 do 24 let, na primer, 71 odstotkov moških pravi, da tedensko uporablja AI-orodja, v primerjavi z le 59 odstotki žensk – razlika, ki je hkrati pomembna in zaskrbljujoča. “Ampak to ni krivda žensk,” mi pove Laura, “spletno nasilje, grožnje, zalezovanje in druge oblike digitalnega nadlegovanja so ustvarile povsem drugačen odnos žensk do tehnologije kot pri večini moških.”
In ravno ko sem naivno pomislila, da sva prišli do bistva problema, in mi se še niso povsem spustile obrvi zaradi nevere ob njenih besedah, je Laura nadaljevala: “Ena izmed stvari, ki so me najbolj šokirale, so tako imenovana ‘AI-dekleta’. Gre za aplikacije, v katerih si moški lahko ustvarijo svojo ‘idealno’ dekle – prilagodijo lahko vse, od velikosti prsi do oblike obraza in barve kože – nato pa jo dobesedno nosijo v žepu in z njo počnejo, kar želijo, za vedno. Te ‘spremljevalke’ so poslušne, podredljive, vedno na voljo. V večini primerov uporabniku omogočajo, da takoj začne igrati vlogo nasilnega spolnega in fizičnega vedenja, pri čemer ga ne ustavljajo, temveč sodelujejo in se ‘igrajo’ z njim.” Laura poudarja, da kljub temu skoraj nihče ne govori o teh orodjih kot o potencialno škodljivih v družbi, kjer je dehumanizacija žensk in deklic vseprisotna, vsaka tretja ženska na svetu pa bo v življenju posiljena ali pretepena. “Zelo malo ljudi se zaveda, da so te aplikacije prenesene stotine milijonkrat in da jih uporabljajo milijoni moških po vsem svetu.”
Če AI orodju za generiranje slik naročite, naj vam prikaže naslovnico revije z ženskim modelom, bo skoraj vedno prikazalo visoko, zelo suho, svetlopolto, mlado žensko brez invalidnosti in z brezhibno kožo. “Ne bo zgolj reproduciralo rasističnih in seksističnih standardov – dodatno jih bo okrepilo in utrdilo,” mi pove Laura. Morda se zdi neškodljivo, če ljudje takšna orodja uporabljajo izključno za zabavo, a Laura opozarja, da postane to izjemno pomembno, ko se zavedamo, da bo do konca prihodnjega leta 30 odstotkov marketinške vsebine blagovnih znamk in celo 90 odstotkov vse internetne vsebine umetno generirane. V tem kontekstu lahko že najmanjši pristranski vzorci v generativni tehnologiji povzročijo ogromne in dolgoročne posledice.
Ne pozabimo, da se ogromno denarja vlaga tudi v razvoj tako imenovane “seksualne tehnologije”, ki vključuje vse od seksualnih robotov do pornografije v navidezni resničnosti. Z drugimi besedami: ljudje vlagajo v ustvarjanje romantičnih in spolnih odnosov z boti ter jih poskušajo narediti čim bolj podobne resničnim ženskam. Težava je v tem, da obstaja resno tveganje, da bodo ti dehumanizirani roboti omogočili in normalizirali nasilje nad ženskami in deklicami. “V nekaterih primerih to nasilje ni le omogočeno, temveč ga celo namenoma spodbujajo sami proizvajalci. Na primer, v enem primeru so zasnovali robota z možnostjo ‘frigidna’, ki jo lahko uporabnik vključi, da robotka začne protestirati – s tem se uporabniku omogoči, da simulira posilstvo,” je z menoj delila to srhljivo informacijo Laura.
“V resničnem odnosu s človeškim bitjem se boste soočili z nestrinjanji, konflikti, drugačnimi mnenji in izzivi. Prav skozi te trenutke se učimo ključnih veščin, kot so empatija, kompromis in skupno reševanje problemov. In kar je morda najpomembnejše – vse to ima globoko spolno pogojeno dimenzijo, saj velika večina spolnih robotov in AI spremljevalk prikazuje zelo mlade ženske z videzom, ki ustreza konvencionalnim stereotipom.”
Vse to me močno spominja na prve dni družbenih omrežij. Čutila sem, da bi se lahko znašla na spolzkih tleh, a sem bila še preveč naivna, da bi temu pripisala alarmanten pomen. “Edini način, kako se izogniti ponovitvi vzorca, je ta, da ukrepamo takoj in uvedemo regulacijo. To ne pomeni zatiranja razvoja in inovacij, kot to tehnološki lobiji in številni politiki pogosto želijo prikazati, ampak pomeni, da moramo ločiti vpliv in financiranje velikih tehnoloških podjetij od akademskih in znanstvenih raziskav. To pomeni, da moramo uvesti razumne varnostne in etične standarde, ki jih morajo izdelki izpolnjevati, preden se dajo v javno uporabo in začnejo vplivati na resnična človeška življenja. To ni prav nič sporno, ko gre za druge globalne industrije – na primer prehrano ali javne dogodke. A trenutno politične volje preprosto ni.”
Vprašam jo, ali obstaja kakšna lekcija iz zgodovine našega sodelovanja z novimi tehnologijami, ki bi nas lahko naučila, kako bolj konstruktivno delati z umetno inteligenco? “To je dobro vprašanje! Mislim, da so ljudje skozi zgodovino pogosto imeli tendenco, da nove tehnologije označijo kot ‘dobre’ ali ‘slabe’, a tisto, kar bi lahko zdaj naredili drugače, je prepoznati, da tehnologija sama po sebi ni ne dobra ne zla – pomembno je, kako jo bodo ljudje uporabljali, trenirali in usmerjali. In prav tu bi morali usmeriti pozornost: na morebitne škodljive posledice, ne pa na idejo, da bodo zlonamerni roboti prevzeli svet.”
Pove, da si želi, da bi bralci iz njene knjige začutili, kako nujno je treba reševati to problematiko. “Stojimo na robu in zdaj je čas za ukrepanje. Moramo pozvati politike, naj sprejmejo pogumne regulativne odločitve. Če zdaj ne ukrepamo, obstaja zelo resnična nevarnost, da bodo ženske potisnjene nazaj v mračni srednji vek – in to ravno prek tehnologije, ki hkrati obljublja moškim izstrelitev v bleščečo, napredno prihodnost. Tvegamo, da se bodo obstoječi seksizem in neenakost tako globoko ukoreninili v temelje našega novega sveta, da jih ne bo več mogoče popraviti. Grozi nam korak nazaj – izbris pravic in napredka, za katere so se ženske stoletja borile s krvjo, znojem, solzami, celo svojimi življenji.”
