Što su 'AI djevojke' i kakve veze AI ima s mizoginijom?

Nedavno me jedna osoba, u jednom dosta uzavrelom razgovoru, pitala: „Zašto se toliko bojiš AI-ja?“. S obzirom na moju nemogućnost samokontrole, okrenula sam očima toliko snažno da su me zaboljele jabučice i samodopadno, s dozom provokacije te u stilu pravog debatnog prvaka, izjavila: „A ti se ne bojiš?!“  Odgovor koji u internetskim vodičima stoji kao jedan od pet znakova da se radi o osobi s narcisoidnim poremećajem koja ne poznaje dovoljno materiju. Za narcistički dio nisam sigurna, ali definitivno ne poznajem dovoljno materiju. No ne zato što ne postoji trud s moje strane da razumijem kroz što trenutačno prolazimo kao čovječanstvo. Više je do toga jer se isto događa većom brzinom nego što sam mogla zamisliti. Kao djevojčici kojoj je „Povratak u budućnost“ bio blueprint onoga što nas čeka, još sam u nevjerici da smo preskočili tenisice koje se same vežu, leteće automobile, hoverboardove, a došli do osobnih asistenata koji se čak i fanovima „Zvjezdanih staza“ čine SF. Međutim, ono što me najviše brine nisu scenariji iz nečije mašte, već sama povijest ljudske civilizacije. S jedne strane imamo nevjerojatan dar stvaranja, empatije i duboke ljubavi, a s druge strane nevjerojatan dar najvećim izumima čovječanstva dati najmračniju svrhu. 

Svi već znamo za korištenje AI tehnologije za kreiranje deepfake fotografija koje su još više zakomplicirale pokušaje razumijevanja stvarnog svijeta oko nas. Nedavno mi je jedna osoba koju iznimno cijenim zbog njezine inteligencije i kritičkog promišljanja poslala AI video hrvatskog političara s „presice“ i napisala: „Možeš li vjerovati što on priča?“. Ostala sam u šoku. Ne od njegovih u stvarnosti neizrečenih riječi, već od pomisli: „Ako ona nije mogla razaznati AI od stvarnog videa, kakvu šansu tek ima osoba koja nije toliko upućena u aktualna tehnološka i politička zbivanja?“

Teško je više razlikovati što je istina, a što laž u bespuću interneta. Naravno da se mnogi s razlogom brinu kako isto može utjecati na demokratske procese. No jeste li znali da je 96 posto deepfakea zapravo seksualne/pornografske prirode, od čega su u 99 posto slučajeva prikazane žene? „Naravno da je utjecaj na demokraciju iznimno važna tema, ali čini se da postoji jako malo svijesti i političke energije posvećene tome kako deepfake tehnologija već sad uništava živote žena i djevojčica“, kaže mi Laura Bates na samim počecima našeg razgovora. Ona je feministkinja, kolumnistica i autorica knjiga koja se bavi temama statusa žena u društvu, kao i osnivačica projekta Everyday sexism lansiranog 2012., koji je dobio svoje iteracije u cijelom svijetu pa tako i kod nas kroz inicijativu Seksizam naš Svagdašnji. „Razgovarala sam s djevojčicama koje su doživjele velike traume nakon što su kolege u školi napravili njihove obnažene fotografije pomoću AI-ja i dijelile ih po školi. Neke od njih nemaju niti 11 godina.“

Dva koraka naprijed, tri natrag

Dok smo nedavno kolektivno bili pod dojmom miniserije „Adolescence“, koja se dotaknula teme mizoginije i među najmlađom populacijom, Laura Bates još je 2020. napisala je knjigu „Men Who Hate Women“ koja se bavi sličnom tematikom i nakon nje, na svojoj koži, osjetila gdje je već tad bio AI. „Nakon što je izašla knjiga, dobila sam deepfake pornografsku sliku koja je prikazivala muškarca koji me guši svojim genitalijama. Navikla sam dobivati prijetnje silovanjem ili smrću, ali ta slika bila je duboko uznemirujuća i nagnala me na to da shvatim uvrnute načine na koje se koristi ova nova tehnologija: u svrhu ne samo repliciranja već i intenziviranja nasilja nad ženama i djevojčicama.“ Razlog zašto je počela raditi na knjizi koja izlazi u rujnu – „The New Age of Sexism: How AI and Emerging Technologies Are Reinventing Misogyny“. 

Komentiramo kako je zastrašujuće da mnogi još uvijek kao opasnost AI-ja vide samo distopijsku budućnost u kojem roboti preuzimaju svijet, dok su, istodobno, njegove posljedice već tu. „Umjetna inteligencija već se sad ugrađuje u gotovo svaki aspekt našeg svakodnevnog života, od financija, preko zdravstva, do maloprodaje. Šteta već postoji, ovdje i sad, razarajući živote žena i djevojčica“, odlučno mi kaže Laura nastavljajući otkrivati još jednu tamnu stranu korištenja AI tehnologije. „Ako se danas prijavite za posao, velika je vjerojatnost da će tvrtka koja razmatra vašu prijavu koristiti AI alate u procesu. Ako zatražite kredit, financijska institucija gotovo sigurno koristi AI alat za određivanje vašeg kreditnog rejtinga, a znamo da u mnogim slučajevima diskriminiraju i umanjuju vrijednost životopisa žena i marginaliziranih skupina. Ovo nije neka prijetnja iz budućnosti, to se već događa.“ Trebam(o) li se čuditi? AI je tehnologija koja koristi naše znanje i obrasce ponašanja. Zašto bi se to razlikovalo od trenutačnog stanja, osim što ćemo koristiti još manje kritičkog promišljanja kod prikaza serviranih podataka jer smatramo AI apsolutno točnim? Primjerice, već znamo da su žene neproporcionalno zastupljene u industrijama i sektorima koji su najviše ugroženi ili ih je najlakše zamijeniti umjetnom inteligencijom, što znači da će brže gubiti poslove. Također znamo da već sad zaostaju u korištenju tih alata, što će direktno utjecati na njihove mogućnosti na tržištu rada u budućnosti. Primjerice, među mladima od 18 do 24 godine, 71 posto muškaraca kaže da koristi AI alate tjedno u usporedbi sa samo 59 posto žena – razlika koja je i značajna i zabrinjavajuća. „Ali to nije krivnja žena“, kaže mi Laura, „online nasilje, prijetnje, uhođenja i drugi oblici digitalnog zlostavljanja stvorili u potpuno drukčiji odnos žena prema tehnologiji u odnosu na većinu muškaraca.“

(AI) djevojke bez glasa

I dok sam naivno pomislila da smo došle do suštinske problematike te dok mi se još nisu spustile obrve uslijed nevjerice od njezinih riječi, Laura je nastavila: „Ali jedna od meni najšokantnijih stvari jesu takozvane „AI djevojke“. Aplikacija u kojima muškarci mogu stvoriti svoju „idealnu“ djevojku, prilagođavajući sve, od veličine grudi do oblika lica i tona kože, a zatim ju doslovno nositi u džepu i raditi s njom što god požele, zauvijek. Te „pratilje“ poslušne su, podložne, uvijek dostupne. U većini slučajeva omogućuju korisniku da odmah započne ulogu ozbiljnog seksualnog i fizičkog nasilja, u čemu ga ne zaustavljaju, već sudjeluju i „igraju se“ s njim.“ Laura mi naglašava da, unatoč tome, gotovo nitko ne govori o tim alatima kao o potencijalno štetnima u društvu u kojem je dehumanizacija žena i djevojčica sveprisutna, a svaka treća žena u svijetu bit će silovana ili pretučena tijekom svog života. „Vrlo je malo ljudi svjesno da su ove aplikacije preuzete stotine milijuna puta i da ih koriste milijuni muškaraca diljem svijeta.“ 

Ako zamolite AI alat za generiranje slika da vam prikaže naslovnicu časopisa sa ženskim modelom, gotovo će uvijek prikazati visoku, vrlo mršavu, svijetloputu, mladu ženu bez invaliditeta i s besprijekornom kožom. „Neće samo reproducirati rasističke i seksističke standarde, oni će ih dodatno pojačati i učvrstiti“, kaže mi Laura. Možda zvuči bezazleno ako ljudi ovakve alate koriste isključivo za zabavu, ali Laura mi kaže da to postaje izrazito važno kad shvatimo da će do kraja sljedeće godine 30 posto marketinškog sadržaja brendova i čak 90 posto cjelokupnog internetskog sadržaja biti umjetno generirano. U tom kontekstu, čak i mali pristrani obrasci u generativnoj tehnologiji mogu imati goleme i dugoročne posljedice. 

Ne zaboravimo da se ulaže hrpa novca i u razvoj takozvane „seksualne tehnologije“, koja uključuje sve, od seksualnih robota do pornografije u virtualnoj stvarnosti. Drugim riječima, ljudi ulažu u stvaranje romantičnih i seksualnih odnosa s botovima, pokušavajući ih učiniti što sličnijima stvarnim ženama. Problem je u tome što postoji ozbiljan rizik da će ti dehumanizirani roboti omogućiti i normalizirati nasilje nad ženama i djevojčicama. „U nekim slučajevima, to nasilje nije samo omogućeno nego i namjerno poticano od strane samih proizvođača. Primjerice, u jednom je slučaju dizajniran robot s opcijom „frigidna“, koju korisnik može uključiti kako bi ona počela protestirati, čime se korisniku omogućuje da simulira silovanje“, podijelila je Laura sa mnom ovu zastrašujuću informaciju.

„U stvarnom odnosu s ljudskim bićem susrest ćete se s neslaganjima, konfliktima, drukčijim mišljenjima i izazovima. Upravo kroz te trenutke učimo ključne vještine poput empatije, kompromisa i zajedničkog rješavanja problema. I što je možda najvažnije – sve ovo ima duboko rodno uvjetovanu dimenziju jer velika većina seksualnih robota i AI pratilja prikazuje vrlo mlade žene, izgleda koji odgovara konvencionalnim stereotipima.“

Povratak u mračno doba

Sve me to toliko podsjeća na prve dane društvenih mreža. Osjećala sam da se mogu naći na skliskom tlu, ali bila sam još prenaivna da tome dam alarmantni predznak. „Jedini način kako izbjeći isti obrazac je taj da djelujemo odmah i uvedemo regulaciju. To ne znači gušenje razvoja i inovacija, kako to tehnološki lobiji i mnogi političari često žele prikazati, ali znači da moramo odvojiti utjecaj i financiranje velikih tehnoloških kompanija od akademskih i znanstvenih istraživanja. To znači da trebamo uvesti razumne sigurnosne i etičke standarde koje proizvodi moraju zadovoljiti prije nego što se puste u javnu uporabu i počnu utjecati na stvarne ljudske živote. To nije nimalo kontroverzno kad je riječ o drugim globalnim industrijama – primjerice, hrani ili javnim događanjima. No trenutačno ne postoji politička volja.“

Pitam ju postoji li koja lekcija iz povijesti o našoj suradnji s novim tehnologijama koja bi nas mogla naučiti kako konstruktivnije raditi s AI-jem? „To je dobro pitanje! Mislim da su ljudi kroz povijest često imali tendenciju označavati nove tehnologije kao „dobre“ ili „loše“, ali ono što bismo sad mogli učiniti drukčije jest prepoznati da tehnologija sama po sebi nije ni dobra ni zla, nego je važno kako će ju ljudi koristiti, trenirati i usmjeravati. I upravo bismo tu trebali usmjeriti pažnju, na moguće štetne posljedice, a ne na ideju da će zlonamjerni roboti preuzeti svijet.“

Kaže mi kako joj je želja da iz njezine knjige čitatelji osjete važnost hitnosti rješavanja ove problematike. „Stojimo na rubu i sad je trenutak za djelovanje. Moramo pozvati političare da donesu hrabre regulatorne odluke. Ako ne djelujemo sad, postoji vrlo stvarna opasnost da će žene biti povučene natrag u mračni srednji vijek, i to upravo kroz tehnologiju koja istovremeno obećava da će muškarce lansirati u sjajnu, naprednu budućnost. Rizik je da se postojeći seksizam i nejednakost ukorijene toliko duboko u temelje našeg novog svijeta da ih više neće biti moguće ispraviti. Prijeti nam povratak unatrag, u kojem bi bila izbrisana prava i napredak za koje su se žene stoljećima borile krvlju, znojem, suzama, pa i vlastitim životima.“