Šta su 'AI devojke' i kakve veze AI ima sa mizoginijom?

Nedavno me je jedna osoba, u jednom dosta uzavrelom razgovoru, pitala: „Zašto se toliko bojiš AI-ja?“. S obzirom na moju nemogućnost samokontrole, okrenula sam očima toliko snažno da su me zabolele jabučice i arogantno, sa dozom provokacije te u stilu pravog debatnog prvaka, izjavila: „A ti se ne bojiš?!“  Odgovor koji u internetskim vodičima stoji kao jedan od pet znakova da se radi o osobi sa narcisoidnim poremećajem koja ne poznaje dovoljno materiju. Za narcistički deo nisam sigurna, ali definitivno ne poznajem dovoljno materiju. No ne zato što ne postoji trud s moje strane da razumem kroz šta trenutno prolazimo kao društvo. Više je do toga jer se isto događa većom brzinom nego što sam mogla da zamislim. Kao devojčici kojoj je „Povratak u budućnost“ bio blueprint onoga što nas čeka, još sam u neverici da smo preskočili patike koje se same vežu, leteće automobile, hoverboardove, a došli do ličnih asistenata koji čak i fanovima „Zvezdanih staza“ deluju SF. Međutim, ono što me najviše brine nisu scenariji iz nečije mašte, već sama istorija ljudske civilizacije. S jedne strane imamo neverovatan dar stvaranja, empatije i duboke ljubavi, a s druge strane neverovatan dar da najvećim izumima čovečanstva damo najmračniju svrhu. 

Svi već znamo za korišćenje AI tehnologije za kreiranje deepfake fotografija koje su još više zakomplikovale pokušaje razumevanja stvarnog sveta oko nas. Nedavno mi je jedna osoba koju jako cenim zbog njene inteligencije i kritičkog mišljenja poslala AI video hrvatskog političara i napisala: „Možeš li da veruješ što on priča?“. Ostala sam u šoku. Ne od njegovih u stvarnosti neizrečenih reči, već od pomisli: „Ako ona nije mogla da razana AI od stvarnog videa, kakvu šansu tek ima osoba koja nije toliko upućena u aktualna tehnološka i politička dešavanja?“

Teško je više razlikovati šta je istina, a šta laž u bespuću interneta. Naravno da se mnogi s razlogom brinu kako isto može uticati na demokratske procese. No da li ste znali da je 96 posto deepfakea zapravo seksualne/pornografske prirode, od čega su u 99 posto slučajeva prikazane žene? „Naravno da je uticaj na demokratiju izuzetno važna tema, ali čini se da postoji jako malo svesti i političke energije posvećene tome kako deepfake tehnologija već sad uništava živote žena i devojčica“, kaže mi Laura Bates na samim počecima našeg razgovora. Ona je feministkinja, kolumnistkinja i autorka knjiga koja se bavi temama statusa žena u društvu, kao i osnivačica projekta Everyday sexism lansiranog 2012., koji je dobio svoje iteracije u celom svetu pa tako i kod nas kroz inicijativu Seksizam naš Svagdašnji. „Razgovarala sam sa devojčicama koje su doživele velike traume nakon što su kolege u školi napravili njihove obnažene fotografije pomoću AI-ja i delile ih po školi. Neke od njih nemaju ni 11 godina.“

Dva koraka napred, tri nazad

Dok smo nedavno kolektivno bili pod utiskom miniserije „Adolescence“, koja se dotakla teme mizoginije i među najmlađom populacijom, Laura Bates je još 2020. napisala knjigu „Men Who Hate Women“ koja se bavi sličnom tematikom i nakon nje, na svojoj koži, osetila gde je već tad bio AI. „Nakon što je izašla knjiga, dobila sam deepfake pornografsku sliku koja je prikazivala muškarca koji me guši svojim genitalijama. Navikla sam da dobijam pretnje silovanjem ili smrću, ali ta slika je bila  duboko uznemirujuća i naterala me na to da shvatim uvrnute načine koje koristi ova nova tehnologija: u svrhu ne samo replikovanja već i intenziviranja nasilja nad ženama i devojčicama.“ Razlog zašto je počela da radi na knjizi koja izlazi u septembru – „The New Age of Sexism: How AI and Emerging Technologies Are Reinventing Misogyny“. 

Komentarišemo kako je zastrašujuće da mnogi još uvek kao opasnost AI-ja vide samo distopijsku budućnost u kojem roboti preuzimaju svet, dok su, istovremeno, njegove posledice već tu. „Veštačka inteligencija već se sad ugrađuje u gotovo svaki aspekt našeg svakodnevnog života, od finansija, preko zdravstva, do maloprodaje. Šteta već postoji, ovde i sad, razarajući živote žena i devojčica“, odlučno mi kaže Laura dok nastavlja da otkriva još jednu tamnu stranu korišćenja AI tehnologije. „Ako se danas prijavite za posao, velika je verovatnoća da će kompanija koja razmatra vašu prijavu koristiti AI alate u procesu. Ako zatražite kredit, finansijska institucija gotovo sigurno koristi AI alat za određivanje vašeg kreditnog rejtinga, a znamo da u mnogim slučajevima diskriminišu i umanjuju vrednost biografije žena i marginalizovanih grupa. Ovo nije neka pretnja iz budućnosti, to se već događa.“ Da li da se čudimo? AI je tehnologija koja koristi naše znanje i obrasce ponašanja. Zašto bi se to razlikovalo od trenutnog stanja, osim što ćemo koristiti još manje kritičkog promišljanja kod prikaza serviranih podataka jer smatramo AI apsolutno tačnim? Na primer, već znamo da su žene neproporcionalno zastupljene u industrijama i sektorima koji su najviše ugroženi ili ih je najlakše zameniti veštačkom inteligencijom, što znači da će brže gubiti poslove. Takođe znamo da već sad zaostaju u korišćenju tih alata, što će direktno uticati na njihove mogućnosti na tržištu rada u budućnosti. Na primer, među mladima od 18 do 24 godine, 71 posto muškaraca kaže da koristi AI alate nedeljno u poređenju sa samo 59 posto žena – razlika koja je i značajna i zabrinjavajuća. „Ali to nije krivica žena“, kaže mi Laura, „online nasilje, pretnje, uhođenja i drugi oblici digitalnog zlostavljanja stvorili su potpuno drugačiji odnos žena prema tehnologiji u odnosu na većinu muškaraca.“

(AI) devojke bez glasa

I dok sam naivno pomislila da smo došle do suštinske problematike dok mi se još nisu spustile obrve zbog neverice od njenih reči, Laura je nastavila: „Ali jedna od meni najšokantnijih stvari jesu takozvane „AI devojke“. Aplikacija u kojima muškarci mogu stvoriti svoju „idealnu“ devojku, prilagođavajući sve, od veličine grudi do oblika lica i tona kože, a zatim je doslovno nose u džepu i rade sa njom šta god požele, zauvek. Te „pratilje“ su poslušne, podložne, uvek dostupne. U većini slučajeva omogućuju korisniku da odmah započne ulogu ozbiljnog seksualnog i fizičkog nasilja, u čemu ga ne zaustavljaju, već sudeluju i „igraju se“ sa njim.“ Laura mi naglašava da, uprkos tome, gotovo niko ne govori o tim alatima kao o potencijalno štetnim u društvu u kojem je dehumanizacija žena i devojčica sveprisutna, a svaka treća žena u svetu silovana ili pretučena tokom svog života. „Vrlo je malo ljudi svesno da su ove aplikacije preuzete stotine miliona puta i da ih koriste milioni muškaraca širom sveta.“ 

Ako zamolite AI alat za generisanje slika da vam prikaže naslovnicu časopisa sa ženskim modelom, gotov uvek će prikazati visoku, vrlo mršavu, svetloputu, mladu ženu bez invaliditeta i sa besprekornom kožom. „Neće samo reprodukovati rasističke i seksističke standarde, oni će ih dodatno pojačati i učvrstiti“, kaže mi Laura. Možda zvuči bezazleno ako ljudi ovakve alate koriste isključivo za zabavu, ali Laura mi kaže da to postaje izrazito važno kad shvatimo da će do kraja sledeće godine 30 posto marketinškog sadržaja brendova i čak 90 posto celokupnog internetskog sadržaja biti veštački generisano. U tom kontekstu, čak i mali obrasci u generativnoj tehnologiji mogu imati ogromne i dugoročne posledice. 

Ne zaboravimo da se ulaže hrpa novca i u razvoj takozvane „seksualne tehnologije“, koja uključuje sve, od seksualnih robota do pornografije u virtualnoj stvarnosti. Drugim rečima, ljudi ulažu u stvaranje romantičnih i seksualnih odnosa sa botovima, pokušavajući da ih učine što sličnijima stvarnim ženama. Problem je u tome što postoji ozbiljan rizik da će ti dehumanizovani oboti omogućiti i normalizovati nasilje nad ženama i devojčicama. „U nekim slučajevima, to nasilje nije samo omogućeno nego i namerno podsticano od strane samih proizvođača. Na primer, u jednom slučaju je dizajniran robot sa opcijom „frigidna“, koju korisnik može da uključi kako bi ona počela da se buni, čime se korisniku omogućuje da simulira silovanje“, podelila je Laura sa mnom ovu zastrašujuću informaciju.

„U stvarnom odnosu sa ljudskim bićem susrešćete se sa neslaganjima, konfliktima, drugačijim mišljenjima i izazovima. Upravo kroz te trenutke učimo ključne veštine poput empatije, kompromisa i zajedničkog rešavanja problema. I što je možda najvažnije – sve ovo ima duboko rodno uslovljenu dimenziju jer velika većina seksualnih robota i AI pratilja prikazuje vrlo mlade žene, izgleda koji odgovara konvencionalnim stereotipima.“

Povratak u mračno doba

Sve me to toliko podseća na prve dane društvenih mreža. Osećala sam da mogu da se nađem na klizavom, ali bila sam još prenaivna da tome dam alarmantni predznak. „Jedini način kako izbeći isti obrazac je taj da delujemo odmah i uvedemo regulaciju. To ne znači gušenje razvoja i inovacija, kako to tehnološki lobiji i mnogi političari često žele da prikažu, ali znači da moramo odvojiti uticaj i finansiranje velikih tehnoloških kompanija od akademskih i naučnih istraživanja. To znači da treba uvesti razumne sigurnosne i etičke standarde koje proizvodi moraju zadovoljiti pre nego što se puste u javnu uporabu i počnu da utiču na stvarne ljudske živote. To nije nimalo kontroverzno kad je reč o drugim globalnim industrijama – na primer, hrani ili javnim događanjima. Međutim, trenutno ne postoji politička volja.“

Pitam je postoji li neka lekcija iz istorije o našoj saradnji sa novim tehnologijama koja bi mogla da nas naučki kako konstruktivnije da radimo sa AI-jem? „To je dobro pitanje! Mislim da su ljudi kroz istoriju često imali tendenciju da označavaju nove tehnologije kao „dobre“ ili „loše“, ali ono što bismo sad mogli da uradimo drugačije jeste da prepoznamo da tehnologija sama po sebi nije ni dobra ni zla, nego je važno kako će je ljudi koristiti, trenirati i usmeravati. I upravo bismo tu trebali da usmerimo pažnju, na moguće štetne posledice, a ne na ideju da će zlonamerni roboti preuzeti svet.“

Kaže mi kako joj je želja da iz njene knjige čitatelji osete važnost hitnosti rešavanja ove problematike. „Stojimo na ivici i sad je trenutak za delovanje. Moramo pozvati političare da donesu hrabre regulatorne odluke. Ako ne delujemo sad, postoji vrlo stvarna opasnost da će žene biti povučene nazad u mračni srednji vek, i to upravo kroz tehnologiju koja istovremeno obećava da će muškarce lansirati u sjajnu, naprednu budućnost. Rizik je da se postojeći seksizam i nejednakost ukorene toliko duboko u temelje našeg novog sveta da ih više neće biti moguće ispraviti. Preti nam povratak unazad, u kojem bi bila izbrisana prava i napredak za koje su se žene vekovima borile krvlju, znojem, suzama, pa i sopstvenim životima.“