Knjige, iz katerih sem se naučila največ o AI in o tem, kako oblikuje našo prihodnost

Neštetokrat sem govorila (in pisala) o tem, da imam z umetno inteligenco love-hate odnos. Včasih jo dojemam kot eno največjih revolucij v človeški zgodovini, spet drugič, v mojih me having a mental breakdown epizodah, kot popoln nesmisel, ob katerem ne morem verjeti, da sploh obstaja dilema, ali bo lahko nadomestila človeka. V pogovoru s chatbotom sem bolj destruktivna kot konstruktivna, pogosteje ga grajam kot hvalim, še posebej, ko mi odgovori nekaj v slogu: oprosti, danes me meče. Stvari postajajo le še bolj bizarne – AI farmacevtska podjetja so začela prodajati kodirane opiate, da bi bili chatboti bolj produktivni, prav tako pa so ti isti začeli dobivati “osebne menedžerje” in PR ekipe, saj so njihovi odgovori postali viralni hitreje kot izjave resničnih javnih osebnosti. Ljudje množično iščejo čustveno validacijo pri chatbotih namesto pri terapevtih, da se sploh ne vračam k njegovi zlorabi v kreativni in umetniški industriji, kjer se je tema o njegovi problematičnosti pravzaprav tudi začela.

Zaradi vsega tega sem si v letu 2025 zaželela globlje in podrobneje raziskati umetno inteligenco ter celotno znanost, ki stoji za njo. Po tem, ko je ChatGPT postal široko dostopen, so se police z AI knjigami nenadoma zapolnile. A niso vse knjige vredne vaše pozornosti, zato v nadaljevanju izpostavljam tiste, ki vam lahko resnično služijo kot orodje za boljše razumevanje AI in ozadja, ki ga prinaša.

Povezano: Seznam najbolj kopiranih umetnikov in režiserjev v AI promptih leta 2025 bi vas lahko presenetil

The Singularity Is Nearer: When We Merge with AI

Najbolj ambiciozna trditev v tej knjigi je napoved, da bo AI do leta 2029 “boljši od vseh ljudi” v “vsaki veščini, ki jo ima kateri koli človek”. Čeprav se opira na realne trende in ima Ray Kurzweil zgodovino natančnih napovedi, so današnji AI sistemi še vedno večinoma ozko specializirani. Manjkata jim splošna inteligenca, prilagodljivost in zavest, ki zaznamujejo človeški um. Prav tako veščine, kot so kreativnost, empatija in moralno presojanje, še vedno predstavljajo resen izziv. Tudi če bi premagali tehnične ovire, bi lahko etični, regulativni in družbeni dejavniki znatno upočasnili implementacijo. V knjigi The Singularity Is Nearer Kurzweil razvija in posodablja ideje iz svojega prejšnjega dela The Singularity Is Near (2005). Nova knjiga, izdana leta 2024, se ukvarja s pospešenim tempom tehnološkega razvoja in njegovimi posledicami za človeštvo. Vsekakor zelo zanimiva za razpravo.

The Coming Wave

Pripravljamo se, da prestopimo kritično mejo v zgodovini naše vrste. Vse se bo spremenilo, napoveduje ta knjiga iz leta 2023. AI bo opravljala kompleksne naloge, upravljala podjetja, proizvajala neomejene količine digitalnih vsebin, vodila ključne državne službe in vzdrževala infrastrukturo. Vgrajena bo v osnovo DNK printerjev in kvantnih računalnikov, projektiranih patogenov in avtonomnega orožja, robotskih asistentov in obilje energije. Kot soustanovitelj pionirskega AI podjetja DeepMind je Mustafa Suleyman v samem središču te revolucije, ki bi lahko postala največji pospeševalnik napredka v zgodovini. Trdi, da bo naslednje desetletje definirano s tem valom močnih, hitro razširjajočih se novih tehnologij. The Coming Wave hkrati opozarja, da lahko te tehnologije destabilizirajo obstoječe institucije, vključno z modernimi državami, če ne razvijemo učinkovitih načinov, kako jih nadzorovati in usmerjati, preden bo prepozno. Knjiga se ukvarja s “problemom zadrževanja” (containment problem) kot ključnim izzivom našega časa ter poziva k novemu pristopu k upravljanju in regulaciji močnih tehnologij, da bi izkoristili njihove prednosti in hkrati zmanjšali potencialno škodo.

Supremacy: AI, ChatGPT, and the Race That Will Change the World

Dobitnica nagrade Financial Times Business Book of the Year 2024 je osredotočena na globalno tekmo za razvoj splošne umetne inteligence, s poudarkom na rivalstvu vodilnih podjetij, ki oblikujejo njeno prihodnost: OpenAI, DeepMind in Anthropic. Parmy Olson kot izkušena tehnološka novinarka spremlja, kako so se te organizacije razvile v mogočne akterje, katerih cilj je komercialna in tehnološka nadvlada. Knjiga razkriva zakulisne boje za nadzor nad ključnimi tehnologijami, investicije, strateška zavezništva in etične dileme ter opozarja na potencialne nevarnosti in družbene implikacije širjenja AI, od pristranskosti in varnostnih tveganj do vpliva na industrije in vsakdanje življenje. “Supremacy” je hkrati opozorilo in narativ o tem, kako lahko razvoj AI spremeni svet, pa tudi o tem, kdo danes drži niti moči v tej tekmi.

The Alignment Problem: Machine Learning and Human Values

Knjiga Briana Christiana se ukvarja z enim ključnih izzivov sodobnega AI-ja: kako zagotoviti, da sistemi umetne inteligence delujejo v skladu s človeškimi vrednotami in nameni. Skozi številne primere avtor pokaže, kako lahko AI napačno interpretira cilje ali krepi družbene pristranskosti. Ker se AI vse pogosteje uporablja na kritičnih področjih, kot so zdravstvo, pravosodje in finance, postaja vprašanje usklajevanja ključno. Knjiga je hkrati opozorilo in vodnik za odgovoren razvoj tehnologije.

Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI

Morda tudi najbolj zanimiva na tem seznamu je knjiga Karen Hao, ki ponuja podrobno raziskovan in kritičen pogled na vzpon OpenAI-ja ter vlogo Sama Altmana pri oblikovanju ene najmočnejših tehnoloških institucij današnjega časa. Avtorica se opira na dolgoletno spremljanje industrije, številne intervjuje in interni kontekst ter pokaže, kako se je začetna ideja o odgovornem in odprtem razvoju umetne inteligence postopoma soočila s komercialnimi interesi, koncentracijo moči in geopolitičnimi pritiski. Knjiga se ne ukvarja le s tehnologijo, temveč tudi z ljudmi, odločitvami in sistemi, ki stojijo za njo, ter jasno postavlja vprašanje: kdo v resnici nadzoruje AI in za kakšno ceno. Empire of AI ponuja nujen vpogled v realnost sodobne AI industrije, daleč od hype-a in futurističnih obljub. Ker je bila objavljena leta 2025, še vedno ni dostopna v naši regiji.