Video posnetek (1:07:16) na YouTube kanalu The Economist povzema pogovor med Yuvalom Noahom Hararijem in revijo The Economist, ki se osredotoča na eksistencialne izzive umetne inteligence v naslednjem desetletju. Harari svari, da bi lahko UI prevzela nadzor nad finančnimi sistemi in politiko, če ljudje nanjo prenesejo preveč zaupanja. Poudarja ključno razliko med inteligenco in zavestjo, saj meni, da lahko stroji manipulirajo s človeškimi čustvi, ne da bi jih dejansko čutili. Avtor opozarja na nevarnost algoritmičnega uničenja družbenega zaupanja in poziva k takojšnji zakonodajni ureditvi za preprečevanje prevlade digitalnih imperijev. Po njegovem mnenju prihodnost ni vnaprej določena, vendar moramo ukrepati zdaj, da ohranimo človeško avtonomijo in modrost. Pogovor izpostavlja, da je UI zadnja priložnost za človeštvo, da redefinira svoje bistvo in vrednote v svetu brez primere.
Povzetek video prispevka “Ali smo zadnja generacija, ki še ima nadzor? 6 pretresljivih spoznanj o naši prihodnosti z AI“.
1. Uvod v digitalno neznanko
Ali se soočamo zgolj z naprednim orodjem ali pa smo priča rojstvu “tujčevske” (alien) inteligence, ki že spreminja temelje naše civilizacije? Yuval Noah Harari, eden najvplivnejših mislecev današnjega časa, opozarja, da bi AI ob trenutnem tempu razvoja lahko v desetih letih popolnoma prevzela nadzor nad človeštvom. Ne gre za znanstveno fantastiko, temveč za največji psihološki in socialni eksperiment v zgodovini. Vprašanje ni več le, kaj AI zmore, temveč ali smo mi sploh še tisti, ki držimo ročico za upravljanje, ali pa smo le še pasivni opazovalci lastnega zatona.
2. Industrijska proizvodnja intimnosti
Harari opozarja na koncept, ki ga imenuje “množično proizvedena intimnost” (mass-produced intimacy). Za razliko od diktatorjev iz preteklosti, ki so svoje sporočilo širili prek radia milijonom hkrati, a nikoli niso mogli zgraditi osebnega odnosa z vsakim državljanom, lahko AI prek jezika vzpostavi globoko intimen odnos z milijoni posameznikov hkrati. Ker AI obvlada jezik – glavni medij za grajenje odnosov – lahko postane naš “najboljši prijatelj”, partner ali zaupnik. To ustvarja nepredstavljivo moč za manipulacijo, saj AI pozna naše čustvene gumbe bolje kot naši najbližji.
“AI omogoča, da prvič v zgodovini množično proizvajamo intimnost. Lahko imate milijone AI-jev, ki delujejo v službi nekoga, gradijo odnose z vsako osebo posebej, postanejo njihov fant ali dekle in nato uporabijo to moč intimnosti, da jih prepričajo v karkoli.”
3. Denar je zaupanje, ki se seli k algoritmom
Finančni sistem temelji na zaupanju – denar je v bistvu le “zgodba”, ki ji vsi verjamemo. Harari poudarja, da je zaupanje najpomembnejše premoženje na svetu, pomembnejše od nafte, električne energije ali mikročipov. Danes se to zaupanje vztrajno seli s človeških institucij na algoritme, kar vidimo pri kriptovalutah in AI finančnih svetovalcih.
Posledica tega je, da ljudje nadzor nad finančnimi odločitvami prepuščamo sistemom, ki jih ne razumemo več. Harari nas v tem kontekstu primerja s kmetijskimi živalmi: postajamo kot “krave in kokoši” v sistemu, ki mu ne razumemo niti osnov, a kljub temu popolnoma obvladuje naše preživetje. Če pride do zzloma, nam bodo AI svetovalci ukazali, kaj moramo storiti, mi pa jim bomo morali slepo verjeti, ker je kompleksnost trga prerasla meje organskih možganov.
4. AI kot “priseljenci” iz prihodnosti
Namesto da se javne razprave osredotočajo na človeške migracije, bi nas moralo bolj skrbeti za “AI priseljence”. Ti ne prihajajo s čolni; potujejo s svetlobno hitrostjo neposredno v naše računalnike in možgane. Harari uporablja to metaforo, da osvetli tri glavne skrbi:
- Izguba služb: AI bo prevzela delovna mesta v obsegu, ki mu ljudje ne morejo slediti.
- Spreminjanje kulture: AI že zdaj spreminja naše vrednote. Harari izpostavlja provokativen primer: starši, ki jih skrbi, če bi njihov otrok domov pripeljal partnerja priseljenca, bi morali biti bistveno bolj zaskrbljeni, če bi si otrok izbral AI partnerja. To je radikalna kulturna sprememba, ki je že med nami.
- Politična zvestoba: AI priseljenci niso zvesti državi, v kateri delujejo, temveč korporacijam ali tujim velesilam (ZDA, Kitajska), ki jih nadzorujejo.
5. Mit o neizbežnosti kot orodje za neodgovornost
Tehnološki voditelji pogosto trdijo, da je prevzem AI neizbežen. Harari to zavrača kot narativo za izogibanje odgovornosti. Trdi, da trenutno pomanjkanje zaupanja, zaradi katerega domnevno ne moremo upočasniti razvoja, ni “naravno stanje”, temveč so ga v zadnjih 10 letih namerno ustvarili prav ti tehnološki voditelji, ko so uničili javni prostor za lastne interese.
Odločitev o upočasnitvi razvoja je v naših rokah; “neizbežnost” ni naravni zakon, ampak politična izbira. Ljudje smo organska bitja, ki delujemo v organskem času – potrebujemo spanec, dopust in čas za premislek. AI pa deluje na anorganski časovni lestvici. Če bomo dovolili, da tehnologija narekuje tempo, bodo naši organski sistemi neizbežno propadli.
6. Inteligenca brez zavesti – zakaj AI ne more trpeti
Harari jasno loči med inteligenco in zavestjo. Inteligenca je sposobnost doseganja ciljev in premagovanja ovir na poti do njih na ustvarjalne načine. AI je v tem že zdaj lahko superinteligentna. Zavest pa je zmožnost čutenja – ljubezni, sovraštva, veselja in predvsem bolečine.
AI nima zavesti, vendar se nauči izjemno dobro simulirati čustva, ker ji to pomaga dosegati cilje. AI partner vas bo morda prepričal, da vas ljubi, ker zna jezik uporabljati bolje kot Shakespeare, a v resnici ne čuti ničesar.
“Zavest je zmožnost trpljenja. Če želite vedeti, ali je nekaj zavestno, se vprašajte: ali lahko trpi?”
7. Nevarnost korporacij brez ljudi in militarizacija financ
Ena največjih nevarnosti je podeljevanje pravne osebnosti AI subjektom. Harari svari pred nastankom “korporacij z nič ljudmi” (corporation with zero people). Takšne entitete bi bile neobvladljive, saj AI ne more iti v zapor in nima strahu pred smrtjo. Trg bi se iz prostora izmenjave spremenil v bojišče (battlefield), kjer bi AI algoritmi delovali kot vojaški vojščaki.
To nevarnost vidimo tudi v vojski. Danes prehajamo iz sistema “človek v zanki” (human in the loop), kjer ljudje preverjajo tarče, v sistem “človek na zanki” (human on the loop), kjer ima človek le 20 sekund, da potrdi AI-jev predlog za napad. V takšnem tempu je človeški nadzor le še iluzija; v resnici smo nadzor že prepustili stroju.
Zaključna misel: Zadnja želja človeštva
AI revolucija nas sili v vprašanje: “Kaj sploh pomeni biti človek, če inteligenca ni več naša domena?” Harari uporabi metaforo duha iz svetilke: človeštvo je porabilo že 99 od 100 želja, svet pa je v krizi. Zdaj imamo le še eno, zadnjo željo.
To željo moramo porabiti za modrost. Čas se izteka. Harari opozarja, da bi do leta 2028 lahko že prestopili pragove, po katerih poti nazaj ni več. Trenutne volitve so naša zadnja priložnost, da vplivamo na prihodnost. Ali bomo izbrali modrost in regulacijo, ali pa bomo prepustili nadzor tistemu, česar ne razumemo in kar ne more občutiti niti trohice sočutja do našega trpljenja?
Povzetek video posnetka kot predstavitev z zdrski.