Prispevek v reviji MIT Technology Review o tem, kako vsi mislijo, da vedo, vendar se nihče ne more strinjati – in to predstavlja težavo.
Članek “Kaj je umetna inteligenca?” avtorja Willa Douglasa Heavena, objavljen v MIT Technology Review, se poglobi v kompleksno in pogosto sporno razpravo o definiciji in pomenu umetne inteligence (UI; angl. Artificial intelligence – AI). Članek raziskuje različne poglede na UI, od navdušencev, ki verjamejo v skorajšnjo uresničitev splošne umetne inteligence (angl. Artifical general intelligence – AGI), do skeptikov, ki te trditve zavračajo kot pretiravanje.
Ključne teme in ideje prispevka:
1. Nedoločljivost definicije UI: Članek poudarja, da ni enotne definicije UI, kar vodi do zmede in nesoglasij. Raziskovalci, razvijalci in javnost se pogosto ne strinjajo o tem, kaj UI sploh je, kaj zmore in kakšne so njene posledice.
2. Razkorak med matematiko in magijo: Članek izpostavlja kontrast med tehnično platjo UI, ki temelji na kompleksnih matematičnih modelih in algoritmih, in mistifikacijo UI, ki se pogosto pojavlja v medijih in popularni kulturi. Pojavi se vprašanje, ali je kompleksna matematika zadostna za ustvarjanje inteligence, ali pa gre le za dovršeno statistično simulacijo.
3. Spor o splošni umetni inteligenci (AGI): Članek predstavlja spor med tistimi, ki verjamejo v bližnjo uresničitev AGI, in tistimi, ki to idejo zavračajo. Sebastian Bubeck iz Microsofta, navdušen nad zmogljivostmi GPT-4, trdi, da smo že priča “iskram AGI”, medtem ko kritiki, kot sta Emily Bender in Gary Marcus, to zavračajo kot pretiravanje in poudarjajo omejitve tehnologije.
4. Vpliv kulture in znanstvene fantastike: Članek analizira, kako so na naše razumevanje UI vplivale popularne predstave o UI, ki jih pogosto oblikujejo znanstvena fantastika in filmi kot Terminator, Her in Ex Machina. Ta vpliv se kaže v težnjah po ustvarjanju človeku podobnih UI in v strahu pred potencialnimi nevarnostmi UI, ki jih popularizirajo doomerski scenariji.
5. Pomen etike in odgovornosti: Članek opozarja na etične izzive, ki jih prinaša razvoj UI, kot so potencialna pristranskost algoritmov, vpliv na trg dela in okolje ter nevarnost zlorabe UI za manipulacijo in nadzor. Emily Bender in Timnit Gebru poudarjata pomembnost kritične refleksije o posledicah UI in odgovornega razvoja tehnologije.
6. Iskanje pravega jezika za opis UI: Članek se zaključuje z ugotovitvijo, da potrebujemo nov jezik za opis UI, ki presega omejitve obstoječih konceptov in metafor. Ključno je, da se zavedamo, da UI ni monolitna entiteta, ampak skupek različnih tehnologij z različnimi potenciali in tveganji.
Citati iz članka:
“Mislim, da lahko o tem razpravljate, kolikor želite, in trenutno ni dokazov, ki bi vam nasprotovali.” – Chris Olah, glavni znanstvenik v laboratoriju za umetno inteligenco Anthropic v San Franciscu
“Čas je, da se soočimo z resnico, iskre AGI so bile prižgane.” – Sebastian Bubeck, podpredsednik za raziskave generativne umetne inteligence pri Microsoft Research v Redmondu v Washingtonu
“Ta dokument je marketinška puhlica, ki se maskira kot raziskava.” – Neimenovani direktor tehnološkega podjetja
“Mislim, da jih jih je zaneslo (op. Microsoft).” – Gary Marcus, vplivni računalniški znanstvenik in nekdanji Googler Timnit Gebru ter kognitivni znanstvenik z newyorške univerze
“Moramo imeti popolnoma nov besednjak, da opišemo, kaj se dogaja.” – Sebastian Bubeck, podpredsednik za raziskave generativne umetne inteligence pri Microsoft Research v Redmondu v Washingtonu
“Besede se nenehno redefinirajo in koncepti se razvijajo.” – Ellie Pavlick, univerza Brown
Članek nas spodbuja k premisleku o tem, kaj UI sploh je, kakšne so njene meje in kakšno prihodnost želimo ustvariti s to tehnologijo. Pomembno je, da se o UI pogovarjamo odprto in kritično ter da se zavedamo, da je UI orodje, ki ga lahko uporabimo za dobro ali zlo. Naša odgovornost je, da ga uporabimo modro.