Messeri L, Crockett MJ (2024) Artificial intelligence and illusions of understanding in scientific research. Nature 627, 49–58 – https://doi.org/10.1038/s41586-024-07146-0 – University of Ljubljana free access document pdf
Abstract (povzetek):
Znanstveniki z navdušenjem razmišljajo o načinih, kako bi orodja umetne inteligence (UI) lahko izboljšala raziskave. Zakaj so orodja UI tako privlačna in kakšna so tveganja njihove uporabe v raziskovalnem procesu? V tem prispevku razvijamo taksonomijo vizij znanstvenikov za UI in ugotavljamo, da njihova privlačnost izhaja iz obljub o izboljšanju produktivnosti in objektivnosti z odpravljanjem človeških pomanjkljivosti. Vendar pa lahko predlagane rešitve UI izkoriščajo tudi naše kognitivne omejitve, zaradi česar smo dovzetni za iluzije razumevanja, v katerih verjamemo, da razumemo svet bolje, kot ga v resnici razumemo. Takšne iluzije zamegljujejo sposobnost znanstvene skupnosti, da vidi nastajanje znanstvenih monokultur, v katerih nekatere vrste metod, vprašanj in stališč prevladajo nad alternativnimi pristopi, zaradi česar je znanost manj inovativna in bolj dovzetna za napake. Širjenje orodij umetne inteligence v znanosti tvega uvedbo faze znanstvenega raziskovanja, v kateri proizvajamo več, a razumemo manj. Z analizo privlačnosti teh orodij zagotavljamo okvir za napredovanje razprav o odgovorni proizvodnji znanja v dobi umetne inteligence.
V nadaljevanju podajamo kratek povzetek prispevka.
Članek razpravlja o tem, kako umetna inteligenca (AI) spreminja znanstveno raziskovanje, pri čemer poudarja, da kljub večji produktivnosti prinaša resna epistemološka tveganja. Avtorja razvrščata vizije uporabe UI v štiri kategorije — orakelj (angl. Oracle), nadomestek (angl. Surrogate), kvant (angl. Quant) in razsodnik (angl. arbiter) — ki obljubljajo premagovanje človeških omejitev in pristranskosti. Vendar pa opozarjata na pojav iluzij razumevanja, kjer znanstveniki napačno verjamejo, da svet razumejo bolje, kot ga v resnici. Takšna pretirana zaupljivost vodi v nastanek znanstvenih monokultur, ki omejujejo raznolikost metod in vprašanj ter zmanjšujejo inovativnost. Avtorja pozivata k previdnosti, saj bi lahko nekritična uporaba teh orodij povzročila fazo, v kateri znanost proizvaja več podatkov, a hkrati ponuja manj dejanskega spoznanja. Razpravljata tudi o nujnosti vključevanja humanističnih in družboslovnih perspektiv za zagotavljanje odgovornega razvoja znanosti v dobi umetne inteligence.
Povzetek prispevka kot predstavitev z zdrski.