Braun R (2026) Who is responsible when AI helps to write science? Nature 657, 34-36 – https://doi.org/10.1038/d41586-026-02686-z – free access article pdf
Prispevek na spletnem portalu revije Nature v rubriki Comments obravnava vprašanje odgovornosti in avtorstva, ko so v znanstveno raziskovanje vključena orodja generativne umetne inteligence. Avtor opozarja, da digitalni modeli ne morejo prevzeti etične in strokovne odgovornosti za svoje delo, kar ogroža tradicionalno razumevanje znanstvene integritete. Viri predlagajo vzpostavitev novega okvira CRediT-AI, ki bi jasno opredelil, v kateri fazi raziskave je bila uporabljena tehnologija. S takšno pregledno dokumentacijo bi ohranili zaupanje v akademsko delo in zagotovili, da so ljudje še vedno primarno odgovorni za vsebino. Razprava spodbuja k premisleku o tem, kako umetna inteligenca spreminja hierarhijo in procese v sodobni znanosti.
Preglednica: Primer strukture CRediT-AI – Izjave o prispevku lahko pojasnijo, kako je umetna inteligenca prispevala k znanstvenim člankom.
| Vloga CRediT | Človeški sodelavec | Način posredovanja z umetno inteligenco |
| Konceptualizacija | Robert Braun | Pomoč pri oblikovanju idej in opredeljevanju alternativ |
| Metodologija | Robert Braun | Pomoč pri strukturni organizaciji |
| Formalna analiza | Robert Braun | Pomoč pri primerjalni sintezi |
| Preiskava | Robert Braun | Pomoč pri vključevanju naloženih gradiv in navedenih razprav |
| Pisanje — prvotni osnutek | Robert Braun | Pomoč pri ustvarjanju in preoblikovanju kandidatnih besedil |
| Pisanje — pregled in ureditev | Robert Braun | Pomoč pri strnjevanju besedila in stilistični reviziji |
| Nadzor | Robert Braun | Nič |
| Upravljanje projekta | Robert Braun | Nič |
| Preverjanje in odgovornost | Robert Braun | Samo človek |
Povzetek članka “Kdo je dejansko avtor? Pet presenetljivih spoznanj o prihodnosti znanosti v dobi umetne inteligence“.
1. Uvod: Tiha revolucija v laboratorijih
V znanstvenih krogih se odvija tiha revolucija. Orodja generativne umetne inteligence (genAI) niso več le futuristična obljuba, temveč so postala vsakdanji “sodelavci” pri povzemanju literature, generiranju idej, pisanju osnutkov odgovorov recenzentom in piljenju sloga besedil. Toda ta integracija prinaša globoko etično vprašanje: Kaj sploh še šteje za človeško avtorstvo?
Kot tehnološki etik moram poudariti, da avtorstvo v znanosti nikoli ni bilo naravno ali fiksno stanje. Že v zgodnjem novem veku je bil status avtorja “praktični dosežek”, ki se je vzpostavljal skozi družbene konvencije. Avtoriteta Isaaca Newtona, denimo, ni temeljila le na njegovih odkritjih, temveč na njegovi sposobnosti krmarjenja med institucijami, kot je Royal Society. Danes se nahajamo na podobni prelomnici. Avtorstvo ni le vprašanje zaslug, temveč predvsem vprašanje odgovornosti in zaupanja.
2. AI ni le “še en” raziskovalni asistent
Pogosto slišimo utemeljitev, da je uporaba genAI zgolj digitalna različica pomoči študenta ali raziskovalnega asistenta. Vendar ta primerjava spregleda ključno ontološko razliko. Človeški pomočnik – na primer diplomant – lahko pojasni svoje odločitve, se odzove na kritiko in se uči iz popravkov. Kar je najpomembneje: človek lahko sprejme moralno in profesionalno odgovornost za integriteto svojega dela.
“GenAI se bistveno razlikuje: ne more utemeljiti svojih odločitev ali prevzeti odgovornosti za to, kar proizvede.”
Prav ta nezmožnost prevzemanja odgovornosti je največja ovira za priznanje AI kot “soavtorja”. AI ne more stati pred etično komisijo; to breme vedno ostane na plečih človeka, ne glede na to, kolikšen delež besedila je algoritem dejansko ustvaril.
3. Nevidna armada za bleščečimi algoritmi
Za bleščečimi vmesniki modelov, kot sta ChatGPT 5.4 ali Claude 4.2, se skriva “nevidna armada” človeškega dela. Delovanje teh sistemov omogočajo tisoči označevalcev podatkov, inženirjev, vzdrževalcev platform in milijoni avtorjev izvirnih besedil, na katerih so se modeli učili.
V naši “ekonomiji pripisovanja zaslug” določeno delo postane avtorstvo, drugo pa izgine v zahvalah ali popolni anonimnosti. GenAI to neenakost še poglablja, saj se njena raba širi tudi v uredniško infrastrukturo. AI se danes uporablja za izbiro recenzentov in celo interpretacijo njihovih poročil, kar še dodatno zamegljuje človeško agencijo v procesu objavljanja. Zakaj nekatero delo povzdignemo v avtorstvo, drugo pa potisnemo v nevidno ozadje infrastrukture?
4. Zakaj priznavamo AI, ne pa človeških asistentov?
Morda najbolj kontraintuitivno spoznanje je, da AI deluje kot katalizator za prevrednotenje akademskih hierarhij. Danes smo se pripravljeni pogajati o tem, kako v članku transparentno navesti uporabo AI za sintezo literature. To odpira provokativno vprašanje: Če sintezo literature s pomočjo AI razumemo kot dovolj pomemben prispevek, da ga posebej izpostavimo, zakaj istega dela pogosto ne priznamo človeškemu asistentu s soavtorstvom?
Umetna inteligenca destabilizira obstoječe hierarhije. Če lahko algoritem zamenja določene naloge raziskovalcev, nam nastavlja ogledalo: čas je, da vprašamo, zakaj so bili ljudje, ki so te naloge opravljali pred dobo AI, sistemsko spregledani.
5. Claude Opus kot pisec: Eksperiment, ki postavlja meje
Zgovoren primer te nove realnosti je eksperiment Andrewa Maynarda, ki je pri pisanju članka o “ustavni umetni inteligenci” modelu Claude Opus 4.6 prepustil skoraj popolno svobodo pri raziskovanju in pisanju besedila. Maynard je ostal naveden kot edini avtor in prevzel polno odgovornost, proces pa dokumentiral v obsežnem pojasnilu.
Ta primer razkriva omejitve trenutne prakse. Takšna “po meri” (bespoke) razkritja so sicer hvalevredna, vendar niso standardizirana in ne omogočajo primerjave med različnimi znanstvenimi deli. Brez enotnega okvira ostajajo ti zapisi le izolirane anekdote, ki ne rešujejo sistemskega vprašanja odgovornosti.
6. Rešitev: Okvir CRediT-AI za popolno transparentnost
Namesto prostoročnih opisov potrebujemo nadgradnjo uveljavljenega sistema CRediT. Model CRediT-AI bi omogočil, da se vsaka vloga neposredno poveže s specifično obliko AI-posredovanja, vključno s širšimi pogoji dela, kot so stroški energije in raba za jezikovno piljenje.
Ključni elementi takšnega poročanja bi bili:
- Konceptualizacija: Pomoč pri generiranju idej in postavljanju alternativnih okvirov.
- Metodologija: Pomoč pri strukturni organizaciji raziskave.
- Pisanje izvirnega osnutka: Pomoč pri pripravi predlogov besedila in restrukturiranju.
- Jezikovna obdelava: Navedba, če je bila AI uporabljena primarno za reformulacijo v angleškem jeziku.
- Zunanji dejavniki: Navedba uporabe institucionalnih naročnin ter ocena neizogibnih računskih in energetskih stroškov.
- Verifikacija in odgovornost: Ključna, izključno človeška vloga (Human-only). Tu mora biti jasno navedeno, kdo je preveril AI-prispevke, na primer kdo je potrdil pravilnost citiranih virov ali validiral generirano programsko kodo.
Bistvo ni v tehničnem poročanju, temveč v tem, da avtorstvo ostane povezano s širšimi pogoji, pod katerimi nastaja sodobna znanost.
7. Zaključek: Odprta vrata za pogajanja
Generativna umetna inteligenca ni le grožnja, ki jo je treba “zadušiti” z restrikcijami. Je priložnost, da razgalimo infrastrukturo, skozi katero zapisano delo sploh postane “znanost”. AI nam je odprla vrata za ponoven premislek o pogojih znanstvenega življenja.
Ali bomo to priložnost izkoristili za to, da naredimo znanost bolj transparentno, pravično in odgovorno, ali pa bomo zgolj avtomatizirali stare nepravičnosti? Odgovor na to vprašanje bo določil prihodnost zaupanja v človeško znanje.