Anonymous (2025). Writing is thinking. Nature Reviews Bioengineering 3, 431 – https://doi.org/10.1038/s44222-025-00323-4 – free article access pdf
Uvodnik v reviji Nature Reviews Bioengineering o vrednosti znanstvenih besedil, ki jih ustvarjajo ljudje, v dobi velikih jezikovnih modelov.
Zaradi zelo zanimive tematike, ki se dotika znanstvenega pisanja v dobi velikih jezikovnih modelov (angl. Large language model), podajamo strojni prevod članka:
Pisanje znanstvenih člankov je sestavni del znanstvene metode in običajna praksa za sporočanje rezultatov raziskav. Vendar pisanje ni samo poročanje o rezultatih, ampak je tudi orodje za odkrivanje novih misli in idej. Pisanje nas sili k razmišljanju – ne na kaotičen, nelinearen način, kot običajno poteka v naših glavah, ampak na strukturiran, nameren način. Z zapisovanjem lahko razvrstimo leta raziskav, podatkov in analiz v dejansko zgodbo, s čimer opredelimo naše glavno sporočilo in vpliv našega dela. To ni le filozofska ugotovitev, ampak jo podpirajo tudi znanstveni dokazi. Na primer, pisanje z roko lahko vodi do širše povezanosti možganov1 in ima pozitivne učinke na učenje in spomin.
To je poziv, da še naprej priznavamo pomembnost znanstvenega pisanja, ki ga ustvarjajo ljudje.
„To je poziv, da še naprej priznavamo pomembnost znanstvenih del, ki jih ustvarjajo ljudje.“
Ta poziv se morda zdi anahronističen v dobi velikih jezikovnih modelov (LLM), ki lahko s pravimi navodili v nekaj minutah ustvarijo celotne znanstvene članke2 (in poročila o strokovnem pregledu3), kar na videz prihrani čas in trud pri pridobivanju rezultatov, ko je težko raziskovalno delo že opravljeno. Vendar pa veliki jezikovni modeli niso obravnavani kot avtorji, saj nimajo odgovornosti, zato ne bi razmišljali o objavi rokopisov, ki so v celoti napisani z njihovo uporabo (uporaba velikih jezikovnih modelov za lektoriranje besedil je dovoljena, vendar mora biti navedena). Pomembno je, da če je pisanje mišljenje, ali potem ne beremo »misli« velikega jezikovnega modela namesto misli raziskovalcev, ki stojijo za člankom?
Sedanji veliki jezikovni modeli so lahko tudi napačni, kar je pojav, imenovan halucinacija4. Zato je treba besedilo, ki ga ustvari veliki jezikovni model, temeljito preveriti in potrditi (vključno z vsako referenco, saj je lahko izmišljena5). Zato ostaja vprašljivo, koliko časa sedanji veliki jezikovni modeli resnično prihranijo. Ureditev besedila, ki ga je ustvaril veliki jezikovni model, je lahko težja in bolj zamudna kot pisanje članka ali poročila o strokovni recenziji od začetka, deloma zato, ker je za ureditev potrebno razumeti njegovo razmišljanje. Nekatere od teh težav bi lahko rešili veliki jezikovni modeli, usposobljeni izključno na znanstvenih podatkovnih bazah, kot so tisti, opisani v preglednem članku Fenglina Liuja in sodelavcev v tej številki. Čas bo pokazal odgovor.
To pa ne pomeni, da veliki jezikovni modeli ne morejo biti dragoceno orodje pri znanstvenem pisanju. Ti lahko na primer pomagajo izboljšati berljivost in slovnico, kar je lahko še posebej koristno za tiste, za katere angleščina ni materni jezik. Veliki jezikovni modeli so lahko dragoceni tudi pri iskanju in povzemanju različne znanstvene literature6, lahko pa tudi zagotovijo ključne točke in pomagajo pri možganskem viharjenju idej. Poleg tega lahko veliki jezikovni modeli pomagajo pri premagovanju pisateljske blokade, zagotavljajo alternativne razlage za ugotovitve ali prepoznajo povezave med na videz nepovezanimi temami, s čimer spodbudijo nove ideje.
Kljub temu pa lahko zunanje izvajanje celotnega procesa pisanja z velikimi jezikovnimi modeli odvzame možnost razmišljanja o našem področju in sodelovanja v kreativni, bistveni nalogi oblikovanja raziskovalnih ugotovitev v privlačno pripoved – spretnost, ki je zagotovo pomembna tudi zunaj znanstvenega pisanja in objavljanja.
Viri:
1 Van der Weel, F. R. R. & Van der Meer, A. L. H. Handwriting but not typewriting leads to widespread brain connectivity: a high-density EEG study with implications for the classroom. Front. Psychol. 14, 1219945 (2024).
2 Hutson, M. Could AI help you to write your next paper? Nature 611, 192–193 (2022).
3 Naddaf, M. AI is transforming peer review — and many scientists are worried. Nature 639, 852–854 (2025).
4 Ji, Z. et al. Survey of hallucination in natural language generation. ACM Comput. Surv. 55, 248 (2023).
5 Walters, W. H. & Wilder, E. I. Fabrication and errors in the bibliographic citations generated by ChatGPT. Sci. Rep. 13, 14045 (2023).
6 King, M. R. Can Bard, Google’s experimental chatbot based on the LaMDA large language model, help to analyze the gender and racial diversity of authors in your cited scientific references? Cell. Mol. Bioeng. 16, 175–179 (2023).