V prispevku na spletnem portalu revije MIT Technology Review avtor Will Douglas Heaven piše o podjetju OpenAI, ki usmerja svoja prizadevanja v razvoj popolnoma avtomatiziranega umetnega raziskovalca, ki bi do leta 2028 lahko samostojno reševal zapletene znanstvene in poslovne izzive. Glavni znanstvenik Jakub Pachocki napoveduje prehod od trenutnih programerskih orodij k sistemom, ki bodo sposobni dolgotrajnega in koherentnega delovanja brez stalnega človeškega nadzora. Takšna tehnologija bi lahko korenito spremenila področja, kot so fizika, biologija in matematika, saj bi omogočila izvajanje obsežnih raziskav v podatkovnih centrih. Kljub ambicioznim ciljem pa se podjetje sooča s pomembnimi vprašanji varnosti, etike in potrebe po nadzoru nad tako močnim orodjem. Pachocki poudarja, da bodo za varno uvajanje teh prelomnih inovacij nujno potrebne omejitve v peskovnikih in tesno sodelovanje s snovalci politik.
Sledi povzetek prispevka o strateškem premiku družbe OpenAI k razvoju avtonomnih raziskovalnih sistemov umetne inteligence (UI).
Cilj “Severnica”: Avtomatizirani UI-raziskovalci
OpenAI preusmerja svoje raziskovalne napore v razvoj popolnoma avtomatiziranega agentnega sistema, ki bo sposoben samostojno reševati kompleksne in obsežne probleme.
- UI-pripravnik (2026): Do septembra načrtujejo uvedbo “avtonomnega UI-raziskovalnega pripravnika”, ki bo sposoben samostojno prevzeti specifične, manjše raziskovalne naloge.
- Popolni raziskovalec (2028): Ta sistem je predviden kot večagentni sistem za reševanje izzivov v matematiki, fiziki, biologiji in javnih politikah, ki so trenutno preobsežni za človeške zmogljivosti.
- Integracija tehnologij: Ta cilj združuje različne raziskovalne smeri, vključno z modeli sklepanja (stopenjsko reševanje težav), agentnimi sistemi in interpretabilnostjo modelov.
Trenutni temelji in dokazi
Odločitev za to smer temelji na nedavnih uspehih pri programiranju in logičnem sklepanju:
- Codex in agenti: Orodja, kot je Codex, že omogočajo inženirjem upravljanje “skupin agentov” namesto ročnega pisanja kode. Pachocki to vidi kot prototip za splošno znanstveno reševanje problemov.
- Razširjeno sklepanje: Novi modeli so usposobljeni za dolgotrajnejše delo z razčlenjevanjem nalog na podnaloge in povratnim sledenjem (backtracking), ko naletijo na slepe ulice.
- Znanstveni preboji: Zgodnje različice teh modelov so že prispevale k reševanju prej nerešljivih problemov v matematiki, kemiji in fiziki.
Tehnični in varnostni izzivi
Kljub optimizmu ostajajo znatne ovire:
- Težava veriženja: Strokovnjaki opozarjajo, da se pri veriženju nalog verjetnost napake eksponentno povečuje, kar otežuje zagotavljanje zanesljive dolgoročne avtonomije.
- Nadzor verige misli (Chain-of-thought monitoring): Za obvladovanje tveganj OpenAI razvija metodo, kjer modeli svoje korake sklepanja zapisujejo v posebne “beležnice”. Drugi sistemi UI nato te zapise spremljajo v realnem času, da bi zaznali morebitno neželeno vedenje.
- Izolacija (Sandboxing): Najzmogljivejši modeli morajo biti izolirani v varnih okoljih, da se prepreči morebitna zloraba za razvoj patogenov ali izvajanje kibernetskih napadov.
Družbeni in ekonomski vpliv
Pachocki tehnologijo označuje kot “ekonomsko transformativno”, ne pa nujno kot neposredno simulacijo človeške inteligence.
- Koncentracija moči: Sposobnost majhne skupine ljudi, da upravlja celoten “raziskovalni laboratorij v podatkovnem centru”, predstavlja nepredvideno koncentracijo moči v industriji.
- Potreba po regulaciji: Čeprav OpenAI prevzema osebno odgovornost za varnost, Pachocki poudarja ključno vlogo odločevalcev pri določanju “rdečih linij”, zlasti glede uporabe tehnologije v vladne in vojaške namene.
Povzetek prispevka kot predstavitev z zdrski.