Prispevek na spletnem portalu BBC v rubriki News opisuje vzpon novega modela umetne inteligence Claude Mythos podjetja Anthropic, ki izstopa po svojih izjemnih sposobnostih na področju kiber-varnosti. Zaradi moči orodja, ki lahko samodejno odkriva in izkorišča kritične programske napake, je podjetje omejilo dostop le na izbrane tehnološke velikane v sklopu iniciative Project Glasswing. Viri izpostavljajo zaskrbljenost svetovnih finančnih ministrov in strokovnjakov, saj bi takšna tehnologija lahko ogrozila stabilnost digitalnih sistemov. Kljub strahovom nekateri analitiki opozarjajo, da gre morda za marketinško pretiravanje, saj neodvisni testi modela še niso v celoti potrjeni. Razprava se tako vrti okoli vprašanja, ali Mythos predstavlja eksistencialno grožnjo ali pa dragoceno priložnost za dolgoročno utrditev spletne varnosti. Danes se v reševanje problematike vključujejo tudi najvišji državni organi, da bi preprečili morebitne zlorabe te napredne tehnologije.
Sledi povzetek prispevka v slovenščini, pripravljen z upoštevanjem inženirske terminologije in analitičnega pregleda.
Podjetje Anthropic je razkrilo Claude Mythos, nov model umetne inteligence (UI, angl. Artificial intelligence – AI) s specializiranimi zmogljivostmi na področju kibernetske varnosti. Zaradi potenciala za zlorabo v digitalnih napadih model ni bil sproščen v javno uporabo.
Ključne zmogljivosti in trditve
- Hekerska učinkovitost: Anthropic navaja, da Mythos pri določenih nalogah s področja kibernetske varnosti in vdorov presega človeške zmogljivosti.
- Detekcija ranljivosti: V internih testih je model identificiral tisoče kritičnih ranljivosti v vseh vodilnih operacijskih sistemih in spletnih brskalnikih, vključno z napako, ki je ostala neodkrita 27 let.
- Eksploatacija kode: Varnostne ekipe (ang. red-teams) so ugotovile, da model ne le locira spečih hroščev v desetletja stari programski kodi, temveč zna predlagati tudi načine za njihovo izkoriščanje.
Projekt Glasswing: Nadzorovan dostop
Za ublažitev tveganj je Anthropic zagnal projekt Glasswing, pobudo za zavarovanje kritične programske opreme.
- Partnerji: Dostop je omejen na 12 tehnoloških gigantov — vključno z Amazon Web Services, Apple, Microsoft, Google, Nvidia in Broadcom — ter več kot 40 organizacij, odgovornih za kritično infrastrukturo.
- Vladno sodelovanje: Podjetje sodeluje z ameriškimi vladnimi uradniki in mednarodnimi regulatorji pri vzpostavljanju obrambnih mehanizmov pred tveganji, ki jih prinaša napredna UI.
Globalni in regulatorni odzivi
- Finančna stabilnost: Finančni ministri in guvernerji centralnih bank (vključno z Bank of England in Mednarodnim denarnim skladom) opozarjajo, da bi model lahko ogrozil varnost globalnih finančnih sistemov.
- Kibernetska kriminaliteta: Odločevalci preučujejo, kako bi širjenje teh zmogljivosti lahko znižalo vstopni prag za izvajanje sofisticiranih kibernetskih napadov.
Strokovni vidiki
- Vpliv na sisteme: Strokovnjaki poudarjajo, da so trenutno najbolj ogroženi slabo branjeni in neposodobljeni sistemi. Učinkovitost modela proti vrhunsko varovanim sistemom še ni neodvisno potrjena.
- Tržna strategija ali realna grožnja: Nekateri analitiki ostajajo skeptični in menijo, da bi poudarjanje nevarnosti lahko bilo del marketinške strategije za izpostavljanje premoči nad konkurenti (npr. OpenAI, Google).
- Sistemska priložnost: Kljub tveganjem obstaja potencial, da se Mythos uporabi za defenzivne namene — za strukturno krpanje ranljivosti same arhitekture interneta.