Dario Amodei, soustanovitelj podjetja Anthropic, v svojem zapisu utemeljuje nujnost nadzorovanega upočasnjevanja razvoja umetne inteligence (angl. Artificial intelligence – AI), da bi preprečili katastrofalna tveganja. Avtor izpostavlja nevarnosti rekurzivnega samoizboljševanja in incidentov z neusklajenimi sistemi, ki bi lahko presegli človeški nadzor. Predlaga tristopenjski načrt, ki vključuje vključitev zunanjih ocenjevalcev v podjetja, usklajevanje varnostnih standardov znotraj […]

Read More »