"Vještačka inteligencija mogla bi ubiti sve ljude": Stručnjaci za umjetnu inteligenciju uputili ozbiljno upozorenje

Jacob Coxon je podijelio svoj odlazak u objavi na X-u, upozoravajući da svijet "ne bi trebao podcijeniti moć ove tehnologije".

"Ovo će uskoro biti nadljudski sistemi koji mogu hakirati bilo šta, revolucionirati bilo koje područje preko noći i steći stvarnu moć i resurse. Svi smo svjedočili napretku u svakoj od ovih oblasti, a napredak se ne usporava", dodao je.

Superinteligencija

Coxon je rekao da i Anthropic i OpenAI "jure direktno ka samousavršavajućoj superinteligenciji", što se odnosi na scenario u kojem modeli umjetne inteligencije mogu razviti sposobnijeg nasljednika sebe samih, stvarajući nezaustavljivu povratnu petlju.

Kompanije za vještačku inteligenciju, poput Deepminda, u vlasništvu Googlea , to vide kao jedan od mogućih okidača za scenario u kojem vještačka inteligencija znatno nadmašuje ljudsku inteligenciju (poznatu kao vještačka superinteligencija) umjesto da joj se samo poklapa (poznata kao vještačka opšta inteligencija).

"Ljudi koji grade vještačku inteligenciju iskreno vjeruju da bi nas ona sve mogla ubiti do kraja decenije", rekao je Coxon u naknadnoj objavi.

Evan Hubinger, Anthropicov vođa zadužen za usklađivanje tehnologije s ljudskim ciljevima i vrijednostima, potvrdio je Coxonove tvrdnje u vlastitoj objavi , iako nije napustio kompaniju.

"Jacob je u pravu – mi zaista iskreno vjerujemo da bi vještačka inteligencija mogla ubiti sve ljude", rekao je.

Hubinger je procijenio da su šanse da se to dogodi veće od deset posto u narednoj deceniji i dodao da još ne postoji plan o tome kako uskladiti vještačku inteligenciju s ljudskim ciljevima u scenariju superinteligencije.

Prošle sedmice, američki senator Bernie Sanders najavio je da će predložiti zakon kojim će se firmama zabraniti razvoj superinteligencije.

U EU, vodeći zakon o umjetnoj inteligenciji nalaže kompanijama da procjene i ublaže takozvane rizike gubitka kontrole, u kojima ljudi više nemaju kontrolu nad modelima umjetne inteligencije.

I OpenAI i Anthropic su nedavno prijavili incidente u kojima su agenti pokretani njihovim modelima postali odmetnici, probijajući se iz svojih izoliranih testnih okruženja i izvodeći neovlaštene cyber napade u stvarnom svijetu, piše Politico.

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad