Geoffrey Hinton: Možda bi nam bilo bolje da umjetnu inteligenciju nikad nismo razvili

Hinton je s Guardianom razgovarao uoči prikazivanja dokumentarnog filma "AI: Probably Nothing to Worry About" reditelja Nicka Holta, u kojem se pojavljuje i šef Google DeepMinda Demis Hassabis. Za sebe kaže da nije "pesimista koji predviđa propast" i da AI može donijeti "divnu budućnost", ali dodaje: "Moglo bi se pokazati da bi nam bilo bolje da je nikad nismo razvili."

Hinton je 2024. dobio Nobelovu nagradu za fiziku za radove koji su omogućili savremeno mašinsko učenje, a godinu ranije napustio je Google kako bi mogao slobodno govoriti o rizicima ove tehnologije.

"Vidjet ćemo naš Černobil"

"Ili kasnije ove godine ili iduće vidjet ćemo Černobil, i to bi moglo biti dovoljno da ljudi zaista obrate pažnju", rekao je Hinton. Ne misli na nuklearnu nesreću, nego na napad uz pomoć umjetne inteligencije koji bi izazvao veliki prekid u snabdijevanju strujom ili sedmicu dug zastoj finansijskog sistema.

Kao upozorenje naveo je navodne pokušaje AI agenata kompanije OpenAI da ovog ljeta upadnu u sisteme platforme Hugging Face, koje je uporedio s nesrećom u nuklearki Three Mile Island 1979.

Testiranje kao kod lijekova

Hinton traži da kompanije prije puštanja novih modela nezavisnom tijelu dostave "vrlo dobre statističke dokaze" da model donosi više koristi nego štete. "Treba nam nešto poput američke agencije FDA za lijekove", rekao je. Podržava i inicijativu koju je predstavio finski predsjednik, a podržalo još 32 zemlje, među kojima Njemačka, Kanada i Australija, za obavezno i nezavisno testiranje najnaprednijih modela.

Za šefa OpenAI-ja Sama Altmana kaže da mu "uopće ne vjeruje". O Altmanu, Marku Zuckerbergu i Elonu Musku rekao je da razumiju rizike, ali da bi "radije imali novac". Na pitanje ko se mora probuditi odgovorio je: "Svjetski lideri, osim Trumpa."

"Osjećam da imam dužnost. Imam ugled koji me čini glasnogovornikom i moram ga sav potrošiti na ovo", rekao je Hinton, dodajući da mu osjećaj govori da kontrolu zasad još imamo.