Tehnološki mogul Elon Musk, ali i čitav niz stručnjaka, u srijedu su pozvali na zaustavljanje razvoja moćnih sustava umjetne inteligencije kako bi se najprije moglo proučiti koliko su oni zapravo sigurni.

Otvoreno pismo, koje je potpisalo više od tisuću ljudi uključujući Muska i suosnivača Applea, Stevea Wozniaka, izazvala je objava GPT-4 programa koji je razvila tvrtka OpenAI s podrškom Microsofta, prenosi Science Alert.

Tvrtka kaže da je posljednji model mnogo moćniji od ranije verzije, koja je korištena za ChatGPT – alat sposoban za sastavljanje opsežnih tekstova na najkraće upite.

“AI sustavi s inteligencijom usporedivom ljudskoj mogu predstavljati značajne rizike za društvo i ljudski rod”, piše u pismu naziva Zaustavite ogromne AI eksperimente.

“Moćni AI sustavi trebali bi se početi razvijati tek kada se uvjerimo da će njihove posljedice biti pozitivne, a rizici lako rješivi”, piše.

Musk je bio jedan od inicijalnih investitora u OpenAI, a godinama je sjedio i u upravi te tvrtke. Njegova tvrtka Tesla razvija sustave umjetne inteligencije između ostalog i za potrebe tehnologije automobila bez vozača.

Pismo su potpisali glasni kritičari, ali i konkurenti OpenAI-ja, poput direktora tvrtke Stability AI, Emada Mostaquea.

Kanadski pionir umjetne inteligencije Yoshua Bengio također je potpisao pismo, a na virtualnoj press konferenciji u Montrealu upozorio da “društvo nije spremno” ta ovaj moćni alat i njegovu potencijalnu zlouporabu.

“Usporimo. Moramo razviti bolja ograničenja”, rekao je, pozvavši na detaljnu međunarodnu raspravu o umjetnoj inteligenciji i njenim implikacijama, “kao što smo učinili i po pitanju nuklearnog oružja.”

‘Vjerodostojno i lojalno’

U pismu je citirana objava na blogu koju je napisao osnivač OpenAI-ja, Sam Altman. On je naveo da bi “u jednom trenutku moglo biti važno dobiti neovisnu analizu prije nego krenemo uvježbavati buduće sustave.”

“Slažemo se. Taj trenutak je sada”, napisali su autori otvorenog pisma. “Prema tome, pozivamo sve koji razvijaju umjetnu inteligenciju da pauziraju barem šest mjeseci u razvoju sustava moćnijih od sustava GPT-4.”

Pozvali su vlade da se uključe u razgovor i uvedu moratorije ako tvrtke odbiju zaustaviti istraživanja.

Šest mjeseci bi trebalo biti dovoljno za razvoj sigurnosnih protokola i sustava za rukovanje umjetnom inteligencijom, ali i za fokusirana istraživanja kojima će se umjetnu inteligenciju učiniti sigurnom, točnom, “vjerodostojnom i lojalnom.”

U pismu nisu navedene nikakve konkretne opasnosti koje predstavlja GPT-4.

Ipak, istraživači, uključujući Garyja Marcusa sa sveučilišta u New Yorku koji je potpisao pismo, već dugo upozoravaju da su chatbotovi veliki lažljivci koji imaju potencijal masovno širiti dezinformacije.

Ipak, autor Cory Doctorow industriju AI-ja naziva napuhanom shemom i tvrdi da se masovno pretjeruje i oko potencijala i oko prijetnji koje predstavljaju sustavi umjetne inteligencije.

Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android|iPhone/iPad