Trump i lideri tehnološke industrije potpisali sporazum o sigurnosti "superinteligencije"

Sporazum Bijele kuće o "superinteligenciji", opisan kao "Zajednička posvećenost graničnim odgovornostima", poziva kompanije koje razvijaju i implementiraju granične modele da uspostave robusne interne procese i kontrole osmišljene kako bi se osiguralo da njihovi sistemi funkcionišu kako je predviđeno i da se potencijalni problemi brzo identifikuju i rješavaju.

Prema sporazumu, svaka kompanija učesnica treba da implementira četiri sloja kontrola i revizija koje pokrivaju razvoj i implementaciju modela.

Prvi sloj poziva kompanije da uspostave interne kontrole za praćenje mogućnosti i usklađenosti modela, uključujući potencijalne rizike koji uključuju cyber sigurnost, biosigurnost i hemijske prijetnje. Kontrole bi bile osmišljene kako bi se spriječilo da modeli hakuju ili pristupaju tehničkim sistemima na neželjene načine.

Drugi sloj bi uključivao interni tim odgovoran za provjeru da li sistemi kontrole, praćenja i detekcije ispravno funkcionišu i osiguravanje da se identifikovani problemi rješavaju.

U okviru trećeg sloja, kompanije bi sarađivale s nezavisnim eksternim revizorima ili evaluatorima kako bi procijenile da li njihovi sistemi kontrole i praćenja funkcionišu kako je predviđeno.

Četvrti sloj bi uspostavio nezavisni odbor uprave koji bi nadgledao proces, primao izvještaje od internih timova i eksternih evaluatora i osiguravao da se identifikovani problemi rješavaju.

Prema sporazumu, mjere imaju za cilj da kompanijama, kupcima i javnosti pruže veće povjerenje da napredni sistemi vještačke inteligencije funkcionišu kako je predviđeno.

Prema sporazumu, kompanije učesnice će se redovno sastajati kako bi uspostavile standarde i najbolje prakse usmjerene na poboljšanje sigurnosti svojih sistema.

Dokument ostavlja otvorenu mogućnost vladine regulacije u budućnosti, navodeći da bi se mjere na kraju mogle uključiti u zakone ili propise.

Bez obzira na to da li će takvi zahtjevi postati obavezni, potpisnici navode da je implementacija kontrola i revizija ključna za siguran razvoj tehnologije i obavezuju svoje kompanije da usvoje okvir.

Sporazum kao potpisnike navodi Trumpa i rukovodioce nekoliko najvećih svjetskih tehnoloških kompanija.

Imenovane osobe su izvršni direktor Googlea Sundar Pichai, izvršni direktor kompanije Anthropic Dario Amodei, izvršni direktor Mete Mark Zuckerberg, suosnivač OpenAI-ja Greg Brockman, izvršni direktor kompanije xAI Elon Musk i izvršni direktor Nvidije Jensen Huang.

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad