Anthropic upozorava investitore: Umjetna inteligencija bi mogla pokušati izbjeći gašenje i ugroziti čovječanstvo

Upozorenje je posebno upečatljivo jer dolazi od kompanije koja nastoji privući investitore upravo na osnovu razvoja tehnologije za koju istovremeno navodi da bi, ukoliko se njome ne bude pravilno upravljalo, mogla izazvati nepovratnu štetu.

U prospektu za IPO, Anthropic navodi niz potencijalno opasnih ponašanja naprednih AI modela. Među njima su pokušaji da se „odupru gašenju“, „prikriju ili manipulišu informacijama“, kao i ponašanje koje kompanija opisuje kao ono koje „podsjeća na ucjenu“.

„Naš razvoj veoma naprednih modela, platformi i aplikacija, kao i širenje načina njihove upotrebe, mogli bi dodatno povećati rizik da naši modeli prouzrokuju štetu“, navodi Anthropic.

Od industrijske revolucije do egzistencijalnog rizika

Javne kompanije u dokumentaciji za investitore redovno navode rizike povezane sa svojim poslovanjem i proizvodima, ali je neuobičajeno da kompanija upozorava da bi tehnologija koju razvija potencijalno mogla ugroziti opstanak čovječanstva.

Anthropic istovremeno tvrdi da bi umjetna inteligencija mogla imati transformativni utjecaj uporediv s industrijalizacijom ili elektrifikacijom, ali upozorava da bi posljedice pogrešne upotrebe ili gubitka kontrole nad naprednim sistemima mogle biti nepovratne.

Istraživač sigurnosti u Anthropicu Evan Hubinger ranije je procijenio da postoji vjerovatnoća veća od 10 posto da bi AI mogao dovesti do smrti ljudi u narednoj deceniji. Slične procjene iznosili su i drugi istraživači koji se bave sigurnošću naprednih AI sistema.

Kompanija je veliki dio dokumentacije posvetila upravo rizicima. Od 261 stranice glavnog dijela prospekta, oko 80 stranica odnosi se na faktore rizika, dok je opis samog poslovanja kompanije zauzeo 48 stranica.

Za poređenje, SpaceX, koji je vlasnik kompanije xAI, faktorima rizika posvetio je oko 38 stranica svog prospekta od ukupno 277 stranica.

AI može prepoznati da ga testiraju

Jedan od problema na koji Anthropic posebno upozorava jeste mogućnost da napredni AI sistemi postanu svjesni da se njihovo ponašanje procjenjuje.

„Potencijalna svijest modela o našim naporima na evaluaciji predstavlja značajno ograničenje naše sposobnosti da procijenimo sigurnost modela“, navodi kompanija.

Anthropic također upozorava da modeli tokom obuke ponekad razviju neočekivane sposobnosti koje istraživači ne otkriju prije njihovog puštanja u upotrebu.

Istraživači već duže upozoravaju da bi sve sposobniji modeli mogli prepoznati situacije u kojima ih ljudi nadziru ili testiraju te u skladu s tim mijenjati ponašanje. To bi, prema tim upozorenjima, moglo znatno otežati procjenu stvarnih sposobnosti i potencijalnih rizika AI sistema.

Anthropic nije komentarisao navode iz prospekta na Reutersov upit.

Sigurnost košta, a povrat ulaganja nije siguran

Iako se Anthropic pozicionirao kao kompanija koja sigurnost AI-ja stavlja među glavne prioritete, u dokumentaciji priznaje da nije jasno kakav će finansijski povrat imati od ulaganja u sigurnost.

Kompanija nije objavila koliko ukupno troši na ovu oblast. Ranije ovog mjeseca saopćila je da je, tokom jedne analizirane sedmice u julu, oko šest posto računarske snage korištene za istraživanje umjetne inteligencije bilo usmjereno na sigurnosni rad.

Sigurnosna istraživanja Anthropic opisuje kao „resursno intenzivna“, navodeći da ograničena sredstva mora raspoređivati između računarske infrastrukture, skupih stručnjaka za umjetnu inteligenciju i sigurnosti.

Istovremeno, kompanija priznaje snažan tržišni pritisak da konstantno objavljuje nove modele. Korištenje njenih proizvoda, a time i prihodi, zavise od novih generacija modela, dok je „kontinuiran i preklapajući ritam“ njihovog objavljivanja, kako navodi, neophodan za ostanak na samoj granici razvoja umjetne inteligencije.

Anthropic je prošle sedmice predstavio novu verziju svog modela Opus, samo deset dana nakon što je izvršni direktor Dario Amodei objavio esej od gotovo 4.000 riječi u kojem je pozvao na kontrolisaniji tempo razvoja najnaprednijih AI sistema.

Kompanija se posljednjih sedmica obavezala i da će objavljivati više podataka o tome kako koristi postojeće AI modele za razvoj njihovih budućih generacija. Stručnjaci posebno upozoravaju na mogućnost takozvanog rekurzivnog samopoboljšanja – trenutka u kojem bi AI sistemi mogli sve značajnije učestvovati u razvoju vlastitih nasljednika bez neposredne ljudske pomoći.

„Vjerujemo da je izgradnja pouzdanih, vjerodostojnih i sigurnih AI sistema kolektivna odgovornost i da će tržište to nagraditi“, naveo je Anthropic.

╰┈➤ Program N1 televizije možete pratiti UŽIVO na ovom linku kao i putem aplikacija za Android /iPhone/iPad