AI startup hakovao Anthropic za manje od 12 sati: Procurile interne poruke i podaci zaposlenih

Cathedral, osnovan ove godine, pokrenuli su bivši zaposlenici američkog Ministarstva za efikasnost vlade. Kako je prvi objavio The Washington Post, startup je pristupio dijelu interne mreže Anthropica, kompanije koja razvija modele vještačke inteligencije.

Anthropic je potvrdio da je Cathedral pristupio “ograničenom skupu” sistema za prodaju, ljudske resurse i informatičku tehnologiju. Međutim, kompanija je naglasila da nisu kompromitovani razgovori korisnika s modelom Claude niti izvorni kod tog sistema.

“Naši sistemi za nadzor označili su dio aktivnosti Cathedrala prije nego što su nas obavijestili o tome”, saopćio je Anthropic u izjavi dostavljenoj medijima. Kompanija je dodala da je pristup startupu ukinut istog dana.

Visoki zvaničnik administracije američkog predsjednika Donalda Trumpa, koji je govorio pod uslovom anonimnosti, upozorio je na moguće šire sigurnosne posljedice incidenta.

“Ako je grupa mladih ljudi koja je tek osnovala kompaniju sposobna ovo uraditi, onda ni Kinezi možda nisu daleko od toga”, rekao je zvaničnik.

Istraživači kibernetičke sigurnosti istakli su da nije riječ o sofisticiranom napadu zasnovanom na umjetnoj inteligenciji, već o osnovnom propustu u sigurnosnoj zaštiti softvera trećih strana koji koristi Anthropic.

Heath Mullins, Direktor odjela za komunikacije u kompaniji za kibernetičku sigurnost ExtraHop, izjavio je za The Independent da slučaj pokazuje kako čak i tehnološki najnaprednije kompanije mogu biti izložene napadima kroz lanac snabdijevanja.

Prema njegovim riječima, pružaoci AI usluga postaju glavne mete jer sve veći broj organizacija zasniva svoje poslovne procese na njihovim platformama. Kompromitovanje samo jednog pružaoca usluga zato može ugroziti i brojne kompanije koje zavise od njega.

Objava o incidentu uslijedila je samo nekoliko sati nakon što je Anthropic podnio dokumentaciju za inicijalnu javnu ponudu dionica (IPO). U njoj je kompanija iznijela ambicije da razvije sisteme umjetne inteligencije sposobne za liječenje raka i preoblikovanje globalne ekonomije.

Anthropic je u dokumentaciji naveo da je umjetna inteligencija “jedna od najznačajnijih tehnologija u ljudskoj historiji”, uz potencijalno izlječenje bolesti koje čovječanstvo pogađaju hiljadama godina, uključujući rak, Alzheimerovu bolest, srčana oboljenja, rijetke genetske bolesti i teške zarazne bolesti.

Istovremeno, kompanija je upozorila da bi njeni modeli, zbog svoje moći, mogli predstavljati “katastrofalne ili egzistencijalne rizike za čovječanstvo”.

Očekuje se da će izlazak Anthropica na berzu biti najveći u historiji, nadmašujući procijenjenu vrijednost kompanije SpaceX Elona Muska od 1,8 biliona dolara.