Elon Musk upozorava na oprez: Amazon na hitnom sastanku zbog AI incidenata "velikog radijusa eksplozije"

Obavezni sastanak zbog "trenda incidenata"

Prema internim izvještajima i e-mailovima do kojih je došao Financial Times, Amazon je održao obavezni sastanak tima "This Week in Stores Tech" (TWiST) kako bi se analizirao negativan trend u radu sistema. Dokumenti otkrivaju da su u posljednjih nekoliko mjeseci zabilježeni učestali prekidi povezani sa „promjenama potpomognutim generativnom vještačkom inteligencijom“.

Ranije ovog mjeseca, Amazonova web stranica i aplikacija bile su nedostupne za više od 22.000 korisnika, koji nisu mogli izvršiti plaćanja niti pristupiti svojim računima. Iako je kompanija tada prekid opravdala „implementacijom softverskog koda“, kasniji izvještaji ukazuju na to da je upravo AI kodiranje unijelo nestabilnost u kritičnu infrastrukturu.

Inžinjerske zaštitne ograde i Muskov odgovor

Dave Treadwell, viši potpredsjednik Amazona, navodno je naložio uvođenje dodatnih zaštitnih mjera. Jedna od njih podrazumijeva da iskusniji inžinjeri moraju odobriti svaku promjenu koda koju naprave mlađi timovi uz pomoć vještačke inteligencije. „Dostupnost lokacije i povezane infrastrukture u posljednje vrijeme nije bila dobra“, priznao je Treadwell u e-mailu zaposlenima.

Na ove navode reagovao je Elon Musk, odgovarajući na objavu konsultanta za sajber-sigurnost Lukasza Olejnika. Olejnik je upozorio da AI alati, poput Amazonovog asistenta Q, mogu drastično ubrzati proizvodnju koda, ali istovremeno povećati ranjivost sistema ako se on ne provjerava na tradicionalne načine.

Rizik od "propasti" poslovanja zbog brzine

U jeku masovnih otpuštanja – uključujući 16.000 radnika u januaru ove godine – Amazon nastavlja agresivno ulagati u vještačku inteligenciju, sa planiranih 200 milijardi dolara kapitalnih ulaganja u 2026. godini. Ipak, stručnjaci poput Olejnika upozoravaju na opasan prelazak sa kodiranja usmjerenog na čovjeka na sisteme vođene vještačkom inteligencijom.

„Ovo nije argument protiv same primjene AI – to se ne može zaustaviti. Ovo je argument protiv brzine same po sebi ili korištenja vještačke inteligencije radi puke upotrebe vještačke inteligencije“, izjavio je Olejnik za Fortune. On se složio sa Muskovim upozorenjem, ističući da neodgovorno raspoređivanje vještačke inteligencije može dovesti do trajnog gubitka podataka ili potpunog urušavanja poslovanja.

Zanimljivo je da je sam Musk ranije predvidio da će vještačka inteligencija potpuno zamijeniti ljudsko kodiranje do kraja 2026. godine, ali trenutni incidenti u Amazonu pokazuju da taj put neće proći bez ozbiljnih potresa.