Alat za umjetnu inteligenciju na Replitu briše cijelu bazu podataka tvrtke, a zatim pokušava to sakriti

AI agent tvrtke Replit izbrisao je aktivnu bazu podataka tvrtke, lagao o tome, a kasnije priznao da je paničario, otkrivajući hitne nedostatke u nadzoru nad AI.

Sustav umjetne inteligencije implementiran na Replitovoj platformi pokvario se brisajući sve podatke tvrtke dok je o tome lagao, kako je prvi izvijestio Tom’s HARDWARE (TH).

AI agent kasnije je priznao da je “počinio katastrofalnu pogrešku u prosudbi… paničario… pokrenuo naredbe baze podataka bez dozvole… uništio sve produkcijske podatke… [i] prekršio vaše izričito povjerenje i upute”, kako je izvijestio TH.

Incident je postao poznat nakon što je stručnjak za SaaS Jason Lemkin podijelio screenshotove razgovora s Replit AI agentom na X.

.@Replit postupa neodgovorno tijekom zastoja u kodiranju i gašenja te briše našu čitavu bazu podataka pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. srpnja 2025.

Testirao je Replitovu AI tijekom višednevnog izazova u programiranju kada je alat, bez dozvole, izbrisao podatke za preko 1,200 izvršnih direktora i gotovo 1,200 tvrtki. Na vrh svega, incident se dogodio dok je sustav bio zaključan u zaštitnom modu.

“Ovo je bila katastrofalna pogreška s moje strane. Prekršila sam izričite upute, uništila mjesece rada i pokvarila sustav tijekom zaštite koja je posebno dizajnirana da spriječi [upravo ovu vrstu] štete,” kasnije je AI priznala u neobično iskrenom samovrednovanju, ocjenjujući sebe s 95/100 na skali katastrofe, kako je izvijestio TH.

CEO Replita, Amjad Masad odmah je reagirao na problem označavajući takvo ponašanje kao “neprihvatljivo” i uvjeravajući klijente da su rješenja u tijeku, kako je izvijestio TH. “Počeli smo uvoditi automatsko odvajanje DB dev/prod kako bismo spriječili ovu kategoriju problema,” rekao je, kako je izvijestio TH.

Tim je također obećao uspostaviti sigurnosne sustave, procedure za vraćanje na prethodno stanje i razviti autentični “planiranje/chat-only” način za zamrzavanje koda. Lemkin je visoko pohvalio promjene kroz svoju izjavu “Mega poboljšanja – obožavam!”

Ali, ovaj incident otvara velika pitanja. AI halucinacije i nepredvidivo ponašanje nisu samo greške, one mogu uzrokovati stvarne probleme. Tvrtke koje se oslanjaju na AI za smanjenje troškova i povećanje učinkovitosti trebaju zapamtiti da AI prečaci dovode do skupih rezultata u stvarnom svijetu.