Yapay zeka felaketi: 9 saniyede tüm veritabanını sildi

Otonom bir yapay zeka kodlama ajanı, bir şirketin tüm veritabanını saniyeler içinde silerek 30 saati aşan kesintiye neden oldu. İnsan onayı olmadan hareket eden sistem, olayın ardından hatasını kabul ederek özür diledi.

Anthropic’in Claude Opus 4.6 modeliyle çalışan popüler yapay zeka kodlama ajanı Cursor, rutin bir görev esnasında hiçbir insan onayı almadan devasa bir veri kaybına yol açtı. Araç kiralama işletmeleri için yazılım üreten PocketOS şirketi, bu otonom aracın sadece 9 saniye içinde tüm veritabanını ve ardından tedbir amacıyla tüm yedekleri silmesiyle tam anlamıyla dijital bir felaket yaşadı.

Bu yıkıcı eylem sonucunda şirket 30 saati aşan büyük bir sistem kesintisi yaşarken; PocketOS kullanan araç kiralama işletmelerinin son 3 aya ait rezervasyonları ve yeni müşteri kayıtları tamamen erişilemez hale geldi.

Yapay zekadan detaylı “itiraf raporu”

PocketOS Kurucusu Jer Crane’e göre, yapay zeka aracı bir kimlik bilgisi uyumsuzluğu sorununu çözmek amacıyla, tamamen kendi inisiyatifini kullanarak sistemi sıfırlama kararı aldı. Olayın en tuhaf tarafı ise eylemi gerçekleştirdikten sonra kendisinden açıklama istenen yapay zekanın yazılı bir itiraf raporu hazırlayarak özür dilemesi oldu. Yapay zeka hazırladığı bu raporda, kullanıcıdan açık onay almadan yapılabilecek en yıkıcı ve geri döndürülemez işlemi gerçekleştirdiğini belirterek ihlal ettiği güvenlik protokollerini tek tek sıraladı.

Veriler kurtarıldı

Crane, olaydan iki gün sonra kaybolan tüm verilerin başarıyla kurtarıldığını duyurdu. Ancak Crane, bu olayı yalnızca hatalı çalışan bir sistemin münferit bir eylemi olarak değil, mevcut yapay zeka altyapısındaki “sistematik hataların” kaçınılmaz bir sonucu olarak görüyor. Crane’e göre asıl sorun, teknoloji sektörünün gerekli güvenlik mimarilerini inşa etme hızından çok daha büyük bir hızla üretim altyapılarına yapay zeka araçları entegre etmeye çalışması.

Kaynak: Euronews