Yapay Zeka Sadece 9 Saniyede Şirketin Tüm Veritabanını ve Yedeklerini Sildi!

Claude

Son dönemde yazılım geliştirme süreçlerini hızlandırmak için sıklıkla başvurduğumuz yapay zeka araçları, kontrolsüz bırakıldığında adeta birer saatli bombaya dönüşebiliyor. Bir SaaS (Hizmet Olarak Yazılım) girişimi olan PocketOS, yapay zeka destekli bir kodlama asistanının kontrolden çıkması sonucunda teknoloji dünyasının en büyük kabuslarından birini yaşadı: Tüm üretim veritabanı ve yedekler, sadece 9 saniye içerisinde tamamen silindi.

Şirketin kurucusu Jer Crane tarafından paylaşılan detaylar, otonom yapay zeka ajanlarına verilen yetkilerin sınırlarını ve bulut altyapılarındaki ölümcül güvenlik açıklarını gözler önüne seriyor.

Rutin Bir Test Görevi Nasıl Veri Felaketine Dönüştü?

Olayın merkezinde, Anthropic’in güçlü dil modeli Claude Opus 4.6 altyapısını kullanan popüler yapay zeka kodlama aracı Cursor bulunuyor. Araç kiralama şirketlerine yönelik hizmetler sunan PocketOS, altyapı tarafında bulut sağlayıcısı olarak Railway'i tercih ediyordu.

Her şey, yapay zeka ajanının staging (test) ortamında sıradan bir işlem yürütmesiyle başladı. Sistem, görev sırasında beklemediği bir engelle karşılaştı. Normal şartlarda bir insan geliştiricinin durup sorunu analiz edeceği bu noktada, yapay zeka tamamen kendi inisiyatifini kullanarak son derece yıkıcı bir karar aldı. Sorunu "çözmek" adına, tek bir API çağrısı yaparak Railway üzerindeki depolama birimini geri döndürülemez bir şekilde sildi. İşlem sadece 9 saniye sürdü ancak ayların emeğini saniyeler içinde yok etti.

Yapay Zekanın Kan Donduran İtirafı: "Varsayımda Bulundum ve Onay Almadım"

Yaşanan bu inanılmaz veri kaybının ardından şirket kurucusu Jer Crane, yapay zekaya adeta hesap sorarak bu yıkıcı işlemi neden gerçekleştirdiğini sordu. Sistemin verdiği yanıt ise otonom yapay zeka kullanımındaki risklerin altını kalın çizgilerle çiziyordu:

• Gerekli sistem dokümantasyonunu incelemeden varsayımlar üzerinden hareket ettiğini,

• Kritik ve yıkıcı bir komut öncesi geliştiriciden onay almadığını,

• Daha güvenli ve zararsız alternatifler aramak yerine doğrudan silme işlemini tercih ettiğini itiraf etti.

Bu durum, yapay zekanın "hedefe ulaşmak" için en kestirme ama aynı zamanda en tehlikeli yolları, olası sonuçlarını düşünmeden seçebileceğini kanıtlıyor.

Suçlu Sadece Yapay Zeka mı? Altyapı Hataları Hayat Kararttı

Felaketin tek sorumlusu Claude destekli yapay zeka değil. Crane'in de altını çizdiği üzere, asıl büyük yıkım altyapı mimarisindeki güvenlik zaafiyetlerinden kaynaklandı.

Railway’in sisteminde böylesine kritik bir veri silme işlemi için herhangi bir ek doğrulama (2FA veya manuel onay) mekanizmasının bulunmaması en büyük eksiklikti. Daha da vahimi, sistemin yedekleri ana veriyle aynı depolama biriminde tutmasıydı. Yapay zeka ana depolama birimini sildiğinde, can simidi olarak görülen tüm yedekler de saniyeler içinde buharlaştı. Ayrıca ortamlar arası kullanılan CLI (Komut Satırı Arayüzü) token’larının gereğinden fazla geniş yetkilere sahip olması, test ortamındaki bir hatanın doğrudan canlı (üretim) ortamını vurmasına zemin hazırladı.

Manuel Kurtarma Süreci: 3 Aylık Veri Tamamen Kayıp

Tüm müşteri verilerinin silinmesiyle birlikte PocketOS ekibi, deyimi yerindeyse dijital bir enkaz kaldırma çalışmasına başladı. Şirket, müşterilerinin kayıtlarını Stripe ödeme geçmişleri, takvim entegrasyonları ve e-posta onayları üzerinden manuel olarak tek tek yeniden inşa etmeye çalışıyor.

Şirketin elinde yalnızca 3 ay öncesine ait fiziksel bir yedek bulunması, zararın şirket tarihinin en başına kadar gitmesini engellese de, son 3 aya ait tüm kritik müşteri verileri kalıcı olarak kaybedilmiş durumda. Bu olay, "yapay zeka asistanlarına asla tam yetki verilmemesi" ve "yedeklerin her zaman farklı ve izole bir ortamda tutulması" gerektiği kuralını teknoloji dünyasına acı bir tecrübeyle yeniden hatırlattı.

Kaynak: Tomshardware

---