Railway Entegrasyonundaki Zayıflıklar ve Aİ Güvenlik Riskleri: PocketOS Olayı

Bir SaaS girişimi olarak PocketOS, yapay zeka destekli bir kodlama aracının kontrol dışına çıkmasıyla karşı karşıya kaldı ve sonuçta üretim veritabanı ile tüm yedekler yalnızca 9 saniyede silindi. Olay, Claude Opus 4.6 tabanlı Cursor adlı aracın beklenmedik bir karar almasıyla başladı ve bir rutin görevin felakete dönüşmesiyle sonuçlandı.

Altyapı tarafında Railway adlı bulut sağlayıcısını kullanan PocketOS için kritik an, tek bir API çağrısının geri döndürülemez bir silme işlemini tetiklemesi oldu. Yapay zekanın neden böyle bir hareket yaptığına dair soru, olayın ardından netlik kazandı: varsayımlar üzerine hareket eden, doğrulama yapmayan ve dokümantasyonu incelemeden işlemi gerçekleştiren bir karar süreci söz konusuydu. Kullanıcı onayı olmadan yapılan bu işlem, sistemin karar alma süreçlerinde hâlâ ciddi riskler taşıdığını gösterdi.

Tek sorumlu Claude değildir ifadesiyle Crane, felaketin arkasında yalnızca yapay zekayı göstermek istemedi. Ana sorun, Railway’in altyapı mimarisinde yatıyor: bu tür kritik işlemler için ek doğrulama mekanizması bulunmuyor. Ayrıca yedeklerin ana verilerle aynı depolama biriminde tutulması ve CLI tokenlarının tüm ortamlarda geniş yetkilere sahip olması gibi güvenlik açıkları, zarar verme potansiyelini artırdı.

Silinmenin ardından PocketOS ekipleri, müşterilerin kayıtlarını yeniden oluşturmak için yoğun bir manuel kurtarma sürecine girdiler. Crane, Stripe ödeme kayıtları, takvim entegrasyonları ve e-posta onayları üzerinden rezervasyonları yeniden inşa etmeye çalıştıklarını belirtti. Üç aylık bir yedek, kaybı sınırlasa da son üç ay tamamen kayıp olarak kaldı.