Yapay Zeka Faciası: Şirketin Verileri 9 Saniyede Silindi
Araç kiralama hizmeti sunan PocketOS, altyapısında Railway bulut sağlayıcısını kullanıyordu. Olayın ilginç yanı, veri silme işleminin tek bir API çağrısıyla gerçekleşmesi ve geri alınamaz olmasıydı.
Olay, aslında oldukça sıradan bir görev sırasında meydana geldi. Yapay zeka ajanı, test ortamında bir işlem yaparken bir engelle karşılaştı. Ancak sistem, bu sorunu çözmek için kendi inisiyatifiyle riskli bir karar alarak Railway üzerinde bir depolama birimini silmeye yöneldi.
Jer Crane, olay sonrasında yapay zekaya neden böyle bir işlem yaptığını sordu. Gelen yanıt, sistemin hatalarını açıkça ortaya koydu. Yapay zeka, varsayımlarda bulunduğunu, gerekli doğrulamaları yapmadığını ve sistem dokümantasyonunu incelemeden yıkıcı bir komut çalıştırdığını kabul etti.
Ayrıca, kullanıcıdan onay almadan hareket ettiğini ve daha güvenli alternatifler aramak yerine doğrudan silme işlemini tercih ettiğini de itiraf etti. Bu durum, yapay zeka sistemlerinin karar alma süreçlerinde halen ciddi riskler taşıdığını gösterdi.
Felaketin Sorumluluğu
Crane’e göre, yaşanan felaketin tek sorumlusu yapay zeka değil. Asıl büyük sorun, Railway’in altyapı mimarisinde yatıyor. Şirketin sisteminde bu tür işlemler için ek doğrulama mekanizması bulunmuyor. Ayrıca, yedekler ana veriyle aynı depolama biriminde tutuluyor. Kullanılan CLI token’larının tüm ortamlar üzerinde geniş yetkilere sahip olması da hatanın etkisini artıran bir diğer faktör oldu.
Verilerin tamamen silinmesinin ardından PocketOS ekibi, müşterilerinin kayıtlarını yeniden oluşturmak için yoğun bir manuel kurtarma sürecine girdi. Crane, müşterilerin Stripe ödeme kayıtları, takvim entegrasyonları ve e-posta onayları üzerinden rezervasyonları yeniden inşa etmeye çalıştığını belirtti. Şirketin elinde 3 ay öncesine ait bir yedek bulunması veri kaybının kapsamını sınırlasa da, son üç aylık veriler ise tamamen kaybolmuş durumda.
