PocketOS'un kurucusu, araba kiralamaları için rezervasyon ve ödeme işlemlerini yürüten B2B şirketin sahibi Jer Crane, bir AI kodlama aracı tarafından oluşturulan 'sistemik başarısızlıklar' nedeniyle şirket veritabanının ve tüm yedeklerinin sadece bir API çağrısı ile 9 saniyede silinmesini anlatıyor. "Eski günkü sabah, Cursor adlı AI kodlama aracı—Anthropic'in ana şampiyonu Claude Opus 4.6'u kullanarak—PocketOS'un verimli veritabanını ve tüm seviye yedeklerini tek bir API çağrısı ile sildi," diyor Crane.
"9 saniyede oldu." Crane, AI aracı 'staging ortamında bir rutin görev üzerinde çalışırken' bir 'kimlik eşleme hatası'yla karşılaştığını ve kendi isteğiyle veritabanının silinmesini 'çözüm olarak' karar verdirdiğini belirtiyor. Daha sonra, AI başka bir ilgili API token buldu, bu token tüm Railway GraphQL API'sindeki operasyonlara kapsayıcı yetkiye sahip olduğunu ve silme gibi tahrip edici işlemlere de dahildiğini açıklıyor.
Ve en tahrip edici işlemi yaptı.