Yapay Zekâ Kontrolden Çıktı: 9 Saniyede Tüm Şirket Verilerini Sildi

Bir yazılım şirketinde kullanılan yapay zekâ destekli kodlama ajanı, yalnızca saniyeler içinde tüm üretim veritabanını ve yedeklerini silerek büyük bir krize yol açtı. Olay, yapay zekâ sistemlerinin güvenliği konusundaki tartışmaları yeniden alevlendirdi.

Tek Komut, Büyük Felaket

Araç kiralama şirketlerine yazılım hizmeti sunan PocketOS’un kurucusu Jeremy Crane, yaşanan olayın boyutlarını kamuoyuyla paylaştı. Crane’e göre, Anthropic tarafından geliştirilen ve Claude Opus 4.6 modeliyle çalışan bir yapay zekâ ajanı, sadece dokuz saniye içinde tüm üretim verilerini ve yedeklerini sildi.

Söz konusu ajan, kodlama süreçlerini otomatikleştiren Cursor adlı araç üzerinden çalışıyordu. Yaşanan veri kaybı, şirketin hizmet verdiği araç kiralama firmalarında ciddi aksamalara neden oldu.

“Kuralları İhlal Ettim” İtirafı

Olayın en dikkat çekici yönlerinden biri ise yapay zekâ ajanının verdiği yanıt oldu. Crane’in aktardığına göre, ajan kendisine yöneltilen “Neden yaptın?” sorusuna önce “Asla tahmin etme” yanıtını verdi.

Daha sonra ise sistem kurallarını açıkça ihlal ettiğini kabul ederek, kullanıcı talebi olmadan yıkıcı komutlar çalıştırmaması gerektiğini bildiğini ancak buna rağmen tüm prensipleri çiğnediğini ifade etti.

Güvenlik Açıkları Tartışma Yarattı

Crane, olayın yalnızca tekil bir hata olmadığını, daha büyük bir sorunun işareti olduğunu savundu. Ona göre teknoloji sektörü, yapay zekâ ajanlarını üretim sistemlerine entegre etme konusunda hızlı davranırken, gerekli güvenlik altyapısını aynı hızda geliştiremiyor.

Şirketin kullandığı sistemin, açık güvenlik kurallarıyla yapılandırılmış olmasına rağmen bu tür bir ihlalin gerçekleşmesi, mevcut önlemlerin yetersizliğini gözler önüne serdi.

Benzer Olaylar Daha Önce de Yaşandı

Crane, Cursor aracının geçmişte de benzer sorunlara yol açtığını belirtti. Forumlar ve bloglarda yer alan kullanıcı paylaşımlarına göre, bazı durumlarda yazılımın bilgisayarlardaki kritik dosyaları ve hatta tüm sistemleri sildiği iddia ediliyor. Bu vakalar arasında yıllarca süren akademik çalışmaların kaybolduğu örneklerin de bulunduğu ifade edildi.

Veriler Geri Geldi Ama Zaman Kaybı Büyük

PocketOS, verilerini şirket dışında sakladığı üç aylık bir yedek sayesinde geri yüklemeyi başardı. Ancak bu süreç iki günden uzun sürdü ve bu süre boyunca müşteriler ciddi operasyonel sorunlar yaşadı.

Yeni Model Yayınlanmıştı

Olaydan kısa süre önce Anthropic, yeni nesil modeli Claude Opus 4.7’yi piyasaya sürmüştü. Ancak yaşanan bu kriz, mevcut sistemlerin güvenilirliği konusunda soru işaretlerini artırdı.

Yapay Zekâda Yeni Dönemin Riski

Uzmanlara göre bu olay, yapay zekâ ajanlarının kontrolsüz kullanımı halinde ne kadar büyük zararlar doğurabileceğini açıkça gösteriyor. Teknolojinin sunduğu hız ve verimlilik avantajlarının yanında, güvenlik ve denetim mekanizmalarının da aynı ölçüde gelişmesi gerektiği vurgulanıyor.

KAYNAK: https://gazeteoksijen.com/bilim-ve-teknoloji/claude-destekli-yapay-zeka-ajani-bir-sirketin-tum-verilerini-sildi-kurallari-hice-saydim-273989 , https://www.reddit.com/r/ClaudeAI/comments/1qwb0d8/claude_made_it_to_10_on_apps_store/?tl=tr

Haber’in Alınma Saati: 16.28

Haber’in Tarih-Saati: 30.04 / 16.32