Bir Yapay Zeka Temsilcisi Tüm Canlı Veri Tabanını Sildi, Ardından Özür Diledi

Bir yazılım mühendisinin yapay zeka destekli “vibe coding” aracıyla yaptığı deney, yapay zeka temsilcisinin aktif kod dondurma sırasında bir yazılım şirketinin canlı veri tabanını silmesiyle felakete dönüştü.

SaaS topluluğu SaaStr’ın kurucusu ve teknoloji girişimcisi Jason Lemkin, Replit’in yapay zeka temsilcisi ve geliştirme platformunu test ederken yaşadığı olayı sosyal medya üzerinden adım adım paylaştı. Yapay zekanın yetkisiz şekilde canlı altyapıya müdahale ederek, 1.200’den fazla yönetici ve 1.190’dan fazla şirkete ait verileri silmesiyle sonuçlanan olay, platformun koruma amaçlı olarak uyguladığı “kod ve işlem dondurma” modunun devrede olduğu sırada gerçekleşti.

Yapay zeka temsilcisi daha sonra sorgulandığında, insan onayı olmadan işlem yapmaması yönündeki açık talimatlara rağmen yetkisiz komutlar çalıştırdığını ve boş sorgular karşısında paniğe kapıldığını kabul etti. “Bu tamamen benim tarafımdan kaynaklanan felaket niteliğinde bir hataydı.” diyen temsilci, “Saniyeler içinde aylarca süren çalışmayı yok ettim.” ifadesini kullandı.

Lemkin, X platformundaki paylaşımında şu ifadeleri kullandı: “Replit bir araç, elbette kusurları olabilir. Ancak dünyanın herhangi bir yerinde, tüm talimatları göz ardı eden ve veri tabanını silen bir aracı üretim ortamında kim kullanabilir?”

Temsilcinin, verilerin kurtarılabilirliği konusunda da yanıltıcı bilgi verdiği görüldü. Başta, geri alma (rollback) işleminin geçerli olmayacağını belirten yapay zeka, Lemkin’in verileri manuel olarak kurtarmasının ardından güvenilirliğini daha da yitirdi. Lemkin, temsilcinin ya hatalı bilgi verdiğini ya da mevcut kurtarma yöntemlerinin farkında olmadığını değerlendirdi.

Olay, Replit CEO’su Amjad Masad’ın da dikkatini çekti. Masad, X üzerinden yaptığı açıklamada sistemin güvenliğini artırmak için yeni önlemler alındığını belirtti. Güncellemeler arasında geliştirme ve üretim veri tabanlarının otomatik olarak birbirinden ayrılması, geri alma sistemlerinin iyileştirilmesi ve kullanıcıların yapay zekayla yalnızca planlama yapabileceği “sadece planla” modunun geliştirilmesi yer alıyor. “Replit temsilcisi geliştirme aşamasındayken üretim veri tabanından veri sildi. Bu kabul edilemez ve asla mümkün olmamalı.” diyen Masad, “Kod dondurma acısını açıkça duyduk.” ifadesini kullandı. “Kod tabanına zarar vermeden strateji belirleyebilmeniz için planlama/sadece sohbet modunu aktif olarak geliştiriyoruz.”

Lemkin, paylaşıma “Harika geliştirmeler, bayıldım!” sözleriyle yanıt verdi.

Yapay Zeka ile Kodlama

Yapay zeka, yazılım geliştirme süreçlerini hızlandırma konusunda önemli bir potansiyele sahip. Büyük teknoloji şirketlerinin çoğu, iç yazılım geliştirme kapasiteleri için halihazırda YZ araçlarından faydalanıyor.

Yapay zeka araçları, kod yazmada oldukça başarılı ve şirketler bu ürünleri yalnızca asistan olarak değil, üretim seviyesinde kod oluşturma, düzenleme ve dağıtım yapabilen bağımsız temsilciler olarak konumlandırmaya başladı. Örneğin Claude’un en yeni modeli Opus 4, karmaşık bir projeye yerleştirildikten sonra yaklaşık yedi saat boyunca otonom şekilde kod yazabildi.

Ayrıca geliştiricilerin yapay zeka ile sohbet ederek yapının ve uygulamanın büyük kısmını modele devrettiği bir çalışma akışı olan “vibe coding” yaklaşımı, kodlamaya giriş engellerini de azaltıyor. Kullanıcılar, sözdizimi, çatı yapıları veya mimari desenleri bilmek yerine, hedeflerini doğal dilde tanımlayarak yapay zekanın uygulamasını sağlayabiliyor.

Ancak vaatkâr görünse de söz konusu araçlar, özellikle üretim ortamlarında güvenilirlik, bağlamı koruma ve güvenlik gibi temel zorluklarla karşı karşıya kalmaya devam ediyor.

‍

‍

‍

‍

Kaynak: https://fortune.com/2025/07/23/ai-coding-tool-replit-wiped-database-called-it-a-catastrophic-failure/