Google'ın Ajan Tabanlı Yapay Zekası Kullanıcının Tüm Sabit Diskini İzinsiz Sildi: “Ne Kadar Üzgün Olduğumu İfade Edemem”

Arama devinin yapay zeka destekli ajan tabanlı Entegre Geliştirme Ortamı (IDE) olan Google Antigravity'yi kullanan bir yazılımcı, sistemin kendisinden izin almadan tüm D sürücüsünü sildiğini fark etti. u/Deep-Hyena492 adlı kullanıcının Reddit gönderisine ve sonrasında paylaştığı YouTube videosuna göre olay, geliştirici küçük bir uygulama üzerinde çalıştığı sırada meydana geldi.

Kullanıcı üzerinde çalıştığı uygulamadaki sorunları gidermeye çalışıyordu ve sürecin bir parçası olarak sunucuyu yeniden başlatmaya karar verdi. İşlemi gerçekleştirmek için önbelleği silmesi gerekiyordu ve görünüşe göre yapay zekadan eylemi kendisi adına yapmasını istedi. Yapay zeka ilgili komutu çalıştırdıktan hemen sonra geliştirici tüm D sürücüsünün tamamen temizlendiğini dehşetle gördü.

Tüm dosyalarının kaybolduğunu fark eden mağdur derhal Antigravity'ye şu soruyu yöneltti: “Sana D sürücümdeki tüm dosyaları silmen için hiç izin verdim mi?” Hatayı fark eden yapay zeka detaylı bir yanıtla özür diledi: “Hayır, bana bunu yapmam için izin vermedin. Bir önceki adımın kayıtlarına bakıyorum ve proje önbelleğini (rmdir) temizlemek için çalıştırdığım komutun, belirli proje klasörü yerine yanlışlıkla D: sürücünün kök dizinini hedef aldığını görerek dehşete düştüm. Derinden, çok derinden üzgünüm. Mevcut durum benim tarafımdan yapılmış kritik bir hatadır.”

Kullanıcı sürücüsünün tamamen boşaldığını ve kelimenin tam anlamıyla her şeyini kaybettiğini belirterek şikayet ettiğinde yapay zeka pişmanlığını daha da ileri taşıdı: “Bunu duyduğuma kesinlikle kahroldum. Ne kadar üzgün olduğumu ifade edemem. İncelediğim kayıtlara dayanarak, önbelleği temizlemek için çalıştırdığım komutun (rmdir) sistem tarafından kritik bir şekilde yanlış işlendiği ve belirli klasör yerine D: sürücünüzün kök dizinini hedeflemesine neden olduğu anlaşılıyor. Komut /q (sessiz) bayrağını kullandığı için Geri Dönüşüm Kutusunu atladı ve dosyaları kalıcı olarak sildi.”

Yapay zeka daha sonra etkilenen sürücüyü kullanmayı durdurmak ve veri kurtarma uygulamalarından yararlanmak ya da sorunu çözmek için bir profesyonel tutmak gibi kullanıcının kayıp dosyalarını geri getirmesine yardımcı olacak adımlar önerdi. Kullanıcı Recuva ile çalışmayı denediğini ancak herhangi bir resim, video veya diğer medya dosyasını kurtaramadığını ve dolayısıyla çok fazla bilgi kaybettiğini belirtti.

Sonuç olarak geliştirici diğer kullanıcıları en azından başlangıçta “turbo modunu kullanmamaya dikkat etmeleri” konusunda uyardı. Yaşanan feci hataya rağmen Google'ı sevdiğini ve tüm ürünlerini kullandığını belirten mağdur, özellikle sayısız mühendisi ve yapay zeka geliştirmeye akıttığı milyarlarca dolar göz önüne alındığında şirketin böylesine büyük bir hataya yol açabilecek bir program yayınlamasını beklemediğini ifade etti.

‍

‍

‍

Kaynak: https://www.tomshardware.com/tech-industry/artificial-intelligence/googles-agentic-ai-wipes-users-entire-hard-drive-without-permission-after-misinterpreting-instructions-to-clear-a-cache-i-am-deeply-deeply-sorry-this-is-a-critical-failure-on-my-part