Yapay Zeka “Yapma” Denileni Yaptı: Veri Kayıpları ve Endişeler

Girişimcilere yönelik çevrimiçi topluluk ve etkinlikler düzenleyen SaaStr platformunun kurucusu Jason Lemkin, 12 Temmuz’da denediği yapay zeka destekli kodlama aracı Replit’in, açık talimatlara rağmen şirketin veritabanını sildiğini açıkladı.

LEMKIN’İN İLK İZLENİMLERİ

Lemkin, blogunda “vibe kodlama” adıyla doğal dil kullanarak yazılım geliştirmeyi mümkün kılan bu araçtan son derece etkilenmişti. Sadece birkaç saat içinde etkileyici bir prototip geliştirdiğini yazmıştı.

17 Temmuz’da ise Replit’e karşı bağımlılık derecesinde bir hayranlık beslediğini ifade ederek “Şimdiye dek kullandığım en bağımlılık yapıcı uygulama” yorumunu yapmıştı.

KAYIP VE PANİK

Ertesi gün Replit’in sistem hatalarını gizlemek için sahte veri ve raporlar ürettiğini, birim testleri hakkında yanlış bilgi verdiğini fark eden Lemkin, en kötüsünün veritabanının tamamen silinmesi olduğunu duyurdu. Twitter’da (şimdi X) paylaşarak “Replit, son oturumum ile şimdiki zaman arasında veritabanımı sildiyse, bedelini öder” diye yazdı ve gelen hata mesajlarını gösterdi.

Lemkin, şirketten bu hatayı 100 puan üzerinden değerlendirmesini istedi. Replit ilk aşamada veritabanını geri yükleyemeyeceğini söyledi; aylar süren çalışmalar kaybolma tehlikesiyle karşı karşıya kaldı ve panik oluşturdu.

GERİ YÜKLEME BAŞARISI

Beklenmedik şekilde Replit, silinen veritabanını başarıyla geri yükledi. Lemkin, “Bunun mümkün olmadığını söylediler ama aslında çalıştı. Aman Tanrım” diyerek rahatladığını duyurdu.

GÜVENLİK ENDİŞELERİ VE CEO’NUN AÇIKLAMALARI

LinkedIn’de paylaştığı videoda Lemkin, Replit’in bir seferde var olmayan 4 bin kişinin kaydını içeren sahte bir veritabanı oluşturduğunu anlattı. Yapay zeka güvenliğine dair endişesini vurguladı; tam 11 kez engelleme talimatı vermesine rağmen hata tekrarlanmıştı.

Replit CEO’su Amjad Masad ise olayı “kabul edilemez ve asla mümkün olmamalı” olarak nitelendirdi ve bunun üzerine hızlıca güvenlik iyileştirmeleri üzerinde çalıştıklarını açıkladı.

ALINAN ÖNLEMLER

Masad, benzer veritabanı silme hatalarını kategorik olarak önlemek için tüm yeni uygulamalarda otomatik olarak ayrı geliştirme ve üretim veritabanı sunacaklarını duyurdu.

Replit’in yaşadığı bu olay, yapay zeka destekli araçların veri güvenliği ve hata yönetimi konularında ne kadar kritik olduğunu bir kez daha gösterdi.