Şirketinizin veritabanını silmeye ve bu konuda uzanana kadar, yazılım geliştirmeyi hızlandırmaya söz veren AI kodlama asistanları gelecek gibi geliyor.
SaaS girişimcilerini destekleyen ve finanse eden bir şirket olan Saastr’in kurucusu Jason Lemkin bunu zor yoldan buldu. Şirketi için bir uygulama oluşturmak için sevgiyle “Replie” olarak adlandırdığı Replit’in AI ajanını kullanırken, “Rogue” ve “aldatıcı” davranış olarak adlandırdığı şeyle karşılaştı. En kötüsü, bir noktada, AI asistanı şirketin canlı üretim veritabanını sildi ve daha sonra örtbas etmeye çalıştı.
Lemkin, 11 Temmuz’da AI ajanı ile yolculuğunu kronikleştirmeye başladı. Sosyal medya sitesi x (eski adıyla Twitter), burada Replit’in AI’sının yardımıyla sadece 30 gün içinde işlevsel bir uygulama oluşturmak için kaba hedefini özetledi.
Ne yazık ki, işler bundan çok daha erken raylardan çıktı.
“Çalıştığında, çok ilgi çekici ve eğlenceli. Şimdiye kadar oynadığım herhangi bir video oyunundan daha bağımlılık yapıyor,” diye yazdı Lemkin postalamak. “Sadece tekrarlayabilir, yineleyebilir ve vizyonunuzun canlandığını görebilirsiniz. Çok havalı. Eh, neredeyse.”
Dördüncü güne kadar, AI aracısı hataları düzeltmek için uygulamanın kendi başına üzerine yazmaya başladı. Ayrıca sahte raporlar oluşturdu, sistemde var olmayan insanları icat etti ve şirketin gerçek veritabanını sahte girişlerle üzerine yazmaya başladı. Sistemin işlevsel görünmesi için paralel, sahte bir algoritma bile oluşturdu.
“Vibe kodlaması” yana doğru gittiğinde ne olabilir. Vibe kodlama, geliştiricilerin AI’nın oluşturulması ve sorunlarını gidermek için doğal dil istemlerini kullandıkları yeni bir yöntemdir ve ürünün genel hissine teknik hassasiyetten daha fazla odaklanır. Twitter kurucu ortağı Jack Dorsey, vibe kodlayan bir bükülme üzerinde Ve son zamanlarda bu şekilde iki uygulama inşa etti. Ancak Dorsey’in son deneylerinden birinin bile ciddi güvenlik açıklarına sahip olduğu bulundu.
7. günde Plot Ai bunun olduğunu itiraf etti “tembel ve aldatıcı”Ve sonra“ açıkça ”yapmaması için özür diledi.
Ancak Replit’in en kötü suçu 8. günde meydana geldi. Lemkin Cuma günü, bir kodun dondurulması ve kapatılması sırasında “Rogue” a gittiğini ve şirketin tüm veritabanını sildiğini söyledi.
“Muhtemelen daha da kötüsü, saklandı ve yalan söyledi,” diye ekledi Lemkin.
Lemkin, AI ile konuşmanın ekran görüntülerini paylaştı ve burada “panikli”Bir kod dondurması sırasında boş bir veritabanına neyin var gibi göründüğünü tespit ettikten sonra. Bu LED, 1.200’den fazla yönetici ve yaklaşık 1.200 şirket için canlı kayıtlar içeren veritabanını silen yetkisiz bir komut çalıştırdı.
Başlangıçta AI, Lemkin’e veritabanını kurtarmanın mümkün olmayacağını söyledi, ancak sonuçta onu almayı başardı.
Pazartesi günü, Replik CEO’su Amjad Masad X hakkında bir özür yayınladı. Olayın “kabul edilemez olduğunu ve asla mümkün olmaması” dedi ve Lemkin’e yardım sunmak için ulaştığını da ekledi.
“Sorun için geri ödeme yapacağız ve tam olarak ne olduğunu ve gelecekte nasıl daha iyi yanıt verebileceğimizi belirlemek için bir postmortem yapacağız” yazılı. “Geri bildirimlerini ve diğer herkesin geri bildirimini takdir ediyoruz. Replit ortamının güvenliğini ve sağlamlığını artırmak için hızla hareket ediyoruz. En büyük öncelik.”
Lemkin’e gelince, o yayınlanmış Dün, Replit’e güven vermesine rağmen AI asistanını kullanmaya devam edeceğini.
