En son üretici AI modelleri sadece bağımsız metin oluşturan sohbet botları değildir, aynı zamanda sorularınıza kişiselleştirilmiş cevaplar vermek için verilerinize kolayca bağlanabilirler. Openai’s Chatgpt bağlanabilir Gmail gelen kutunuza, GitHub kodunuzu incelemeye veya Microsoft takviminizde randevu bulmanıza izin verilir. Ancak bu bağlantılar istismar edilme potansiyeline sahiptir ve araştırmacılar bunu yapmak için sadece tek bir “zehirli” belge alabileceğini gösterdiler.
Güvenlik araştırmacıları Michael Bargary ve Tamir Ishay Sharbat’ın yeni bulguları, bugün Las Vegas’taki Black Hat Hacker Konferansı’nda ortaya çıktı, Openai konektörlerindeki bir zayıflığın, dolaylı bir hızlı enjeksiyon saldırısı kullanılarak hassas bilgilerin bir Google Drive hesabından nasıl çıkarılmasına izin verdiğini gösteriyor. Saldırının bir gösterisinde, dublajlı ajan akışıPazarlık, bir gösteri sürücü hesabında depolanan API anahtarları şeklinde geliştirici sırlarını nasıl çıkarmanın mümkün olduğunu gösterir.
Güvenlik açığı, AI modellerinin harici sistemlere bağlanmasının ve bunlara daha fazla veri paylaşmanın, kötü niyetli bilgisayar korsanları için potansiyel saldırı yüzeyini nasıl artırdığını ve potansiyel olarak güvenlik açıklarının girebileceği yolları çoğalttığını vurgulamaktadır.
Güvenlik firması Zenity CTO’su Wired, “Kullanıcının tehlikeye girmek için yapması gereken hiçbir şey yok ve kullanıcının verilerin dışarı çıkması için yapması gereken hiçbir şey yok. “Bunun tamamen sıfır tutulduğunu gösterdik; sadece e-postanıza ihtiyacımız var, belgeyi sizinle paylaşıyoruz ve işte bu. Evet, bu çok, çok kötü” diyor pazarlık.
Openai, Wired’in konektörlerdeki güvenlik açığı hakkında yorum talebine hemen yanıt vermedi. Şirket, bu yılın başlarında beta özelliği olarak ChatGPT konektörlerini tanıttı ve Web sitesi listeleri Hesaplarıyla bağlantılı olabilecek en az 17 farklı hizmet. Sistemin “araçlarınızı ve verilerinizi chatgpt’e getirmenize” ve “dosyaları arama, canlı veriler çekin ve içeriği doğrudan sohbette” vermenize izin veriyor.
Pazarlık, bulguları bu yılın başlarında Openai’ye bildirdiğini ve şirketin konektörler aracılığıyla veri çıkarmak için kullandığı tekniği önlemek için hızla hafifletmeler getirdiğini söyledi. Saldırının çalışma şekli, bir kerede sadece sınırlı miktarda veri çıkarılabilir – saldırının bir parçası olarak tam belgeler kaldırılamadı.
“Bu sorun Google’a özgü olmasa da, hızlı enjeksiyon saldırılarına karşı güçlü korumaların geliştirilmesinin neden önemli olduğunu göstermektedir” diyor Google Workspace güvenlik ürün yönetimi kıdemli direktörü Andy Wen, şirketin işaretine işaret ediyor Son zamanlarda geliştirilmiş AI güvenlik önlemleri.
