Birkaç hafta Daha önce, yapay zeka ajanlarından oluşan küçük bir ekibin, yepyeni vibe kodlu internet siteme girmeye çalışırken yaklaşık 10 dakika geçirdiğini izledim.
Startup Runsybil tarafından geliştirilen AI ajanları, zayıf noktaları tanımlamak için fakir sitemi araştırmak için birlikte çalıştı. Sybil olarak adlandırılan bir orkestratör ajanı, özel dil modelleri ve hazır API’lerin bir kombinasyonu ile güçlendirilen daha uzmanlaşmış birkaç ajanı denetler.
Geleneksel güvenlik açığı tarayıcıları, bilinen belirli problemler için araştırırken, Sybil zayıflıkları bulmak için yapay sezgi kullanarak daha yüksek bir seviyede çalışabilir. Örneğin, bir konuk kullanıcının ayrıcalıklı erişime sahip olduğu – regular bir tarayıcının kaçırabileceği bir şey – ve bunu bir saldırı oluşturmak için kullanabileceğini araştırabilir.
Runsybil’in CEO’su ve kurucu ortağı Ariel Herbert-Voss, giderek daha yetenekli AI modellerinin hem saldırgan hem de savunma siber güvenliğinde devrim yaratacağını söylüyor. Herbert-Voss, “Hem kötü hem de iyi aktörlerin yararlanabileceği yetenekler açısından kesinlikle bir teknoloji patlamasının zirvesinde olduğumuzu iddia ediyorum” dedi. “Misyonumuz, sadece herkesin devam etmesine yardımcı olmak için yeni nesil hücum güvenlik testi oluşturmaktır.”
Sybil’in hedeflediği internet sitesi, yeni AI araştırma makalelerini sıralamama yardımcı olmak için son zamanlarda Claude kodunu kullanarak oluşturduğum internet sitesi oldu. Aradığım web site Arxiv Slurper ARXIV’e (çoğu AI araştırmasının çoğunun yayınlandığı) erişen bir arka uç sunucusundan oluşur, diğer birkaç kaynakla birlikte, “yeni”, “birinci”, “şaşırtıcı” ve ilgilendiğim bazı teknik terimler için kağıt özetler aracılığıyla taranıyor. Bu, devam eden bir çalışma, ancak potansiyel olarak yararlı bir şeyle birlikte, potansiyel olarak yararlı bir şeyleri çözdüğümden ne kadar kolay olduğundan etkilendim, hatta elle, hatta elle, hatta elle bir araya geldim, hatta elle, hatta bile, elle bir araya geldim, hatta elle, hatta bile, elle bir araya geldim, hatta elle bile etkilendim, hatta elle bile, elle bir araya geldim, hatta elle bile etkilendi, hatta elle bile, hatta bile, elle bir araya geldim, hatta elle bile, elle bir araya geldiğimde bile, elle bile etkilendim.
Bununla birlikte, bu tür vibe kodlu sitede önemli bir sorun, ne tür güvenlik açıklarını tanıtmış olabileceğinizi bilmek zordur. Bu yüzden Herbert-Voss ile Sybil hakkında konuştuğumda, yeni sitemi zayıflıklar için check edip edemeyeceğini sormaya karar verdim. Neyse ki ve sadece sitem inanılmaz derecede temel olduğu için Sybil herhangi bir güvenlik açığı bulamadı.
Herbert-Voss, çoğu güvenlik açıkının formlar, eklentiler ve şifreleme özellikleri gibi daha karmaşık işlevselliğin sonucu olduğunu söylüyor. Aynı ajanların problamayı denerken izledik Bir kukla e -ticaret web sitesi Herbert-Voss’un sahip olduğu bilinen güvenlik açıkları ile. Sybil, uygulamanın bir haritasını ve nasıl erişildiğini, parametreleri manipüle ederek ve kenar vakalarını check ederek zayıf noktalar için araştırıldığını ve daha sonra bulguları bir araya getirerek, hipotezleri check ederek ve anlamlı bir şeyi kırana kadar artan bir şekilde inşa etti. Bu durumda, siteyi hacklemenin yollarını belirledi. Bir insandan farklı olarak, Herbert-Voss, Sybil’in bu süreçlerin binlerce sürümünü paralel olarak çalıştırdığını, ayrıntıları kaçırmadığını ve durmadığını söylüyor. “Sonuç, tecrübeli bir saldırgan gibi davranan ancak makine hassasiyeti ve ölçek ile çalışan bir şey” diyor.
AI ve bilgisayar güvenliği konusunda uzmanlaşmış Carnegie Mellon Üniversitesi’nde (CMU) bilgisayar bilimcisi Lujo Bauer, “AI destekli kalem testi, savunma sistemleri için önemli faydaları olabilecek umut verici bir yön” diyor. Bauer yakın zamanda işbirliği yaptı bir çalışma CMU’dan diğerleri ve AI şirketi Antropic’ten bir araştırmacı ile AI penetrasyon testi vaadini araştıran. Araştırmacılar, en gelişmiş ticari modellerin ağ saldırıları gerçekleştiremediğini, ancak bir ağı taramak veya bir ana bilgisayarı enfekte etmek gibi üst düzey hedefler belirleyen ve penetrasyon testleri yapmalarını sağlayan bir sistem geliştirdiğini buldular.
