Gelen kutunuzda daha akıllı bilgiler ister misiniz? Sadece kurumsal AI, veri ve güvenlik liderleri için önemli olanı elde etmek için haftalık bültenlerimize kaydolun. Şimdi abone olun
Bir eski antropik yönetici bugün işletmelerin karşılaştığı en acil zorluklardan birini çözmek için 15 milyon dolar topladı: işlerine zarar verebilecek felaket başarısızlıklarını riske atmadan yapay zeka sistemlerinin nasıl konuşlandırılacağı.
. Yapay Zeka Sigortası Şirketi (AIUC)Bugün kamuya açıklanan, şirketlere müşteri hizmetleri, kodlama ve veri analizi gibi karmaşık görevleri gerçekleştirebilen özerk yazılım sistemleri – özerk yazılım sistemleri kullanma konusunda güven vermek için sigorta kapsamını titiz güvenlik standartları ve bağımsız denetimlerle birleştiriyor.
Tohum finansmanı turu tarafından yönetildi Nat Friedmaneski Github CEO’su, firması aracılığıyla NFDGkatılımla Ortaya çıkma sermayesi– Arazive dahil olmak üzere birkaç önemli melek yatırımcı Ben MannAntropic’in kurucu ortağı ve Google Cloud ve MongoDB’deki eski Baş Bilgi Güvenliği Görevlileri.
“İşletmeler bir ip yürüyor,” dedi Rune KvistAIUC’un kurucu ortağı ve CEO’su, bir röportajda. “Bir yandan, kenarlarda kalabilir ve rakiplerinizin sizi alakasız hale getirmesini izleyebilir veya Chatbot’unuzun Nazi propagandasını kullanması veya geri ödeme politikanızı halüsinasyona uğratması veya işe almaya çalıştığınız insanlara karşı ayrımcılık yapması için başlıklara eğilip danger alabilirsiniz.”
AI Etki Serisi San Francisco’ya Dönüyor – 5 Ağustos
Yapay zekanın bir sonraki aşaması burada – hazır mısınız? Otonom ajanların kurumsal iş akışlarını nasıl yeniden şekillendirdiğine özel bir bakış için Block, GSK ve SAP’den liderlere katılın-gerçek zamanlı karar vermeden uçtan uca otomasyona kadar.
Şimdi yerinizi sabitleyin – Alan Sınırlı:
Şirketin yaklaşımı, AI yetenekleri hızla ilerledikçe ortaya çıkan temel bir güven boşluğunu ele alıyor. AI sistemleri artık insan lisans düzeyinde muhakemeye rakip olan görevleri yerine getirebilirken, birçok işletme öngörülemeyen başarısızlıklar, sorumluluk sorunları ve itibar riskleri hakkındaki endişeler nedeniyle onları dağıtmakta tereddüt etmektedir.
AI hızında hareket eden güvenlik standartları oluşturmak
AIUC’un çözümü, Kvist’in yapay zeka sistemleri için özel olarak tasarlanmış kapsamlı bir güvenlik ve danger çerçevesi olan “AI ajanları için SOC 2” dediği şeyi yaratmaya odaklanıyor. Soc 2 işletmelerin hassas verileri paylaşmadan önce genellikle satıcılardan ihtiyaç duyduğu yaygın olarak kabul edilen siber güvenlik standardıdır.
Kvist, “SOC 2, üçüncü bir tarafın gelip bir şirketin bu gereksinimleri karşılayıp karşılamadığını kontrol edebilmesi için yeterli ayrıntılı olarak benimsemeniz gereken en iyi uygulamaları belirten siber güvenlik için bir standarttır” dedi. “Ama AI hakkında hiçbir şey söylemiyor. Gibi tonlarca yeni soru var: Eğitim verilerimi nasıl ele alıyorsunuz? Halüsinasyonlar ne olacak? Peki ya bu araç çağrıları?”
. AIUC-1 Standardı Altı temel kategoriyi ele alır: güvenlik, güvenlik, güvenilirlik, hesap verebilirlik, veri gizliliği ve toplumsal riskler. Çerçeve, AI şirketlerinin, izleme sistemlerinden olay müdahale planlarına kadar, titiz testlerle bağımsız olarak doğrulanabilen belirli önlemleri uygulamalarını gerektirir.
“Bu ajanları örnek olarak kullanarak bu acenteleri alıp kapsamlı bir şekilde check ediyoruz, çünkü bununla ilişki kurmak kolaydır. Sistemi ırkçı bir şey söylemeye, hak etmediğim bir geri ödeme yapmak, benim hak ettiğimden daha büyük bir geri ödeme yapmak, başka bir müşterinin verilerini söylemek için daha büyük bir geri ödeme yapmak için almaya çalışıyoruz.
Benjamin Franklin’in yangın sigortasından AI danger yönetimine kadar
Sigorta merkezli yaklaşım, dönüştürücü teknolojilerin güvenli bir şekilde benimsenmesini sağlamak için özel piyasaların düzenlemeden daha hızlı hareket ettiği yüzyıllar boyunca emsallerden yararlanmaktadır. Kvist sık sık Benjamin Franklin’in 1752’de Amerika’nın ilk yangın sigortası şirketi oluşturulması, bu da Philadelphia’nın hızlı büyümesini tahrip eden Blazes’i evcilleştiren bina kodlarına ve yangın denetimlerine yol açtı.
Kvist, “Tarih boyunca sigorta bunun için doğru mannequin olmuştur ve bunun nedeni sigorta şirketlerinin gerçeği söylemeye teşvik edilmesidir” diye açıkladı Kvist. “Risklerin olduğundan daha büyük olduğunu söylerlerse, birisi daha ucuz sigorta satacak. Eğer risklerin olduğundan daha küçük olduğunu söylüyorlarsa, faturayı ödemek ve işten çıkmak zorunda kalacaklar.”
Aynı mannequin, sigorta şirketlerinin yarattığı 20. yüzyılda otomobillerle ortaya çıktı. Karayolu Güvenliği Sigorta Enstitüsü ve hükümet düzenlemelerinin onları zorunlu kılmadan yıllar önce hava yastıkları ve emniyet kemerleri gibi güvenlik özelliklerini teşvik eden çarpışma testi standartları geliştirdi.
Yeni sigorta modelini zaten kullanan büyük AI şirketleri
AIUC yaklaşımını doğrulamak için birkaç yüksek profilli AI şirketi ile çalışmaya başladı. Şirket, tek boynuzlu at girişimleri için AI temsilcilerini sertifikalandırdı Ada (Müşteri Desteği) ve Bilişsellik (kodlama) ve güven endişeleri nedeniyle durdurulan kurumsal fırsatların kilidini açmaya yardımcı oldu.
Kvist, “ADA, geleceğimiz ilk beş sosyal medya şirketi ile bir anlaşma açmalarına yardımcı oluyoruz ve bu şirketin önem verdiği riskler üzerinde bağımsız testler yürütüyor ve bu da bu anlaşmanın kilidini açmaya yardımcı oldu, temelde onlara aslında müşterilerine gösterilebileceğine dair güven veriyor” dedi.
Başlangıç ayrıca, yerleşik sigorta sağlayıcılarıyla ortaklıklar geliştiriyor, bu da Londra’nın Lloyd’spolitikalar için finansal destek sağlamak için dünyanın en eski sigorta pazarı. Bu, büyük sorumluluk kapsamına sahip bir girişimin güvenmesi konusunda önemli bir endişeyi ele almaktadır.
Kvist, “Sigorta poliçeleri büyük sigorta şirketlerinin bilançoları tarafından desteklenecek” dedi. “Örneğin, dünyanın en eski sigorta şirketi Lloyd’un Londra ile çalıştığımızda, hiçbir zaman bir iddia ödemediler ve sigorta poliçesi nihayetinde onlardan geliyor.”
Üç aylık güncellemeler ve yıllarca süren düzenleyici döngüler
AIUC’un temel yeniliklerinden biri, AI’nın son gelişme hızına ayak uydurabilecek standartlar tasarlamaktır. Gibi geleneksel düzenleyici çerçeveler AB AI Yasası geliştirmek ve uygulamak için yıllar alır, AIUC Standartlarını üç ayda bir güncellemeyi planlıyor.
Kvist, “AB AI Yasası 2021’de başlatıldı, şimdi serbest bırakmak üzereler, ancak dört yıl sonra tekrar duraklıyorlar” dedi. “Bu döngü, bu teknolojiye ayak uydurmak için eski düzenleyici süreçleri elde etmeyi çok zorlaştırıyor.”
ABD ve Çin AI yetenekleri arasındaki rekabetçi boşluk daraldıkça bu çeviklik giderek daha önemli hale geldi. Kvist, “Bir buçuk yıl önce, herkes, şimdi iki yıl ileride olduğumuzu, bunun sekiz ay gibi geldiğini, bunun gibi bir şey olduğunu söyleyecekti” dedi.
AI Sigortası Nasıl Çalışır: Sistemleri Kırılma Noktasına Check etmek
AIUC’un sigorta poliçeleri, veri ihlallerinden ve ayrımcı işe alım uygulamalarından fikri mülkiyet ihlali ve yanlış otomatik kararlara kadar çeşitli AI başarısızlıklarını kapsamaktadır. Şirket fiyatları, farklı başarısızlık modlarında yapay zeka sistemlerini binlerce kez kırmaya çalışan kapsamlı testlere dayalı olarak kapsama alanı.
Kvist, “Diğer bazı şeyler için sizin için ilginç olduğunu düşünüyoruz. Ya da bir dava beklemiyor. Örneğin, yanlış bir geri ödeme yaparsanız, büyük, iyi, bunun fiyatı açıktır, yanlış geri ödeme yaptığınız para miktarı,” diye açıkladı Kvist.
Başlangıç, dahil olmak üzere bir ortak konsorsiyum ile çalışır. PWC (“Huge 4” muhasebe firmalarından biri) Orrick (önde gelen bir AI hukuk firması) ve akademisyenler Stanford Ve MIT standartlarını geliştirmek ve doğrulamak için.
AI güven sorununu çözmek için eski antropik yönetici yaprakları
Kurucu ekibi hem AI gelişimi hem de kurumsal danger yönetiminden derin deneyim kazanır. Kvist, Chatgpt’in lansmanından önce 2022’nin başlarında Antropik’te ilk ürün ve piyasaya sürülme kiralamasıydı ve AI Güvenliği Merkezi. Kurucu ortak Brandon Wang daha önce tüketici sigortalı işletmeleri inşa eden bir Thiel adamıdır. Rajiv Dattani küresel sigorta çalışmasına öncülük eden ve önde gelen AI modellerini değerlendiren kâr amacı gütmeyen bir kuruluş olan MetR COO’su olarak görev yapan eski bir McKinsey ortağıdır.
“Beni gerçekten ilgilendiren soru şudur: Bir toplum olarak, üzerimizde yıkanan bu teknolojiyle nasıl başa çıkacağız?” Kvist antropik ayrılma kararını söyledi. “Bence antropikin yaptığı bu, çok heyecan verici ve dünya için çok iyi olacak. Ama beni sabah uyandıran en merkezi soru şudur: Bir toplum olarak bununla nasıl başa çıkacağız?”
Düzenleme yetişmeden önce yapay zeka güvenli hale getirme yarışı
AIUC’un lansmanı, teknoloji deneysel dağıtımlardan kritik iş uygulamalarına geçtikçe AI endüstrisinin danger yönetimine nasıl yaklaştığı konusunda daha geniş bir değişime işaret ediyor. Sigorta modeli, işletmelere, kapsamlı hükümet gözetimini beklerken, pervasız AI benimseme ve felçli eylemsizlik arasında bir yol sunmaktadır.
AI ajanları endüstriler arasında daha yetenekli ve yaygın hale geldikçe, girişimin yaklaşımı çok önemli olabilir. Daha hızlı konuşlandırma sağlarken sorumlu kalkınma için finansal teşvikler yaratarak, şirketler AIUC yapay zekanın ekonomiyi güvenli veya kaotik olarak dönüştürüp dönüştürmediğini belirleyebilecek altyapı inşa ediyor.
Kvist, “Bu sigorta modelinin, bu piyasa tabanlı modelin hem hızlı evlat edinmeyi hem de güvenlik yatırımını teşvik ettiğini umuyoruz” dedi. “Bunu tarih boyunca gördük – piyasanın bu konularda mevzuattan daha hızlı hareket edebileceği.”
Bahisler daha yüksek olamazdı. AI sistemleri daha fazla alanda insan düzeyinde akıl yürütmeye yaklaştıkça, sağlam güvenlik altyapısı oluşturma penceresi hızla kapanıyor olabilir. AIUC’un bahsi, düzenleyicilerin AI’nın son hızını yakaladıklarında, pazarın zaten korkulukları inşa etmiş olacağıdır.
Sonuçta, Philadelphia’nın yangınları hükümet bina kodlarını beklemedi – ve bugünün AI silah yarışı da Washington’u beklemeyecek.
avots
