Gelen kutunuzda daha akıllı bilgiler ister misiniz? Sadece kurumsal AI, veri ve güvenlik liderleri için önemli olanı elde etmek için haftalık bültenlerimize kaydolun. Şimdi abone olun
İşletmeler, AI ajanlarını kritik uygulamalarda dağıtmanın zorluklarıyla karşı karşıya olsa da, insanları AI başarısızlığına karşı stratejik bir koruma olarak kontrol eden yeni, daha pragmatik bir mannequin ortaya çıkıyor.
Böyle bir örnek KarışıklıkAI ajanlarını kritik kritik çalışma için güvenilir hale getirmek için “döngü içinde meslektaşım” yaklaşımı kullanan bir platform.
Bu yaklaşım, tamamen özerk ajanların yüksek bahisli bir kumar olduğuna dair artan kanıtlara bir yanıttır.
Kontrolsüz yapay zekanın yüksek maliyeti
Sorunu AI halüsinasyonları şirketler AI uygulamalarını keşfederken somut bir danger haline gelmiştir. Yakın tarihli bir olayda, AI destekli kod editörü imleci kendi destek botunu gördü sahte bir politika icat edin Aboneliklerin kısıtlanması, kamu müşteri iptallerinin dalgasına yol açma.
Benzer şekilde, fintech şirketi Klarna ünlü Ters kurs Hareketi kabul ettikten sonra müşteri hizmetleri temsilcilerinin yapay zeka ile değiştirilmesi daha düşük kalite ile sonuçlandı. Daha endişe verici bir durumda, New York Metropolis’nin yapay zeka destekli iş chatbotu girişimcilere tavsiye etti. yasadışı uygulamalarda bulunmakMonitoration Ajanların Katastrofik Uyum Risklerini Vurgulamak.
Bu olaylar daha büyük bir yetenek boşluğunun belirtileridir. Mayıs 2025 Salesforce’a göre araştırma makalesibugünün önde gelen ajanları, zamanın sadece% 58’ini tek aşamalı görevlerde ve çok adımlı olanlarda zamanın sadece% 35’ini başararak “mevcut LLM yetenekleri ve gerçek dünya işletme senaryolarının çok yönlü talepleri” arasında önemli bir boşluk.
Loop-in-the-Toop modeli
Bu boşluğu kapatmak için yeni bir yaklaşım yapılandırılmış insan gözetimine odaklanıyor. Mixus kurucu ortağı Elliot Katz VentureBeat’e verdiği demeçte, “Bir AI ajanı sizin yönünüzde ve sizin adınıza hareket etmeli” dedi. “Ancak yerleşik örgütsel gözetim olmadan, tamamen özerk ajanlar genellikle çözdüklerinden daha fazla sorun yaratıyor.”
Bu felsefe, insan doğrulamasını doğrudan otomatik iş akışlarına yerleştiren Mixus’un meslektaşı-the-the-the-the-the-the-the-the-the-the-the-the-the-Toop modelini destekliyor. Örneğin, büyük bir perakendeci, kritik operasyonel veriler (örn. Satış hacimleri, çalışma saatleri, verimlilik oranları, merkezden gelen tazminat talepleri) içeren binlerce mağazadan haftalık raporlar alabilir. İnsan analistleri, verileri manuel olarak inceleyerek ve sezgisel tarama dayalı kararlar alarak saatler geçirmelidir. Mixus ile AI ajanı, karmaşık kalıpları analiz ederek ve alışılmadık derecede yüksek maaş talepleri veya verimlilik aykırı değerleri gibi anormallikleri işaretleyerek ağır kaldırmayı otomatikleştirir.
Ödeme yetkileri veya politika ihlalleri gibi yüksek bahisli kararlar için-bir insan kullanıcı tarafından “yüksek danger” olarak tanımlanan iş akışları-ajan duraklar ve devam etmeden önce insan onayını gerektirir. Yapay zeka ve insanlar arasındaki işbölümü ajan yaratma sürecine entegre edilmiştir.
Katz, “Bu yaklaşım, insanlar sadece uzmanlıklarının gerçekten değer kattığında-tipik olarak önemli etkileri olabilecek kritik% 5-10 kritik-rutin görevlerin geri kalan% 90-95’inin otomatik olarak akması anlamına geliyor” dedi. “Standart operasyonlar için tam otomasyon hızını elde edersiniz, ancak insan gözetimi tam olarak bağlam, yargı ve hesap verebilirlik en önemli olduğunda başladı.”
Mixus ekibinin VentureBeat’e gösterdiği bir demoda, bir ajan oluşturmak düz metin talimatlarıyla yapılabilecek sezgisel bir süreçtir. Örneğin, muhabirler için bir olgu kontrol ajanı oluşturmak için, kurucu ortağı Shai Magzimof, doğal dilde çok adımlı süreci tanımladı ve platforma, bir iddianın yüksek riskli olduğu ve itibar hasarı veya yasal sonuçlarla sonuçlanabilmesi gibi insan doğrulama adımlarını belirli eşiklerle yerleştirme talimatı verdi.
Platformun temel güçlü yönlerinden biri, Google Drive, E-posta ve Slack gibi araçlarla entegrasyonlarıdır, kurumsal kullanıcıların kendi veri kaynaklarını iş akışlarına getirmelerine ve acentelerle doğrudan iletişim platformlarından etkileşim kurmalarına, örneğin yeni bir arayüz öğrenmek veya öğrenmek zorunda kalmadan (gerçek deneme acentesinin editör e-postasına onay talepleri göndermesi talimatı verilmiştir).
Platformun entegrasyon yetenekleri, belirli kurumsal ihtiyaçları karşılamak için daha da uzanır. Mixus, işletmelerin temsilcileri ısmarlama araçlarına ve API’larına bağlamalarını sağlayan ve mevcut dahili sistemler için tekerleği yeniden icat etme ihtiyacından kaçınan Mannequin Bağlam Protokolünü (MCP) destekler. JIRA ve Salesforce gibi diğer kurumsal yazılımlar için entegrasyonlarla birleştiğinde, ajanların açık mühendislik biletlerini kontrol etmek ve durumu Slack üzerindeki bir yöneticiye bildirmek gibi karmaşık, platformlar arası görevler gerçekleştirmesine olanak tanır.
Stratejik bir çarpan olarak insan gözetimi
Şirketler deneylerden üretime geçtikçe işletme AI alanı şu anda bir gerçeklik kontrolü geçiriyor. Birçok endüstri lideri arasındaki fikir birliği, döngüdeki insanların ajanların güvenilir bir şekilde performans göstermesi için pratik bir zorunluluktur.
Mixus’un işbirlikçi modeli, AI ölçeklendirme ekonomisini değiştirir. Mixus, 2030 yılına kadar ajan dağıtımının 1000x büyüyebileceğini ve her insan gözetmeninin AI ajanları daha güvenilir hale geldikçe 50x daha verimli olacağını tahmin ediyor. Ancak insan gözetimi için toplam ihtiyaç hala büyüyecek.
Katz, “Her insan gözetmeni zaman içinde katlanarak daha fazla AI çalışmasını yönetiyor, ancak kuruluşunuzda AI konuşlandırması patladığında hala daha fazla gözetim yapmanız gerekiyor” dedi.
Kurumsal liderler için bu, insan becerilerinin kaybolmak yerine gelişeceği anlamına gelir. AI ile değiştirilmek yerine, uzmanlar AI ajanlarının filolarını düzenledikleri ve incelemeleri için işaretlenen yüksek bahisli kararları ele aldıkları rollere terfi edecekler.
Bu çerçevede, güçlü bir insan gözetim işlevi oluşturmak, şirketlerin AI’yı rakiplerinden daha agresif ve güvenli bir şekilde kullanmalarına izin veren rekabet avantajı haline gelir.
Katz, “Bu çarpışmaya hakim olan şirketler endüstrilerine hakim olacakken, tam otomasyonu kovalayanlar güvenilirlik, uyum ve güvenle mücadele edecekler” dedi.
avots
