Threat yönetimini ve güvenliğini, ajan sistemlerinde inovasyonla nasıl dengeliyorsunuz – ve veri ve mannequin seçimi etrafında temel düşüncelerle nasıl uğraşıyorsunuz? Bunda VB Dönüşümü Oturum, Milind Naphade, SVP, teknoloji, Capital One’daki AI vakıflarının, gerçek dünyadaki deneylerden ve aracı bir iş akışını dağıtmak ve ölçeklendirmek için uygulamalardan öğrenilen en iyi uygulamaları ve dersleri sundu.
Gelişmekte olan teknolojilerin ön saflarında kalmayı taahhüt eden Capital One, yakın zamanda otomobil satın alma deneyimini geliştirmek için üretim sınıfı, son teknoloji ürünü çoklu ajan bir AI sistemi başlattı. Bu sistemde, birden fazla AI ajanı sadece otomobil alıcısına bilgi sağlamakla kalmaz, aynı zamanda müşterinin tercihlerine ve ihtiyaçlarına göre belirli eylemler yapmak için birlikte çalışır. Örneğin, bir temsilci müşteri ile iletişim kurar. Bir diğeri, iş kurallarına ve kullanmasına izin verilen araçlara dayalı bir eylem planı oluşturur. Üçüncü bir ajan ilk ikisinin doğruluğunu değerlendirir ve dördüncü bir ajan, eylem planını kullanıcı ile açıklar ve doğrular. 100 milyondan fazla müşteri, çok çeşitli potansiyel Capital One kullanım vaka uygulamaları kullanan aracı sistem, ölçek ve karmaşıklık için oluşturulmuştur.
“Müşteri deneyimini geliştirmeyi, müşteriyi memnun etmeyi düşündüğümüzde, bunun olabileceği yollar nelerdir?” Dedi Naphade. “İster bir hesap açıyor olun, ister bakiyenizi bilmek isterse de bir aracı check etmek için bir rezervasyon yapmaya çalışıyorsanız, müşterilerin yapmak istediği bir sürü şey var. Bunun kalbinde, müşterinin ne istediğini nasıl anlıyorsunuz? Emnedizdeki yerine getirme mekanizmalarını nasıl anlıyorsunuz?
Ajan yapay zeka, iç ve müşteriye dönük kullanım durumları için bir sonraki adım olduğunu söyledi.
Ajan bir iş akışı tasarlama
Finansal kurumlar, müşteri yolculuklarını destekleyen herhangi bir iş akışı tasarlarken özellikle katı gereksinimlere sahiptir. Ve Capital One’ın uygulamaları, müşteriler sorunları ve sorguları konuşma araçlarından yararlanan sorguları gündeme getirdikçe bir dizi karmaşık süreç içerir. Bu iki faktör, tasarım sürecini özellikle karmaşık hale getirerek, hem müşterilerin hem de insan ajanlarının her adımda nasıl tepki vermesi, tepki vermesi ve akıl yürütmesi de dahil olmak üzere tüm yolculuğun bütünsel bir görünümünü gerektirir.
Naphade, “İnsanların nasıl akıl yürüttüğüne baktığımızda, birkaç dikkat çekici gerçekten etkilendik” dedi. “Birden fazla mantıksal ajan kullanarak tasarladıysak, insan muhakemesini oldukça iyi taklit edebileceğimizi gördük. Ama sonra kendinize soruyorsunuz, farklı ajanların tam olarak ne yaptığını? Neden dört tane var? Neden üç olmasın? Neden 20 olmasın?”
Tarihi verilerde müşteri deneyimlerini incelediler: bu konuşmaların doğru gittiği, nerede yanlış gittikleri, ne kadar sürecekleri ve diğer dikkat çekici gerçekleri incelediler. Müşterinin ne istediğini ve herhangi bir aracı iş akışının bunun için plan yapması gerektiğini anlamak için bir ajanla birden fazla konuşma yaptığını öğrendiler, ancak aynı zamanda bir kuruluşun sistemlerinde, mevcut araçlara, API’lere ve organizasyonel politika korkuluklarına tamamen dayandırıldı.
Naphade, “Bizim için ana atılım bunun dinamik ve yinelemeli olması gerektiğini fark ediyordu” dedi. “Birçok insanın nasıl LLM’leri kullandığına bakarsanız, LLM’leri eskiden var olan aynı mekanizmanın bir ön uç olarak tokatlıyorlar. Sadece niyet sınıflandırması için LLM’leri kullanıyorlar. Ama başından beri ölçeklenebilir olmadığını fark ettik.”
Mevcut iş akışlarından ipuçları almak
İnsan ajanlarının müşterilere yanıt verirken nasıl akıl yürüttüğüne dair sezgilerine dayanarak, Capital One’daki araştırmacılar, her biri farklı uzmanlığa sahip uzman AI ajanlarından oluşan bir ekibin bir araya geldiği ve bir sorunu çözdüğü bir çerçeve geliştirdiler.
Ayrıca Capital One, sağlam danger çerçevelerini aracı sistemin gelişimine dahil etmiştir. Düzenlenmiş bir kurum olarak Naphade, iç danger azaltma protokolleri ve çerçeveleri aralığına ek olarak, Sermaye Birinci içindeki riski yönetmek için, bağımsız olan diğer varlıklar sizi gözlemleyin, sizi değerlendirin, sizi denetleyin, denetleyin ”dedi. “Bunun bizim için iyi bir fikir olduğunu düşündük, tüm işi ilk iki ajanın Sermaye One politikalarına ve kurallarına dayanarak ne yaptığını değerlendirmek olan bir AI ajanına sahip olmak.”
Değerlendirici, önceki ajanların başarılı olup olmadığını belirler ve değilse planı reddeder ve planlama temsilcisinden sorunun nerede olduğuna dair kararına göre sonuçlarını düzeltmesini ister. Bu, uygun plana ulaşılana kadar yinelemeli bir süreçte olur. Ayrıca şirketin Ajanik AI yaklaşımına büyük bir nimet olduğu kanıtlanmıştır.
“Değerlendirici ajanı… bir dünya modeli getirdiğimiz yerdir. Bir dizi eylem gerçekte yürütülecekse ne olacağını simüle ettiğimiz yerdir. Bu tür bir titizlik, düzenlenmiş bir işletme olduğumuz için ihtiyacımız olan bir titizlik – sanırım bizi büyük bir sürdürülebilir ve sağlam yörüngeye sokmayı bekliyorum.”
Ajan yapay zekanın teknik zorlukları
Ajan sistemlerinin, hepsi çeşitli izinlerle kuruluş genelinde yerine getirme sistemleri ile çalışması gerekir. Yüksek doğruluğu korurken çeşitli bağlamlarda araçları ve API’leri çağırmak da zorlayıcıydı – kullanıcı niyetinden güvenilir bir plan oluşturmaya ve yürütmeye kadar.
Naphade, “Deney, check, değerlendirme, döngüdeki insan yinelemelerimiz, piyasaya böyle bir şeyle gerçekten gelmeden önce gerçekleşmesi gereken tüm doğru korkuluklar var” dedi. “Ama en büyük zorluklardan biri emsalimizin olmamasıydı. Gidip söyleyemedik, oh, başka biri bunu bu şekilde yaptı. Bu nasıl işe yaradı? Bu yenilik unsuru vardı. İlk kez yapıyorduk.”
NVIDIA ile mannequin seçimi ve ortaklık
Modeller açısından, Capital One, konferanslarda sunum yapan ve son teknoloji ürünü olanı takip eden akademik ve endüstri araştırmalarını izliyor. Mevcut kullanım durumunda, kapalı olmak yerine açık ağırlık modelleri kullandılar, çünkü bu onlara önemli bir özelleştirmeye izin verdi. Naphade, bu onlar için kritik öneme sahip, çünkü AI stratejisindeki rekabet avantajı tescilli verilere dayanıyor.
Teknoloji yığınında, şirket içi teknoloji, açık kaynaklı takım zincirleri ve NVIDIA çıkarım yığını dahil olmak üzere bir araç kombinasyonunu kullanırlar. NVIDIA ile yakın çalışmak, Capital One’ın ihtiyaç duydukları performansı almasına yardımcı oldu ve Nvidia’nın kütüphanesindeki sektöre özgü fırsatlar üzerinde işbirliği yaptı ve Triton Server ve onort LLM’leri için özelliklere öncelik veriyor.
Ajan AI: İleriye Bakış
Capital One, AI ajanlarını işleri boyunca dağıtmaya, ölçeklendirmeye ve geliştirmeye devam ediyor. İlk çok ajanik iş akışları, şirketin otomobil işi aracılığıyla konuşlandırılan CHAT Concierge idi. Otomobil satın alma işlemi ile hem otomatik satıcıları hem de müşterileri desteklemek için tasarlanmıştır. Zengin müşteri verileriyle, bayiler, bazı durumlarda müşteri katılım metriklerini önemli ölçüde geliştiren ciddi olası satışları belirliyorlar.
Naphade, “Bu doğal, daha kolay, 7/24 ajan aracılığıyla onlar için çok daha iyi ciddi olası satışlar üretebiliyorlar” dedi. “Bu özelliği [more] Müşteriye dönük katılımlarımız. Ama bunu iyi yönetilen bir şekilde yapmak istiyoruz. Bu bir yolculuk. “
