Gelen kutunuzda daha akıllı bilgiler ister misiniz? Sadece kurumsal AI, veri ve güvenlik liderleri için önemli olanı elde etmek için haftalık bültenlerimize kaydolun. Şimdi abone olun
Aws pazar pozisyonunu ile genişletmeye çalışıyor Sagemaker için güncellemelermakine öğrenimi ve yapay zeka modeli eğitim ve çıkarım platformu, yeni gözlemlenebilirlik özellikleri, bağlı kodlama ortamları ve GPU küme performans yönetimi eklemek.
Ancak AWS, rekabetle yüzleşmeye devam ediyor Google Ve MicrosoftAI eğitim ve çıkarımını hızlandırmaya yardımcı olan birçok özellik de sunar.
Veri kaynaklarını entegre etmek ve 2024’te makine öğrenme araçlarına erişmek için birleşik bir merkeze dönüşen Sagemaker, mannequin performansının neden yavaşladığı ve AWS müşterilerine mannequin geliştirme için ayrılan hesaplama miktarı üzerinde daha fazla kontrol sunan özellikler ekleyecektir.
Diğer yeni özellikler arasında yerel entegre geliştirme ortamlarının (IDES) Sagemaker’a bağlanması yer alır, böylece yerel olarak yazılmış AI projeleri platformda konuşlandırılabilir.
Sagemaker genel müdürü Ankur Mehrotra, VentureBeat’e bu yeni güncellemelerin çoğunun müşterilerinden kaynaklandığını söyledi.
Mehrotra, “Müşterilerimizin Gen AI modellerini geliştirirken karşılaştığını gördüğümüz bir zorluk, bir şeyler ters gittiğinde veya bir şey beklentiye göre çalışmadığında, yığının bu katmanında neler olduğunu bulmak gerçekten zor” dedi.
Sagemaker hiperpod gözlemlenebilirliği, mühendislerin hesaplama katmanı veya ağ katmanı gibi yığının çeşitli katmanlarını incelemelerini sağlar. Bir şey ters giderse veya modeller yavaşlarsa, Sagemaker onları uyarabilir ve bir gösterge tablosunda metrik yayınlayabilir.
Mehrotra, eğitim kodunun GPU’ları vurgulamaya başladığı ve sıcaklık dalgalanmalarına neden olduğu yeni modelleri eğitirken kendi ekibinin karşılaştığı gerçek bir soruna işaret etti. En son araçlar olmadan, geliştiricilerin sorunun kaynağını belirlemek ve daha sonra düzeltmek için haftalar alacaklarını söyledi.
Bağlı Kimlikler
Sagemaker, AI geliştiricilerin modelleri eğitmesi ve çalıştırması için zaten iki yol sundu. Sagemaker aracılığıyla modellerdeki eğitim kodunu sorunsuz bir şekilde çalıştırmak için Jupyter Lab veya kod editörü gibi tam yönetilen IDE’lere erişimi vardı. Diğer mühendislerin yükledikleri tüm uzantılar da dahil olmak üzere yerel kimliklerini kullanmayı tercih ettiklerini anlamak, AWS, kodlarını makinelerinde de çalıştırmalarına izin verdi.
Bununla birlikte, Mehrotra bunun yerel olarak kodlanmış modellerin sadece yerel olarak çalıştığı anlamına geldiğine dikkat çekti, bu nedenle geliştiriciler ölçeklendirmek istiyorsa, önemli bir zorluk olduğunu kanıtladı.
AWS, müşterilerin tercih ettikleri IDE üzerinde çalışmaya devam etmelerini sağlamak için yeni güvenli uzaktan yürütme ekledi – yerel olarak veya yönetilen – OT’yi Sagemaker’a bağladı.
“Yani bu yetenek şimdi onlara istedikleri takdirde yerel bir IDE’de yerel olarak gelişebilecekleri her iki dünyanın da en iyisini veriyor, ancak daha sonra gerçek görev yürütme açısından Sagemaker’ın ölçeklenebilirliğinden faydalanabilirler” dedi.
Hesaplamada daha fazla esneklik
AWS, müşterilerin eğitim modelleri için sunucu kümelerini yönetmelerine yardımcı olmak için Aralık 2023’te Sagemaker Hyperpod’u başlattı. Gibi sağlayıcılara benzer ÇekirdekHyperpod, Sagemaker müşterilerinin kullanılmayan hesaplama gücünü tercih ettikleri konuma yönlendirmelerini sağlar. Hyperpod, GPU kullanımının ne zaman talep kalıplarına göre planlanacağını bilir ve kuruluşların kaynaklarını ve maliyetlerini etkili bir şekilde dengelemelerini sağlar.
Ancak AWS, birçok müşterinin çıkarım için aynı hizmeti istediğini söyledi. Birçok çıkarım görevi, insanların mannequin ve uygulamalar kullandıkları gün boyunca ortaya çıkarken, eğitim genellikle yoğun olmayan saatlerde planlanır.
Mehrotra, dünya çıkarımında bile geliştiricilerin Hyperpod’un odaklanması gereken çıkarım görevlerine öncelik verebileceğini belirtti.
Laurent Sifre, AI Ajan Şirketi’nde kurucu ortağı ve CTO H Aibir AWS weblog yazısında şirketin ajan platformunu oluştururken Sagemaker Hyperpod’u kullandığını söyledi.
Sifre, “Eğitimden çıkarımına bu sorunsuz geçiş, iş akışımızı kolaylaştırdı, üretime zaman daha azaltıldı ve canlı ortamlarda tutarlı performans sağladı” dedi.
AWS ve Rekabet
Amazon, bulut sağlayıcı rakipleri, Google ve Microsoft gibi en fazla fahişe modellerini sunmuyor olabilir. Yine de AWS, işletmelerin AI modelleri, uygulamalar veya temsilciler oluşturması için altyapı omurgası sağlamaya daha fazla odaklanmıştır.
Sagemaker’a ek olarak AWS, uygulamalar ve temsilciler için özel olarak tasarlanmış bir platform olan Bedrock’u da sunuyor.
Sagemaker yıllardır var, başlangıçta farklı makine öğrenme araçlarını veri göllerine bağlamak için bir araç olarak hizmet ediyor. Üretken AI patlaması başladığında, AI mühendisleri dil modellerini eğitmeye yardımcı olmak için Sagemaker’ı kullanmaya başladı. Bununla birlikte, Microsoft, Fortune 500 şirketlerinin% 70’i onu benimseyen, veri ve AI hızlanma alanında lider olmak için kumaş ekosistemi için zorlanıyor. Google, Vertex AI aracılığıyla, kurumsal AI benimsemesinde sessizce yol kat etti.
AWS, elbette, en yaygın kullanılan bulut sağlayıcısı olma avantajına sahiptir. Birçok AI altyapı platformunu kullanmayı kolaylaştıracak herhangi bir güncelleme her zaman bir fayda olacaktır.
avots
