Bu makale VentureBeat’in özel sorunu “AI’nın gerçek maliyeti: Performans, Verimlilik ve YG, ölçekte”. Bu özel sayıdan daha fazlasını okuyun.
Son yirmi yıldır, işletmelerin açık kaynaklı ve kapalı tescilli teknolojiler arasında bir seçeneği vardı.
İşletmeler için orijinal seçim öncelikle işletim sistemlerine odaklandı ve Linux, Microsoft Home windows’a açık kaynaklı bir alternatif sunuyor. Geliştirici aleminde, Kubernetes de dahil olmak üzere açık kaynaklı teknolojiler bulutta standartlar olduğu için Python ve JavaScript gibi açık kaynaklı diller baskındır.
Açık ve kapalı arasında aynı seçim türü artık AI için işletmelerle karşı karşıya, her iki mannequin türü için birden fazla seçenekle. Tescilli kapalı mannequin cephede, Openai ve antropik olanlar da dahil olmak üzere gezegende en büyük, en yaygın kullanılan modellerden bazıları var. Açık kaynak tarafında Meta’s Lama, IBM Granit, Alibaba’nın Qwen ve Deepseek gibi modeller var.
Açık veya kapalı bir modelin ne zaman kullanılacağını anlamak, 2025 ve ötesinde kurumsal AI karar vericileri için kritik bir seçimdir. Seçim, işletmelerin anlaması ve dikkate alması gereken seçenekler için hem finansal hem de özelleştirme sonuçlarına sahiptir.
Açık ve kapalı lisanslar arasındaki farkı anlamak
Açık ve kapalı lisanslar arasında onlarca yıllık rekabet etrafında abartma sıkıntısı yoktur. Peki, kurumsal kullanıcılar için her şey ne anlama geliyor?
Örneğin Openai’nin GPT 4O’su gibi kapalı kaynaklı bir tescilli teknolojinin, mannequin kodu, eğitim verileri veya herkesin görmesi için açık veya mevcut mannequin ağırlıkları yoktur. Mannequin, ince ayarlanacak ve genel olarak konuşulabilmemiz için kolayca mevcut değildir, sadece bir maliyetle gerçek işletme kullanımı için mevcuttur (elbette, Chatgpt’in ücretsiz bir katmanı vardır, Ama bu gerçek bir işletme iş yükü için kesmeyecek).
Meta Lama, IBM Granit veya Deepseek gibi açık bir teknolojinin açık bir şekilde kodu vardır. İşletmeler modelleri, genellikle ince ayar ve özelleştirmeler de dahil olmak üzere kısıtlamalar olmadan özgürce kullanabilirler.
Rohan Gupta, bir müdür DeloitteVentureBeat’e açık ve kapalı kaynak tartışmalarının AI için benzersiz veya doğal olmadığını veya yakın zamanda çözülmesi muhtemel olmadığını söyledi.
Gupta, kapalı kaynak sağlayıcıların modellerinde kullanım kolaylığı, basitleştirilmiş ölçeklendirme, daha sorunsuz yükseltmeler ve indirgemeler ve istikrarlı bir geliştirme akışı sağlayan birkaç sargı sunduğunu açıkladı. Ayrıca önemli geliştirici desteği sağlarlar. Bu, belgelerin yanı sıra uygulamalı tavsiyeler de içerir ve genellikle hem altyapı hem de uygulamalarla daha sıkı entegrasyonlar sunar. Buna karşılık, bir işletme bu hizmetler için bir prim öder.
Gupta, “Açık kaynaklı modeller ise daha fazla kontrol, esneklik ve özelleştirme seçenekleri sağlayabilir ve canlı, hevesli bir geliştirici ekosistemi tarafından desteklenebilir” dedi. “Bu modeller, bulut satıcıları arasında tam yönetilen API’ler aracılığıyla giderek daha fazla erişilebilir ve dağıtımlarını genişletir.”
Kurumsal AI için açık ve kapalı mannequin arasında seçim yapmak
Birçok kurumsal kullanıcının sorabileceği soru, daha iyi olan: açık mı yoksa kapalı bir mannequin mi? Ancak cevap mutlaka biri ya da diğeri değildir.
“Bunu bir ikili seçim olarak görmüyoruz,” David Guarrera, üretken AI lideri Ey AmerikaVentureBeat’e söyledi. “Açık VS Kapalı, bir iş akışındaki farklı noktalarda doğruluk, gecikme, maliyet, yorumlanabilirlik ve güvenlik arasındaki değişimlere dayanarak modellerin seçildiği veya hatta otomatik olarak düzenlendiği akışkan bir tasarım alanıdır.”
Guarrera, kapalı modellerin kuruluşların davranışı nasıl optimize edebileceğini veya uyarlayabileceğini sınırladığını belirtti. Tescilli mannequin satıcıları genellikle ince ayarlamayı, premium oranları şarj eder veya işlemi kara kutularda gizler. API tabanlı araçlar entegrasyonu basitleştirirken, kontrolün çoğunu soyutlar ve son derece spesifik veya yorumlanabilir sistemler oluşturmayı zorlaştırır.
Buna karşılık, açık kaynaklı modeller, belirli kullanım durumları için hedefli ince ayar, korkuluk tasarımı ve optimizasyonuna izin verir. Bu, modellerin artık monolitik genel amaçlı araçlar değil, dinamik iş akışları içindeki değiştirilebilir bileşenler olduğu aracı bir gelecekte daha önemlidir. Mannequin davranışını, düşük maliyetle ve tam şeffaflık ile ince bir şekilde şekillendirme yeteneği, göreve özgü temsilcileri veya sıkı bir şekilde düzenlenmiş çözümleri dağıtarken önemli bir rekabet avantajı haline gelir.
Guarrera, “Uygulamada, mannequin seçiminin soyutlandığı bir aracı geleceği öngörüyoruz” dedi.
Örneğin, bir kullanıcı bir AI aracıyla bir e-posta hazırlayabilir, yasal dokümanları başka biriyle özetleyebilir, ince ayarlı açık kaynak modeline sahip kurumsal belgeleri arayabilir ve hangi modelin ne yaptığını bilmeden bir cihaz üzerine LLM aracılığıyla yerel olarak yapay zeka ile etkileşime girebilir.
“Asıl soru: Hangi mannequin karışımı iş akışınızın özel taleplerine en uygun?” Dedi Guarrera.
Toplam sahiplik maliyetini göz önünde bulundurarak
Açık modellerle, temel fikir, modelin kullanıma sunulabilmesidir. Buna karşılık, işletmeler her zaman kapalı modeller için ödeme yaparlar.
Toplam sahiplik maliyetini (TCO) dikkate almaya gelince gerçek daha nüanslıdır.
Praveen Akiraju, genel müdür Insight Partners VentureBeat’e TCO’nun birçok farklı katmana sahip olduğunu açıkladı. Birkaç önemli husus, altyapı barındırma maliyetleri ve mühendisliği içerir: İşletme veya bulut sağlayıcısı tarafından kendi kendine barındırılan açık kaynaklı modeller mi? Modeli güvenli bir şekilde işlevselleştirmek için ince ayar, koruyucu korkuluk ve güvenlik testi dahil ne kadar mühendislik gereklidir?
Akkiraju bunu kaydetti Açık Ağırlıklar Modelinin ince ayarını ayarlamak bazen çok karmaşık bir görev olabilir. Kapalı Frontier Mannequin Şirketleri, birden fazla görevde performansı sağlamak için muazzam mühendislik çabası harcıyor. Onun görüşüne göre, işletmeler benzer mühendislik uzmanlığı dağıtmadıkça, açık kaynak modelleri ince ayar yaparken karmaşık bir dengeleme eylemiyle karşılaşacaklar. Bu, kuruluşlar mannequin dağıtım stratejilerini seçtiklerinde maliyet sonuçları yaratır. Örneğin, işletmeler farklı görevler için birden fazla mannequin sürümüne ince ayar yapabilir veya birden fazla görev için bir API kullanabilir.
Ryan Gross, Cloud Native Companies Sağlayıcı Veri ve Uygulamalar Başkanı Caylent VentureBeat’e bakış açısından, lisans terimlerinin, kenar vaka senaryoları dışında önemli olmadığını söyledi. En büyük kısıtlamalar, veri ikamet gereksinimleri mevcut olduğunda genellikle mannequin kullanılabilirliği ile ilgilidir. Bu durumda, Amazon Sagemaker gibi altyapı üzerine açık bir mannequin dağıtmak, hala uygun bir mannequin elde etmenin tek yolu olabilir. TCO söz konusu olduğunda, Gross, dengesizliğin çekiliş başına maliyet ile barındırma ve bakım maliyetleri arasında olduğunu belirtti.
Gross, “Ekonominin kapalıdan açık modellere daha ucuza geçtiği web bir başlık var” dedi.
Onun görüşüne göre, çoğu kuruluş için, kuruluşun adına çözülmüş barındırma ve ölçeklendirme ile kapalı modeller daha düşük bir TCO’ya sahip olacaktır. Bununla birlikte, büyük işletmeler için, LLM’lerinde çok yüksek talebi olan SaaS şirketleri, ancak sınır performansı gerektiren daha basit kullanım durumları veya AI merkezli ürün şirketleri, damıtılmış açık modellere ev sahipliği yapmak daha uygun maliyetli olabilir.
Bir Kurumsal Yazılım Geliştiricisi Açık VS Kapalı Modelleri Nasıl Değerlendirdi?
Josh Bosquez, CTO İkinci Ön Sistemler açık vs kapalı modelleri dikkate almak ve değerlendirmek zorunda olan birçok firma arasındadır.
VentureBeat’e verdiği demeçte, “Belirli kullanım durumuna, güvenlik gereksinimlerine ve stratejik hedeflere bağlı olarak hem açık hem de kapalı AI modellerini kullanıyoruz” dedi.
Bosquez, açık modellerin firmasının, antrenman modellerinin zamanı veya maliyeti olmadan en yeni yetenekleri entegre etmesine izin verdiğini açıkladı. İç deneyler veya hızlı prototipleme için açık modeller, firmasının hızlı bir şekilde yinelemesine ve toplum odaklı gelişmelerden yararlanmasına yardımcı olur.
“Öte yandan, veri egemenliği, kurumsal sınıf destek ve güvenlik garantileri, özellikle müşteriye dönük uygulamalar veya hassas veya düzenlenmiş ortamları içeren dağıtımlar için gerekli olduğunda, kapalı modeller seçimimizdir” dedi. “Bu modeller genellikle güçlü performans, uyumluluk desteği ve kendi kendine barındırma seçenekleri sunan güvenilir satıcılardan geliyor.”
Bosquez, mannequin seçim sürecinin çapraz fonksiyonel ve riskle bilgilendirilmiş olduğunu, sadece teknik uyumu değil, aynı zamanda veri işleme politikalarını, entegrasyon gereksinimlerini ve uzun vadeli ölçeklenebilirliği de değerlendirdiğini söyledi.
TCO’ya bakıldığında, açık ve kapalı modeller arasında önemli ölçüde değiştiğini ve hiçbir yaklaşımın evrensel olarak daha ucuz olmadığını söyledi.
Bosquez, “Dağıtım kapsamına ve örgütsel olgunluğa bağlı” dedi. “Nihayetinde, TCO’yu sadece harcanan dolarlarda değil, teslimat hızı, uyum riski ve güvenli bir şekilde ölçeklendirme yeteneğini de değerlendiriyoruz.”
Bu kurumsal AI stratejisi için ne anlama geliyor?
2025 yılında AI yatırımlarını değerlendiren akıllı teknoloji karar vericileri için, açık ve kapalı tartışmalar taraf seçmekle ilgili değildir. Kuruluşunuzdaki farklı kullanım durumları için optimize eden stratejik bir portföy yaklaşımı oluşturmakla ilgilidir.
Acil eylem öğeleri basittir. İlk olarak, mevcut AI iş yüklerinizi denetleyin ve her kullanım durumu için doğruluk gereksinimleri, gecikme ihtiyaçları, maliyet kısıtlamaları, güvenlik talepleri ve uyum yükümlülüklerini göz önünde bulundurarak uzmanlar tarafından belirtilen karar çerçevesine karşı eşleştirin. İkincisi, kuruluşunuzun mannequin ince ayar, barındırma ve bakım için mühendislik yeteneklerini dürüstçe değerlendirin, çünkü bu doğrudan toplam sahiplik maliyetinizi doğrudan etkilemektedir.
Üçüncüsü, görevleri otomatik olarak açık veya kapalı, en uygun modele yönlendirebilen mannequin düzenleme platformlarını denemeye başlayın. Bu, organizasyonunuzu, EY Guarrera gibi endüstri liderlerinin, mannequin seçiminin son kullanıcılar için görünmez hale geldiği tahmin ettikleri aracı gelecek için konumlandırır.
