TrueFoundry, San Francisco merkezli bir yapay zeka altyapısı şirketidir ve yapay zeka ajanları için üretim katmanını inşa etmektedir. Amiral gemisi açık kaynak ürünü TrueForge, ekiplere kendi altyapılarında herhangi bir modeli ve herhangi bir MCP sunucusunu destekleyerek üretim düzeyinde yapay zeka ajanları oluşturma, dağıtma, hata ayıklama ve yönetme imkanı sağlar. NetApp dahil büyük kuruluşlar, üretim ajanlarını büyük ölçekte çalıştırmak için TrueFoundry'yi kullanmaktadır.

▸TrueFoundry AI Gateway

Yapay zeka ajan ekosistemi olgunlaştıkça TrueFoundry, ekiplerin prototipten üretime geçerken karşılaştığı dört kritik engeli tespit etti:

● Model parçalanması: Her ajan görevi en büyük modeli gerektirmez. Hızlı bir dosya düzenlemesi sınır düzeyinde bir çağrı gerektirmezken, depo çapında yeniden düzenleme mevcut en yetenekli modeli gerektirir. Çoğu ekibin her ikisine de ihtiyacı vardır, ancak farklı sağlayıcıları bir araya getirmek önemli entegrasyon yükü yaratır.
● Sağlayıcı bağımlılığı: Çoğu yönetilen ajan platformu, üretim karmaşıklığını ekipleri tek bir model sağlayıcısına kilitleyerek çözer. Ekipler akıcı bir ajan oluşturma deneyimi ile yapay zeka yığınlarının tam sahipliği arasında seçim yapmak zorunda kalır.
● Ölçekte yönetişim: Birden fazla model genellikle birden fazla entegrasyon, birden fazla pano ve belirsiz maliyet yapısı anlamına gelir. Birleşik yönetişim olmadan ekipler ajan filolarında harcama, gecikme ve davranış görünürlüğünü kaybeder.
● Maliyet verimliliği: Yönetilen tek sağlayıcı ajan platformları önemli maliyet primleri taşır. Ekiplerin üretim düzeyinde güvenilirliği korurken toplam ajan işletim maliyetlerini azaltmanın bir yoluna ihtiyacı vardır.

TrueFoundry, TrueForge'un açık kaynak lansmanı için Alibaba'nın Qwen'ini kurucu model ortağı olarak seçti. Bu karar birkaç temel faktöre dayanıyor:

● En geniş açık model yelpazesi: Qwen, tüm yapay zeka laboratuvarları arasında en geniş açık model yelpazesini sunuyor — milyar altı parametreli modellerden, kodlama modellerinde bir milyon token'a kadar bağlam sunan amiral gemisi Qwen3-Coder-480B-A35B'ye kadar. Hiçbir sağlayıcı açık ağırlık ailesinde bu genişliği sunmuyor.
● Aile bütünlüğü: Tüm Qwen modelleri birleşik bir aile kimliğini ve fonksiyon çağrı formatını paylaşıyor, bu nedenle boyutlar arasında geçiş yeni bir sağlayıcı entegre etmek yerine sorunsuz hissettiriyor.
● Üretime uygun yetenekler: Qwen kodlama serisi, ajan tabanlı kodlama ve araç kullanımı görevlerinde açık modeller arasında en ileri sonuçları elde ediyor ve önde gelen kapalı modellerle denk performans sergiliyor.
● Açık ağırlık felsefesi: Qwen'in açık ağırlık yaklaşımı, TrueFoundry'nin sağlayıcıdan bağımsız vizyonuyla örtüşüyor. Ekipler Qwen modellerini kendi altyapılarında tescilli kısıtlamalar olmaksızın dağıtabiliyor.

TrueFoundry, Qwen model ailesini Agent Harness'ına entegre ederek her model boyutunu tek bir API ardında birleştiren bir platform oluşturdu:

● Tek API, her boyut: Bir ajan, bir Qwen modelini adıyla çağırır ve altyapı yönlendirmeyi otomatik olarak gerçekleştirir. 0,5B parametreli bir modeli 480B amiral gemisiyle değiştirmek yalnızca bir isim değişikliğidir, kod değişikliği gerekmez.
● Ağ geçidi düzeyinde yönetişim: Her çağrı AI Gateway üzerinden geçer ve model boyutundan bağımsız olarak aynı gözlemlenebilirlik ve harcama sınırlarını uygular. Tüm modellerden gelen token, maliyet ve gecikme verileri tek bir panoda toplanır ve tek bir bütçe tüm yelpazeyi yönetir.
● Doğru boyutlandırma iş akışı: Hızlı düzenlemeler küçük Qwen modellerine, depo çapında yeniden düzenlemeler milyon token bağlamıyla amiral gemisine, orta ölçekli iş yükleri Qwen3-Coder-Next gibi verimli varyantlara yönlendirilir — tümü aynı API ve aynı ağ geçidi üzerinden, tek bir panoda görünür.

● Maliyet optimizasyonu: Toplam ajan işletim maliyetleri, yönetilen tek sağlayıcı ajan platformlarına kıyasla yaklaşık %50 oranında azaltıldı.
● En geniş açık kapsam: Qwen'in model yelpazesi — milyar altı parametrelerden 480B parametreye kadar — TrueForge kullanıcılarına tek bir API ardında en kapsamlı açık model seçimini sunuyor.
● Sıfır entegrasyonlu geçiş: Model boyutları arasında geçiş son derece kolay — kod değişikliği veya yeniden entegrasyon gerekmiyor, doğru boyutlandırma doğal bir alışkanlık haline geliyor.
● Birleşik yönetişim: Tek API, tek pano, tek bütçe — gözlemlenebilirlik ve harcama sınırları her model boyutunda tutarlı bir şekilde uygulanıyor.
● Üretimde kanıtlanmış: NetApp dahil büyük kuruluşlar, yüzlerce aktif kullanıcıyla TrueFoundry platformunda büyük ölçekte üretim ajanları çalıştırıyor.
● Açık kaynak güveni: Apache 2.0 lisansı ve sağlayıcı tarafsızlığı, kapalı alternatiflere kıyasla güven oluşturuyor.

TrueFoundry, Qwen model ailesi genişlemeye devam ettikçe Alibaba Cloud ile ortaklığını derinleştirmeyi planlıyor. Yeni boyutlar ve uzmanlık alanlarıyla model kapsamını genişletmeyi ve daha fazla yönetilen sunucu ve araçla MCP ekosistemini zenginleştirmeyi hedefliyor. Ayrıca Alibaba Cloud'un küresel altyapısından yararlanarak dünya genelinde düşük gecikmeli erişim için TrueForge'u kurumsal kullanıma ölçeklendirmeyi amaçlıyor.