Platform For AI:PAI-LangStudio Kullanımdan Kaldırma ve Geçiş Kılavuzu

1,1 Model Studio Nedir

Alibaba Cloud Model Studio, işletmeler ve geliştiriciler için tasarlanmış tek duraklı bir büyük model hizmeti platformudur. Model hizmetleri, uygulama oluşturma, bilgi bankaları, araç ekosistemi ve yayınlama ile operasyon yetenekleri sağlar. Model Studio, daha önce LangStudio üzerinde çalıştırdığınız uygulama oluşturma, hata ayıklama, dağıtım ve gözlemlenebilirlik iş yüklerini devralmaya son derece uygundur.

Ayrıntılı özellik eşlemesi ve geçiş yaklaşımı için 2. Geçişe Genel Bakış bölümüne bakın. Daha fazla bilgi için Alibaba Cloud Model Studio'ya Genel Bakış ve Model Studio Uygulama Türleri konularına bakın.

1,2 Geçiş Öncesi İzin Kurulumu

Geçiş yapmadan önce gerekli izinleri önceden talep edin. Alibaba Cloud hesabınızın sahibinden, LangStudio geliştiricilerinin RAM kullanıcılarına Model Studio uygulamaları için okuma ve yazma izinleri vermesini, çalışma alanları oluşturmasını ve API anahtarları için başvuruda bulunmasını isteyin. Belirli izin öğeleri ve yetkilendirme prosedürleri için İzin yönetimi ve Model Studio Sistem İzin İlkesi Referansı konularına bakın.

2,1 Özellik Eşlemesi

Aşağıdaki tabloda LangStudio özelliklerinin Model Studio'daki karşılıkları gösterilmektedir:

2,2 Uygulama Türü Eşlemesi

İş akışı veya yüksek kodlu uygulama türlerine geçişe öncelik verin ve yapılandırmaları ayrı ayrı yeniden oluşturun:

Model Studio ayrıca daha basit yapılandırma sunan agent uygulamaları da sağlar. Bu türün iş senaryonuza uygun olup olmadığını değerlendirin.

3,1 Düğüm Sayısı ve Kapsam

Önce önemli farklılıkları olan veya doğrudan karşılığı olmayan düğümleri belirleyin. Diğer tüm düğümleri Model Studio tuvalinde yeniden oluşturun.

"Küçük farklılıklar" olarak işaretlenen düğümler için, yukarıdaki tabloda listelenen farklılıklara göre yapılandırmayı Model Studio tarafında yeniden oluşturun. Tam parametre açıklamaları için İş akışı uygulaması konusuna bakın. Aşağıdaki bölümler "Önemli farklılıklar" ve "Manuel olarak uygulanmalıdır" olan düğümleri kapsar.

3,2 Önemli Farklılıkları Olan Düğümler

Aşağıdaki bölümler yalnızca yeniden tasarım gerektiren temel farklılıklara odaklanır.

{{ variable }}

${node.variable}

@tool
def invoke(...): ...

def main(params):
    return {"output": params["input"]}

{% for doc in documents %}
{{ doc.content }}
{% endfor %}

${KnowledgeBase_1.result}

3,3 Entegrasyon Testi

Test panelini açmak için tuvalin sağ üst köşesindeki Test seçeneğine tıklayın. Üç mod sağlar: Metin Konuşması (çok turlu, bağlamı korur; bir düğüme tıklayarak girdisini ve çıktısını görüntüleyin), Metin Oluşturma (tek turlu, eşzamanlı ve eşzamansız desteği) ve Ses/Video Etkileşimi. Sağ üst köşede ayrıca bir çalıştırmadan önce tamamlanması gereken yapılandırma öğelerini listeleyen bir Checklist girişi bulunur. Testten önce bunu incelemenizi öneririz.

Dört tür sorunu doğrulamaya odaklanın: değişken referanslarının doğru şekilde iletilip iletilmediği (özellikle prompt sözdizimi yeniden yazıldıktan sonra), koşullu dal ve döngü sonlandırma mantığının orijinal uygulamayla eşleşip eşleşmediği, yapılandırılmamış izin listeleri nedeniyle harici hizmet çağrılarının başarısız olup olmadığı ve Betik düğümü çıkış yapısının aşağı akış düğümlerinin beklediği yapıyla uyumlu olup olmadığı.

4,1 Geliştirme Yaklaşımındaki Temel Değişiklik

LangStudio bulut tabanlı bir Web IDE sağlar. Model Studio yüksek kodlu uygulamalar bunun yerine yerel geliştirmeyi kullanır.

Geçiş süreci yerel geliştirme -> .whl olarak paketleme -> yükleme -> bulut doğrulaması şeklindedir:

Geliştirme ve hata ayıklamaya bulutta devam etmeyi tercih ediyorsanız PAI'nin DSW (Data Science Workshop) ürününü kullanabilirsiniz.

4,2 Proje Yapısı Değişiklikleri

Tipik bir LangStudio kodlama modu uygulamasının (LLM Basic şablonu) yapısı:

project/
├── agent.py          # Entry point: FastAPI app and API endpoints
├── agent_loop.py     # Core logic: LLM calls and tool execution loop
├── agui.py           # AG-UI Protocol event stream conversion
├── skills.py         # Skill discovery, loading, and execution
├── requirements.txt
├── .env              # Environment variables
└── README.md

Model Studio'ya geçiş için beş değişiklik gerekir:

Giriş dosyasının adı main.py değilse konsol "Dağıtılıyor" durumunu zaman aşımına kadar gösterir. Sağlık kontrolü uç noktası, Model Studio'nun uygulamanın başarıyla başlayıp başlamadığını belirleme yöntemidir. Uç noktaya ulaşılamazsa dağıtım başarısız kabul edilir.

@app.get("/health")
def health_check():
    return "OK"

Agent API protokolüne göre varsayılan /process uç noktasını uygulayın.

Çalışma zamanı Python >= 3.10 gerektirir:

pip install "agentscope-runtime[deployment]==1.0.0"

4,3 Kodda Model Çağrısındaki Değişiklikler

Mevcut model bağlantılarını bir Model Studio API anahtarı aracılığıyla platform modellerine yapılan çağrılarla değiştirin.

DASHSCOPE_API_KEY ortam değişkenini ayarlayın, ardından modelleri DashScope SDK veya OpenAI uyumlu protokolü kullanarak çağırın:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["DASHSCOPE_API_KEY"],
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)
resp = client.chat.completions.create(
    model="qwen-plus",
    messages=[{"role": "user", "content": "Hello"}],
)

Model Studio uygulama geliştirme şu anda yalnızca Çin (Pekin) bölgesini destekler. Model API çağrıları için Çin (Pekin) bölgesinin uç noktasını kullanın. Kendi kendine barındırılan model entegrasyonu için Bölüm 6.1'e bakın.

4,4 Kodda Bilgi Bankası Çağrısındaki Değişiklikler

Yüksek kodlu uygulamalar, alım gerçekleştirmek için doğrudan Bilgi Bankası Alım API'sini veya SDK'sını çağırabilir.

MCP hizmetlerini, uygulama bileşenlerini veya veri bağlayıcılarını çağırırken bunlara ilgili arayüzleri aracılığıyla bağlanın. Araç ekledikten veya kaldırdıktan sonra yeniden dağıtmanız gerekir. Ayrıntılar için bkz. .

4,5 Paketleme, Dağıtım ve Diğer Model Studio Hususları

Kod paketleri yalnızca .whl formatını destekler ve komut satırı aracılığıyla yüklenir:

# First deployment
runtime-fc-deploy --deploy-name <application_name> --whl-path <PATH_TO_WHL> --telemetry enable

# Update deployment
runtime-fc-deploy --update <HIGH_CODE_APP_ID> --whl-path <PATH_TO_WHL> --telemetry enable

Yüklemeden önce ALIBABA_CLOUD_ACCESS_KEY_ID, ALIBABA_CLOUD_ACCESS_KEY_SECRET ve isteğe bağlı çalışma alanı değişkenlerini yapılandırın. İlk dağıtım için yetkilendirme amacıyla konsol istemlerini izleyin.

Dağıtım kaynakları: İş yükünüze göre teknik özellikleri ve minimum örnek sayısını seçin. Fiyatlandırma için faturalama sayfasına bakın.

Uygulama gözlemlenebilirliği, kodunuza enstrümantasyon eklemenizi gerektirir:

from agentscope_runtime.engine.tracing import trace, TraceType

@trace(trace_type=TraceType.LLM, trace_name="llm_call")
def call_llm(...):
    ...

Dağıtım sırasında --telemetry enable seçeneğini etkinleştirerek çağrı verilerini Application Observability bölümünde görüntüleyin.

Ağ ve yayınlama: Kuruluşun dahili ağ kaynaklarına erişmek için yüksek kodlu uygulamalar için şu anda desteklenen yöntemlere göre ağ yapılandırmasını yapın. Alan adlarını ve kimlik doğrulamayı ağ geçidi aracılığıyla yapılandırın.

5,1 Yayınlama ve Çağrı

Bir iş akışı veya agent uygulaması yayınladıktan sonra API ayrıntılarını konsoldan alın:

curl -X POST https://dashscope.aliyuncs.com/api/v1/apps/{APP_ID}/completion \
  -H "Authorization: Bearer $DASHSCOPE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"input": {"prompt": "Hello"}, "parameters": {}}'

Akış çıkışı için X-DashScope-SSE: enable üst bilgisini kullanın. Çok turlu konuşmalar için API belgelerinde açıklandığı gibi session_id veya messages parametrelerini iletin.

Eşzamanlı çağrı zaman aşımları erişim alanına bağlıdır: varsayılan alanın 600 saniyelik bir zaman aşımı vardır, çalışma alanına özel bir alan ise 3.600 saniyeye kadar destekler. Daha uzun görevler için eşzamansız yürütmeye geçin veya görevi bölün.

Uygulamalar uygulama bileşenleri olarak da yayınlanabilir veya paylaşım kanallarına bağlanabilir. Destek kapsamı uygulama türüne ve resmi belgelere bağlıdır.

5,2 Hız Sınırlama ve Kotalar

Model Studio, RPM ve TPM kotalarını Alibaba Cloud hesabı başına ve model başına hesaplar. 429 yanıtı, hız sınırlandırmanın tetiklendiğini gösterir. Aynı Alibaba Cloud hesabı altındaki RAM kullanıcıları, çalışma alanları ve API anahtarları kotayı paylaşır.

Yüksek eşzamanlı iş yüklerini geçirmeden önce model kotalarınızı değerlendirin ve gerekirse kota artışları için başvurun. Ayrıntılar için bkz. Hız sınırlama.

5,3 Üretim Yönetimi ve Gözlemlenebilirlik

Application Observability, çağrı zincirlerini, girdileri ve çıktıları, gecikme süresini, belirteç tüketimini ve yürütme durumunu görüntülemenizi sağlar. Destek kapsamı ve veri saklama süresi konsol belgelerinde açıklanmıştır.

Model Monitoring, çağrı hacmi, hata oranı, hız sınırlama ve gecikme süresi gibi ölçümleri görüntülemenizi sağlar. Mevcut yeteneklere göre günlüğe kaydetme, uyarı veya izleme sistemleriyle entegre olabilirsiniz.

Sürüm yinelemesi: Sürümleri yerel kod deponuzda tutun. İş akışları anlık görüntüleri kaydetmek için içe ve dışa aktarılabilir. Yüksek kodlu uygulamalar --update kullanılarak yeni bir .whl paketiyle yeniden dağıtılır. Model Studio DSL, LangStudio flow.dag.yaml formatını doğrudan içe aktaramaz.

6,1 Connections (Model Erişimi)

Model Studio'da eşdeğer bir "connection" nesnesi yoktur. Her kaynak türü ilgili modülü tarafından yönetilir ve model çağrıları API anahtarları kullanır.

Model Studio platform modelleri ModelGallery'den seçilir ve DashScope veya OpenAI uyumlu protokol kullanılarak API anahtarları aracılığıyla çağrılır.

Müşteriye ait modeller üç yol üzerinden yönetilebilir:

Ayrıntılar için bkz. Model içe aktarma ve Model dağıtımı.

6,2 Bilgi Bankaları

Önemli ön koşul: Bilgi bankalarındaki vektör verileri doğrudan dışa aktarılamaz veya geçirilemez. Orijinal dosyalardan veya diğer kaynak verilerinden yeniden ayrıştırma, yeniden parçalama ve yeniden vektörleştirme yapmalısınız. Kaynak verilerinizin eksiksiz ve erişilebilir olduğundan emin olun.

Model Studio bilgi bankaları dört tür sağlar. Tür oluşturulduktan sonra değiştirilemez:

• Çok modlu veriler: Erişim yöntemini veri türüne göre seçin.

  • Görsel soru-cevap, yapılandırılmış verilerdeki genel image_url alanlarını kullanır. Ses ve video arama yerel depolamadan veya OSS'ten içe aktarılır.

  • Karmaşık düzenlere veya grafiklere sahip belgeler için Belge Arama'da görsel anlama senaryosunu seçin.

  • Ses ve video yerel depolamadan veya OSS'ten içe aktarılır ve ses/video ayrıştırıcıları tarafından işlenir.

• Ayrıştırma ve parçalama: Oluşturmadan önce bir ayrıştırıcı ve parçalama stratejisi seçin. Bunlar oluşturulduktan sonra değiştirilemez. Önce örnek verilerle alım doğruluğunu doğrulayın.

• Yerleştirme ve sıralama modelleri: Oluşturma sırasında yerleştirme ve yeniden sıralama modellerini seçin. Bunlar oluşturulduktan sonra değiştirilemez. Yerleştirme boyutu değişirse alım sonuçlarını yeniden doğrulayın.

• Sürümler: Fiyatlandırma ayrıntıları için resmi fiyatlandırma sayfasına bakın.

• İlişkilendirme ve alım sınırları: Bunlar uygulama türüne ve çağrı moduna bağlıdır. Geçişten önce mevcut sınırları doğrulayın.

• Geçiş adımları: Örnek verilerle doğrulama ve ince ayar -> üretim bilgi bankası oluşturma ve tüm verileri içe aktarma -> uygulamanıza ekleme -> sonuçları kıyaslama. Format desteklenmiyorsa önce kaynak dosyaları dönüştürün.

Ayrıntılar için bkz. Bilgi bankası.

6,3 Araçlar (Eklentiler)

Model Studio araçların yerine eklentiler kullanır: agentlar eklentileri otonom olarak seçebilir, iş akışları ise bunları bir Eklenti düğümü aracılığıyla deterministik olarak çağırır.

Resmi eklentiler arasında code_interpreter, calculator, text_to_image, quark_search, generate_qrcode, github_search ve daha fazlası bulunur. Bunlar bazı üçüncü taraf çağrıların yerine geçebilir.

Özel eklentiler konsolda arayüz ve kimlik doğrulama ayrıntılarıyla yapılandırılır. Tamamlandıktan sonra MCP hizmetleri olarak yayınlanabilirler. Ayrıntılı alan açıklamaları için konsola bakın.

Ayrıntılar için bkz. Eklentiye genel bakış ve Özel eklentiler.

6,4 MCP

Model Studio, bir MCP Gallery, bulutta barındırılan hizmetler ve bir iş akışı MCP düğümü ile platform düzeyinde bir özellik olarak MCP sağlar.

Özel MCP hizmetleri şu şekilde entegre edilebilir:

• Betik dağıtımı: Hizmetinize bağlanmak için type: stdio veya type: sse / streamableHttp kullanın.

• AI Gateway'den içe aktarma: Mevcut RESTful API'leri MCP araçları olarak sarmalayın.

• Alibaba Cloud OpenAPI'den içe aktarma: Bir BailianMcpRole* oluşturun ve gerekli izinleri verin.

MCP bağlama, araç ve yapılandırma sınırları, yetenekler güncellendiğinde değişebilir. Geçişten önce mevcut resmi belgeleri doğrulayın.

6,5 Diğer Ortak Modüller

Model Studio ayrıca LangStudio'da bağımsız bir karşılığı olmayan aşağıdaki platform yeteneklerini de sağlar. Geçiş sırasında bunları ihtiyaç duyduğunuzda tanıtın:

Bunların arasında geçişle en alakalı olanlar Beceriler ve Uygulama Değerlendirmesidir; ilki kodlama modu projelerinden beceri dizinini devralır, ikincisi ise geçiş öncesi ve sonrası çıktı tutarlılığını karşılaştırmak için değerlendirme setleri oluşturmanıza olanak tanır.

S: Python düğümlerim pandas gibi üçüncü taraf kitaplıklar kullanıyor. Model Studio'daki Betik düğümü bunları desteklemiyor. Ne yapmalıyım?

Üç seçenek: standart kitaplıklarla yeniden yazma; mantığı bir Function Compute düğümüne taşıma (tam bağımlılık ortamını destekler, sabit 60 saniyelik zaman aşımı ile); veya bağımsız bir hizmet olarak paketleyip bir API düğümü aracılığıyla çağırma. Ayrıntılar için bkz. 3.2.2 Python Geliştirmeden Betik Düğümüne.

S: Orijinal uygulamam bir kuruluş VPC'si içinde çalışıyor ve dahili ağ hizmetlerine erişiyor. Geçişten sonra bunu nasıl ele almalıyım?

Bir iş akışı API düğümünün kuruluşun dahili hizmetlerine erişmesi gerektiğinde hizmeti desteklenen bir yöntemle açığa çıkarmalı ve erişim kontrolünü yapılandırmalısınız. Yayınlanan hizmetlere kuruluş VPC'sinden erişim için özel ağ erişimi talimatlarını izleyin. Ayrıntılar için bkz. 3.2.4 HTTP İsteğinden API Düğümüne.

S: Geçişten sonra PAI-EAS'taki kendi kendine barındırılan modellerimi hala kullanabilir miyim?

Evet, ancak entegrasyon yöntemi değişir. Model Studio harici model uç noktalarını platform modelleri olarak kaydetmeyi desteklemez. Bir iş akışında modeli HTTP üzerinden çağırmak için bir API düğümü kullanın veya özel bir eklenti / MCP hizmeti olarak paketleyin. Model Qwen tabanlı bir LoRA ince ayar sonucuysa bunu Model Studio'ya da içe aktarabilirsiniz. Özel hesaplama kaynaklarına ihtiyacınız varsa Model Studio özel çıkarım hizmetine yeniden dağıtın. Ayrıntılar için bkz. 6.1 Connections (Model Erişimi).

S: Bilgi bankamdaki vektör verilerini doğrudan geçirebilir miyim?

Hayır, doğrudan geçiremezsiniz. Orijinal dosyalardan veya diğer kaynak verilerinden yeniden ayrıştırma ve yeniden vektörleştirme yapmalısınız. Kendi kendine barındırılan bir RAG çözümü seçerseniz ve zaten Elasticsearch / Milvus kullanıyorsanız vektör verileri kendi örneğinizde bulunur ve doğrudan yeniden kullanılabilir.

S: Seçilen alım modunun Top K limiti orijinal uygulamamın kullandığından daha düşük. Ne yapmalıyım?

Önce parçalamayı ve yeniden sıralamayı optimize edin, ardından bilgi bankalarını bölmeyi veya kendi kendine barındırılan bir RAG hizmeti oluşturmayı değerlendirin. Ayrıntılar için bkz. 7. Alternatif: Kendi Kendine Barındırılan Bir RAG Hizmeti Oluşturma.

S: Geçişten sonra kalitenin düşmediğini nasıl teyit ederim?

Model Studio'daki Uygulama Değerlendirme özelliğini kullanarak bir değerlendirme seti oluşturmanızı öneririz. Geçirilmiş uygulamanızı orijinal uygulamadan gelen gerçek istek örneklerine karşı çalıştırın ve çıktı tutarlılığı ile alım doğruluğunu karşılaştırın. Farklılık gösterme olasılığı en yüksek olan üç alana odaklanın: prompt sözdizimi yeniden yazma, bilgi bankası alım limiti değişiklikleri ve Betik düğümü yeniden yazma.

S: Model Studio kuruluş gereksinimlerimizi karşılamazsa başka seçenekler var mı?

Aşağıdaki üç Alibaba Cloud ürününü öneririz. İş gereksinimlerinize ve teknik yol haritanıza göre seçim yapın. Daha fazla sorunuz varsa hesap yöneticinizle görüşün.

1. Function Compute AgentRun

   Yüksek kod temelli üzerine inşa edilmiş tek duraklı bir Agentic AI altyapı platformu. Sunucusuz mimariye dayalı olarak milisaniye düzeyinde esneklik, kurumsal düzeyde güvenlik kum havuzları, birleşik model ve araç yönetişimi ile uçtan uca gözlemlenebilirlik sağlar. Kurumsal Agent uygulamalarının geliştirme ve dağıtımdan operasyonlara kadar tüm yaşam döngüsünü kapsar.

2. AgentCore - Agent Oluşturma ve Yönetişim Platformu

   Tüm agent yaşam döngüsü boyunca kurumsal agentların birleşik oluşturma ve yönetişimi. Birden çok oluşturma modunu, birleşik kimlik doğrulamayı ve ekip işbirliği orkestrasyonunu destekler. Kendi geliştirdiğiniz, açık kaynaklı harness ve ticari SaaS agentları tek bir platformda yönetir.

3. AgentLoop - Agent Gözlemlenebilirliği ve Optimizasyonu

   Kurumsal agentlar için tek duraklı bir kendi kendine evrim platformu. Beş temel yeteneği kapsar: gözlemlenebilirlik, değerlendirme, ince ayar, bellek ve denetim. Odak noktası agent uygulamalarının sürekli optimizasyonu olan bir agent evrimi çarkı oluşturmanıza yardımcı olur.