Bu konu, AgentLoop'a yeni başlayan agent geliştiricileri ve AI platform ekipleri için hazırlanmıştır. Aşağıdaki sırayla eksiksiz bir uygulamalı iş akışı üzerinden sizi adım adım yönlendirir: bir agent alanı oluşturma, gözlemlenebilirlik verilerini içe aktarma, değerlendiriciler oluşturma, değerlendirme görevleri tanımlama, veri kümelerini içe aktarma ve açıklama ekleme, agent varlıklarını yönetme ve bir bellek deposu kullanma. Bu iş akışı, AgentLoop kendi kendini geliştiren döngüyü kurar. Tüm adımları tamamladıktan sonra bu iş akışını üretim ortamlarında yeniden kullanabilirsiniz.
Ön koşullar
İlerlemeden önce aşağıdaki hazırlıkları tamamlayın.
Bir Alibaba Cloud hesabı kaydedilmiş ve gerçek ad doğrulaması yapılmıştır.
CloudMonitor (CMS 2.0), Simple Log Service (SLS), Microservices Engine (MSE) AI Governance Center ve AgentLoop etkinleştirilmiştir.
Geçerli RAM kullanıcısına
AliyunAgentLoopFullAccesssistem ilkesi atanmıştır.SDK veya OpenAPI kimlik doğrulaması için RAM kullanıcısı adına bir AccessKey çifti oluşturulmuştur.
1. Adım: Bir agent alanı oluşturun
Bir agent alanı (AgentSpace), AgentLoop kaynak yönetimi için temel birimdir. Her AgentSpace, bir CloudMonitor (CMS 2.0) çalışma alanı, bir MSE AI Governance Center ad alanı ve bir SLS projesi ile bire bir eşleşir.
Yordam
AgentLoop konsolu üzerinde oturum açın.
Konsol ana sayfasındaki Agent Spaces listesinde sağ üst köşede Create Space tıklayın.
-
Create Agent Space iletişim kutusunda aşağıdaki parametreleri belirtin.
Parametre
Açıklama
Bölge
cn-hangzhou, cn-shanghai veya cn-hongkong seçin. Bölge, alan oluşturulduktan sonra değiştirilemez.
Agent Alanı (AgentSpace)
Alan adı. Ad 3 ila 63 karakter uzunluğunda olmalı ve küçük harfler, rakamlar, tire (
-) ve alt çizgi (_) içerebilir. Ad, tüm kullanıcılar arasında genel olarak benzersiz olmalıdır. Ad, alan oluşturulduktan sonra değiştirilemez.Açıklama
Alan amacına ilişkin kısa bir açıklama (isteğe bağlı).
CMS 2.0 Çalışma Alanı
Otomatik oluştur: Sistem,
agentloop-<32-karakterli kod>adlı yeni bir çalışma alanı oluşturur.Mevcut olanı seç: Hesabınız altında aynı bölgede bulunan mevcut bir CMS 2.0 çalışma alanını listeden seçerek yeniden kullanın; bu sayede izlemeyi mevcut uygulama izlemenizle birleştirebilirsiniz.
Bağlantı, alan oluşturulduktan sonra değiştirilemez.
MSE Ad Alanı
Sistem, Prompt'lar ve Skills gibi agent varlıklarını barındırmak üzere
agentloop-<32-karakterli kod>adlı bir ad alanını otomatik olarak oluşturur.SLS Projesi
Sistem, denetim ve değerlendirme günlüklerini barındırmak üzere
agentloop-<32-karakterli kod>adlı bir projeyi otomatik olarak oluşturur. Create Space tıklayın. Sistem, AgentLoop kaynaklarını ve ilişkili cloud hizmet kaynaklarını otomatik olarak oluşturur ve bağlantı ilişkilerini kurar. Bir adım başarısız olursa, oluşturulan kaynaklar geri alınmaz. Oluşturulmayan kaynakları alan yönetimi sayfasından yeniden oluşturabilirsiniz.
Doğrulama
System Management > Space Management şuraya gidin. Basic Information ve Resource Bindings bölümlerinde AgentSpace adının, bölgenin, ilişkili CMS 2.0 çalışma alanının, MSE ad alanının ve SLS projesinin hazır olduğunu doğrulayın.
2. Adım: Gözlemlenebilirlik verilerini içe aktarın
Gözlemlenebilirlik verileri, AgentLoop'un gelişim veri döngüsünü oluşturması için kilit bir ön koşuldur. Bu bölümde, konsolda Agent Trace çıkarım yollarını görüntülemek için ARMS otomatik enstrümantasyonunu örnek olarak kullanacağız.
1. Bir içe aktarma yöntemi seçin
Integration Center şuraya gidin ve agent teknoloji yığınına göre bir içe aktarma yöntemi seçin.
|
|
|
|
|
|
|
|
|
AgentTeams ve AgentRun, gözlemlenebilirlik verilerini varsayılan olarak CMS 2.0 aracılığıyla içe aktarır. Integration Center içinde bir içe aktarma yöntemi seçmenize gerek yoktur ve bir ARMS ajanı yüklemeniz gerekmez. 1. Adımda bir AgentSpace oluştururken bağladığınız CMS 2.0 çalışma alanı entegrasyonu tamamlar. Verileri görüntülemek için doğrudan bu adımdaki 3. Entegrasyonu doğrulayın bölümüne geçebilirsiniz.
2. SDK entegrasyonunu tamamlayın
Aşağıdaki örnek bir LangChain/LangGraph uygulamasını kullanır:
# Install the Alibaba Cloud agent
pip install aliyun-bootstrap
aliyun-bootstrap -a install
# Configure environment variables
export ARMS_APP_NAME=my-agent-app
export ARMS_REGION_ID=cn-hangzhou
export ARMS_LICENSE_KEY=<Obtain from the Integration Center>
export ARMS_WORKSPACE=<CMS 2.0 workspace name associated with the AgentSpace>
# Start the application with the agent
aliyun-instrument python app.py
İş kodunuzda herhangi bir değişiklik yapmanız gerekmez. Ajan, LLM çağrıları, araç çağrıları, Retrievers, LangGraph düğümleri ve daha fazlası için iz verilerini otomatik olarak toplar.
3. Entegrasyonu doğrulayın
AI Agent Observability şuraya gidin ve Tracing sekmesinde aşağıdakileri kontrol edin:
İz sayısı, ortalama gecikme süresi ve token sayısı için çizgi grafikler, içe aktarılan trafikle birlikte artar.
Trace List, en son iz kayıtlarını gösterir. Çağrı zinciri ayrıntılarını görüntülemek için bir Trace ID tıklayın; burada her bir span için model giriş ve çıkışlarını, araç parametrelerini, gecikme süresini ve token tüketimini görebilirsiniz.
4. Agent Genel Bakış'ta temel ölçümleri görüntüleyin
Agent Overview şuraya gidin. Agent Insights sayfasında oturumlar, konuşmalar, kullanıcılar, token kullanımı ve ortalama gecikme süresi gibi temel ölçümleri görüntüleyebilirsiniz. Ayrıca Trend Charts ve Agent List içinde agent boyutuna göre her bir agent için temel ölçümleri görebilirsiniz.
3. Adım: Değerlendiriciler oluşturun
Değerlendiriciler, agent etkinliğini ölçmek için temeldir. AgentLoop, Agent-as-a-Judge değerlendirme paradigmasını destekler ve iki tür değerlendirici sağlar: yerleşik değerlendiriciler ve özel değerlendiriciler. Değerlendirme Prompt'larını ve Skills'lerini esnek bir şekilde genişletebilirsiniz.
1. Yerleşik değerlendiricileri kullanın
Evaluation > Evaluators şuraya gidin. Sol panelde kategorilere göre gruplandırılmış yerleşik değerlendiriciler listelenir:
|
|
|
|
|
|
Ayrıntılar sayfasına gitmek için bir değerlendirici adına tıklayın. Prompt & Capabilities sekmesinde, değerlendiricinin Prompt'unu ve yetenek bağlamalarını (Skills ve MCP gibi) görüntüleyin. Yerleşik değerlendiriciler kullanıma hazırdır ve ek yapılandırma gerektirmez.
2. Özel bir değerlendirici oluşturun
İşe özel değerlendirme senaryoları için (örneğin karmaşık görev planlama mantıklılığı veya çok turlu konuşma tutarlılığı), hassas değerlendirme amacıyla özel değerlendiriciler oluşturabilirsiniz.
Değerlendirici listesi sayfasının sağ üst köşesinde Create Evaluator tıklayın.
Ad, açıklama ve etiketler gibi değerlendiricinin temel bilgilerini girin.
-
Prompt yapılandırın: Değerlendirme hedeflerini, boyutlarını ve puanlama kriterlerini tanımlayan değerlendirme talimatlarını yazın. Örneğin, bir Skills bütünlüğü değerlendiricisi:
You are a rigorous and strict AI Agent evaluation expert. For the AgentTrace to be evaluated (i.e., the complete execution trajectory of an Agent), score it on the following dimensions (0–1) 1. Accuracy of task understanding 2. Rationality of tool invocation 3. Correctness of multi-step reasoning 4. Completeness of final output Çıkarılan Değişkenler görüntüleyin: Örneğin,
input,output,agent_trajectory,tool_contextverag_context. Bu değişkenler, değerlendirme görevi çalıştırıldığında ilgili eşleme alanlarına otomatik olarak bağlanır.Yetenek Uzantıları yapılandırın (isteğe bağlı): Değerlendirici ajana Skills veya MCP bağlayın; böylece değerlendirme sırasında dışsal getirme, kural doğrulama, bilgi tabanı sorguları ve diğer yetenekleri çağırabilir. Bu, Agent-as-a-Judge değerlendirme paradigmasını etkinleştirir.
Çıktı tanımını görüntüleyin ve değerlendirme süreci izlemeyi etkinleştirmek isteyip istemediğinizi onaylayın.
Sağ üst köşede Save tıklayın.
4. Adım: Değerlendirme görevleri oluşturun ve sonuçları yorumlayın
Değerlendirme görevleri, değerlendiricileri hedef verilere toplu olarak uygulamak ve analiz edilebilir kalite ölçümleri üretmek için kullanılır.
Bir değerlendirme görevi oluşturun
Evaluation > Evaluation Tasks şuraya gidin ve sağ üst köşede Create Task tıklayın. İki adımlı sihirbazı izleyin: Veri Yapılandırması → Değerlendiricileri Seçin.
-
Aşağıdaki tabloya başvurarak veri ayarlarını yapılandırın:
Parametre
Açıklama
Görev Adı
Değerlendirme görevi için iş tanımlayıcısı.
Görev Açıklaması
Amaç hakkında kısa bir açıklama (isteğe bağlı).
Veri Kaynağı
Aşağıdakilerden birini seçin: İzler, Günlükler veya Veri Kümeleri.
Agent
Hedef agent uygulamasını seçin, örneğinai-coding-agent-claude-code.
Yürütme İlkesiYeni verilerde sürekli değerlendirme: Yeni bildirilen verileri gerçek zamanlı olarak puanlar.
Geçmiş verilerde değerlendirme: Belirtilen bir zaman penceresindeki geçmiş veriler üzerinde geriye dönük test gerçekleştirir.
Zaman Aralığı
Geçmiş veri değerlendirmesi için zaman aralığı (örneğin, son 24 saat).
Örnekleme Oranı
Değerlendirme verisi örnekleme oranını (%1–%100) kontrol eder. Görev çalıştırmasında değerlendirilen öğe sayısını kontrol etmek için bu parametreyi Maksimum Değerlendirme Sayısı ile birlikte kullanın. -
Değerlendiricileri seçin:
Sol panelden yerleşik veya özel değerlendiricileri seçin. Paralel çalıştırmak için birden çok değerlendirici seçebilirsiniz.
Sağ taraftaki Configuration bölümünde, değerlendiricinin gerektirdiği değişken eşleme alanlarını bağlayın. Yaygın eşlemeler arasında
input ← trace.input,output ← trace.outputveagent_trajectory ← trace.agent_trajectorybulunur.Yapılandırma tamamlandıktan sonra, görevi kaydetmek ve yürütmeyi hemen tetiklemek için Update and Run tıklayın veya hata ayıklama için Test Run tıklayın.
Değerlendirme sonuçlarını yorumlayın
Görev çalıştırıldıktan sonra, Evaluation Task Details sayfasında değerlendirme sonucu ayrıntılarını ve dağılımını görüntüleyin.
5. Adım: Veri kümelerini içe aktarın ve açıklamalar ekleyin
Veri kümeleri, değerlendirme, deney yapma ve ince ayar için temeldir. AgentLoop, veri kümeleri oluşturmak için üç yöntemi destekleyen Data Center modülünü sağlar: İzlerden içe aktarma, CSV dosyaları yükleme ve manuel düzenleme.
1. İz verilerini içe aktarın
Data Center > Datasets şuraya gidin ve Create Dataset tıklayın:
Veri kümesi adını ve açıklamasını girin.
Veri kaynağı olarak Process from Trace Data seçin.
Veri filtreleme bölümünde açılır listeden bir Agent Uygulaması seçin.
Veri işleme bölümünde istenen işleme şablonunu seçin, örneğin ot_trace_qa_extract (Trace QA çifti çıkarma) ve zaman aralığını belirtin.
Veri önizleme bölümünde, önizleme verilerini görüntülemek için sağdaki Generate Preview tıklayın.
Verileri onayladıktan sonra, sağ alt köşede Create Dataset tıklayın. Sistem, arka planda veri kümesini oluşturur ve verileri işlemek ve içe aktarmak için ilişkili işlem hattı görevini çalıştırır.
2. Manuel açıklama ekleme
Veri kümesi ayrıntıları sayfasına gidin, Annotation sekmesine tıklayın ve ardından Create Annotation Template tıklayın:
Soldaki Veri Açıklama Arayüzü ve Açıklama Kontrolleri yapılandırın. Sonucu sağ tarafta önizleyebilirsiniz.
Yapılandırma tamamlandıktan sonra, öğeleri tek tek açıklamak için sağ üst köşede Start Annotation tıklayın. Öğeleri atlayabilirsiniz.
Açıklama sonuçlarını veri kümesinin agentloop_annotations alanında görüntüleyebilirsiniz.
3. Golden Sets ve BadCase Sets oluşturun
Değerlendirme sonuçlarına ve manuel açıklama incelemelerine dayanarak veri kümelerini aşağıdaki türlere ayırabilirsiniz:
|
|
|
|
|
|
|
|
|
|
|
|
6. Adım: Agent varlıklarını yönetin
Agent varlıkları, agent'ın davranış mantığını oluşturan Prompt'ları ve Skills'leri ifade eder. AgentLoop, merkezi yönetim, sürüm kontrolü ve işbirlikçi yineleme yetenekleri sağlar.
1. Bir Prompt varlığı oluşturun
Agent Assets > Prompts şuraya gidin ve Create Prompt tıklayın:
Temel bilgileri girin: ad (örneğin,
my-prompt) ve açıklama.Prompt düzenleyicisinde Prompt içeriğini yazın ve değişkenleri bildirmek için
{{input}}gibi yer tutucular kullanın.Save Draft veya Publish Version tıklayın. Her yayımlanan düzenleme, sürüm numarasını otomatik olarak artırır (v0.0.1, v0.0.2, v0.0.3 vb.).
2. Sürüm yönetimi
Varlık ayrıntıları sayfasının sağ tarafındaki Version Information bölümü sürüm geçmişini gösterir:
Her sürüm, sürüm numarasını, göndereni, değişiklik açıklamasını ve zaman damgasını gösterir.
Geçerli sürüm ile hedef sürüm arasındaki farkları karşılaştırmak için Compare Versions tıklayın.
Bu varlığa bir agent içinde referans vermek için istemci entegrasyon yöntemini görüntülemek üzere Usage Guide tıklayın.
3. Canary sürümü ve işbirliği
Agent varlıkları, trafik bölme için MSE AI Governance Center ile birlikte kullanılabilir. Birden fazla kişi varlıkları düzenlediğinde, sürüm kilitlemeleri ve commit mesajları çakışmaları önlemeye yardımcı olur. Skills varlık yönetimi iş akışı, Prompt'larla benzerdir.
7. Adım: Bir bellek deposu oluşturun ve kullanın
Bir bellek deposu, agent'ların sonraki etkileşimlerde almak üzere kullanıcı tercihlerini, gerçekleri ve yeniden kullanılabilir bağlamı kaydeder.
Context Engineering > Memory Store şuraya gidin, Create Memory Store tıklayın ve bir ad ile isteğe bağlı bir açıklama girin. Bu örnekte Manual Write seçin. Zaten yollarınız veya veri kümeleriniz varsa, Agent Trajectories veya Dataset de seçebilirsiniz.
Sihirbazı şu sırayla tamamlayın: Veri Kaynağı → Filtre / Şema → İlke → Önizleme ve Onay. Bu örnekte kaynak filtreleme gerekli değildir. Fact Extraction ve Merge and Update seçin, yapılandırmayı kontrol edin ve ardından bellek deposunu oluşturun.
Bellek deposunun API Key sekmesine gidin ve bir kimlik bilgisi oluşturun. Ardından, Integration sekmesine gidin, HTTP API veya Python SDK örneğini izleyerek uç noktayı yapılandırın ve örnek bir konuşma yazın.
Giriş eşzamansız olarak işlendikten sonra, Long-term Memory Retrieval şuraya gidin, bir sorgu ifadesi ve yazma için kullanılan aynı User ID girin, topK ayarlayın ve Start Retrieval tıklayın.
Dönen ilgili anıları agent'ın geçerli isteğine ekleyin. Verilerin nasıl işlendiğini kontrol etmek için Audit Details ve Statistical Reports görüntüleyin. İlkelerde yapılan örnek önizlemeler resmi anılara yazılmaz.
Tam adımlar ve bir HTTP yazma örneği için bkz. Bellek deposu kullanma.
8. Adım: Uçtan uca doğrulama
Önceki adımları tamamladıktan sonra, genel kullanılabilirliği doğrulamak için uçtan uca kapalı bir döngü çalıştırmanızı öneririz:
Çevrimiçi agent trafiğini tetikleyin ve izlerin AI Agent Observability içinde sürekli olarak bildirildiğini doğrulayın.
Günün değerlendirme görevi tarafından üretilen kalite puanlarını kontrol edin ve bir ila iki düşük puanlı bad case belirleyin.
Bad case'leri bir veri kümesine ekleyin ve beklenen çıktıyı manuel olarak açıklayın.
Agent Assets içinde Prompt sürümünü yineleyin ve bad case'lere dayalı olarak talimatları optimize edin.
Değerlendirme görevini yeniden çalıştırın ve eski ile yeni sürümler arasındaki puan değişikliklerini karşılaştırın.
Kararlı kullanıcı profillerini ve tercihleri, bir sonraki etkileşim turu için bağlam olarak bellek deposuna kalıcı hale getirin.
Bu kapalı döngüyü tamamlamak, agent kendi kendini geliştiren döngüsünü kurar: Gözlemlenebilirlik → Değerlendirme → Veri Varlıklaştırma → Varlık Optimizasyonu → Bağlam Geliştirme.