Platform For AI：配置動態參數

功能介紹

動態參數是EAS提供的運行時配置能力，允許您在服務運行過程中即時修改參數配置，無需重啟服務即可生效。

與環境變數的區別：

• 環境變數：在服務啟動時注入，修改後需要重啟服務才會生效。

• 動態參數：運行時可修改，修改後立即生效，無需重啟服務。

核心優勢：

• 配置即時生效，快速同步到所有容器執行個體。

• 不影響服務運行，避免因重啟導致的服務中斷。

• 適合頻繁調整的配置項，如限流閾值、模型參數等。

使用情境

動態參數適用於以下情境：

• 動態調整限流配置：根據業務流量即時調整rate_limit等限流參數。

• 即時修改模型推理參數：調整temperature、top_p、max_tokens等模型參數。

• 調整記錄層級：在排查問題時臨時調整日誌輸出層級。

• 灰階發布開關控制：通過動態參數控制新功能的開關狀態。

• A/B測試組態：快速切換不同的配置策略進行效果對比。

前提條件

使用動態參數功能前，需要在服務配置中開啟動態配置開關。在服務配置 JSON 的頂層添加 features 欄位：

{
  "name": "your-service-name",
  ...其他配置,
  "features": {
    "eas.aliyun.com/enable-properties": "true"
  }
}

操作步驟

使用樣本

以下樣本展示如何配置限流參數，以及在應用代碼中讀取動態參數。

配置限流參數：

{
  "properties": {
    "rate_limit": 100,
    "max_concurrent_requests": 50,
    "timeout_seconds": 30
  }
}

在應用中讀取動態參數（Python）：

import json

# 讀取動態參數
def load_properties():
    try:
        with open('/eas/workspace/properties/service.json', 'r') as f:
            properties = json.load(f)
        return properties
    except Exception as e:
        print(f"Failed to load properties: {e}")
        return {}

# 使用動態參數
properties = load_properties()
rate_limit = properties.get('rate_limit', 100)
max_concurrent = properties.get('max_concurrent_requests', 50)

print(f"Rate limit: {rate_limit}")
print(f"Max concurrent requests: {max_concurrent}")

常見問題