Platform For AI:Qwen2.5-Coder のトレーニング、評価、圧縮、デプロイ

モデルの概要

Qwen2.5-Coder は、最大 128K トークンのコンテキスト長をサポートし、92 のプログラミング言語に対応する、強力なコード中心のモデルシリーズです。これらのモデルは、多言語コード生成、コード補完、コード修復など、さまざまなコード関連タスクに優れています。インストラクションチューニング済みバリアントである Qwen2.5-Coder-Instruct は、ベースモデルを基に構築されており、これらのタスクでのパフォーマンスが向上し、優れた汎化能力を備えています。

主な特長は以下のとおりです：

• 多言語プログラミング能力：Qwen2.5-Coder-Instruct は、ニッチなプログラミング言語を含む 40 以上の言語をカバーする McEval ベンチマークで優れた性能を発揮します。

• コード推論能力：このモデルは、CRUXEval ベンチマークで優れた結果を示し、強力なコード推論能力を示しています。この強化された推論能力は、複雑な指示に従うタスクでのパフォーマンス向上にも関連しています。

• 数学的能力：コーディングの基礎となる分野である数学は、このモデルが優れた性能を発揮するもう 1 つの領域であり、STEM 分野における包括的な能力を示しています。

• 一般的な能力：Qwen2.5-Coder-Instruct は、Qwen2.5 ベースモデルの強力な一般的能力を継承しており、幅広いタスクにわたる安定性と広範な適用性を備えています。

環境要件

モデルのデプロイと呼び出し

from openai import OpenAI
# 1. クライアントを構成します。
# <EAS_TOKEN> を [Invocation Information] パネルの Token に置き換えます。
openai_api_key = "<EAS_TOKEN>"
# <EAS_ENDPOINT> を [Invocation Information] パネルの Public Endpoint に置き換えます。
openai_api_base = "<EAS_ENDPOINT>/v1"
client = OpenAI(
    api_key=openai_api_key,
    base_url=openai_api_base,
)
# 2. モデル名を取得します。
# BladeLLM の場合、model = "" を設定します。BladeLLM はモデルパラメーターを必要とせず、client.models.list() を使用してモデル名を取得することもサポートしていません。OpenAI SDK の必須パラメーター要件に準拠するため、空の文字列に設定します。
models = client.models.list()
model = models.data[0].id
print(model)
# 3. チャット補完リクエストを開始します。
# ストリーミング出力 (stream=True) と非ストリーミング出力 (stream=False) の両方に対応しています。
stream = True
chat_completion = client.chat.completions.create(
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "hello"},          
    ],
    model=model,
    top_p=0.8,
    temperature=0.7,
    max_tokens=1024,
    stream=stream,
)
if stream:
    for chunk in chat_completion:
        print(chunk.choices[0].delta.content, end="")
else:
    result = chat_completion.choices[0].message.content
    print(result)

モデルファインチューニング

モデルギャラリーは、Qwen2.5-Coder-32B-Instruct モデル向けに、すぐに使用できる 2 つのファインチューニングアルゴリズムを提供しています：教師ありファインチューニング (SFT) と Direct Preference Optimization (DPO)。

[
  {
    "instruction": "Create a function to calculate the sum of a sequence of integers.",
    "output": "# Python code\ndef sum_sequence(sequence):\n  sum = 0\n  for num in sequence:\n    sum += num\n  return sum"
  },
  {
    "instruction": "Generate a Python code for crawling a website for a specific type of data.",
    "output": "import requests\nimport re\n\ndef crawl_website_for_phone_numbers(website):\n    response = requests.get(website)\n    phone_numbers = re.findall('\\d{3}-\\d{3}-\\d{4}', response.text)\n    return phone_numbers\n    \nif __name__ == '__main__':\n    print(crawl_website_for_phone_numbers('www.example.com'))"
  }
]

[
  {
    "prompt": "Create a function to calculate the sum of a sequence of integers.",
    "chosen": "# Python code\ndef sum_sequence(sequence):\n  sum = 0\n  for num in sequence:\n    sum += num\n  return sum",
    "rejected": "[x*x for x in [1, 2, 3, 5, 8, 13]]"
  },
  {
    "prompt": "Generate a Python code for crawling a website for a specific type of data.",
    "chosen": "import requests\nimport re\n\ndef crawl_website_for_phone_numbers(website):\n    response = requests.get(website)\n    phone_numbers = re.findall('\\d{3}-\\d{3}-\\d{4}', response.text)\n    return phone_numbers\n    \nif __name__ == '__main__':\n    print(crawl_website_for_phone_numbers('www.example.com'))",
    "rejected": "def remove_duplicates(string): \n    result = \"\" \n    prev = '' \n\n    for char in string:\n        if char != prev: \n            result += char\n            prev = char\n    return result\n\nresult = remove_duplicates(\"AAABBCCCD\")\nprint(result)"
  }
]

1. モデルギャラリーページで、[Qwen2.5-Coder-32B-Instruct] モデルカードをクリックして、モデルの詳細ページに移動します。

2. モデルの詳細ページで、右上隅の トレーニング をクリックします。以下のパラメーターを設定します。

   • データセットの設定：データを準備した後、Object Storage Service (OSS) バケットにアップロードするか、データセットオブジェクトを指定して NAS または CPFS 上のデータセットを選択します。PAI が提供するパブリックデータセットを使用して、ジョブを送信し、アルゴリズムをテストすることもできます。

   • コンピューティングリソースの設定：このアルゴリズムには、80 GB 以上の VRAM を搭載した GPU が必要です。選択したリソースクォータ内に十分なコンピューティングリソースがあることを確認してください。他のモデルサイズに必要なリソース仕様については、「環境要件」をご参照ください。

   • ハイパーパラメーターの設定：次の表に、トレーニングのハイパーパラメーターを示します。これらの値を調整するか、デフォルトを使用できます。

     ハイパーパラメーターの設定

     ハイパーパラメーター	タイプ	デフォルト	必須	説明
     training_strategy	String	sft	はい	トレーニングアルゴリズム。有効な値：SFT および DPO。
     learning_rate	Float	5e-5	はい	学習率。モデルの重み調整の大きさを制御します。
     num_train_epochs	Integer	1	はい	トレーニングエポック数。
     per_device_train_batch_size	Integer	1	はい	トレーニングイテレーションごとに各 GPU が処理するサンプル数。バッチサイズを大きくすると効率が向上しますが、VRAM 要件も増加します。
     seq_length	Integer	128	はい	モデル入力の最大シーケンス長 (トークン単位) 。
     lora_dim	Integer	32	いいえ	LoRA 次元。lora_dim > 0 の場合、軽量 LoRA または QLoRA トレーニングが使用されます。
     lora_alpha	Integer	32	いいえ	LoRA の重み。このパラメーターは、lora_dim > 0 の場合 (LoRA または QLoRA トレーニングが使用される場合) に有効になります。
     dpo_beta	Float	0.1	いいえ	トレーニング中のモデルの選好情報への依存度を制御します。
     load_in_4bit	Boolean	false	いいえ	モデルを 4 ビット精度でロードするかどうかを指定します。 lora_dim > 0、load_in_4bit が true、load_in_8bit が false の場合、軽量 4 ビット QLoRA トレーニングが有効になります。
     load_in_8bit	Boolean	false	いいえ	モデルを 8 ビット精度でロードするかどうかを指定します。 lora_dim > 0、load_in_4bit が false、load_in_8bit が true の場合、軽量 8 ビット QLoRA トレーニングが有効になります。
     gradient_accumulation_steps	Integer	8	いいえ	勾配蓄積のステップ数。
     apply_chat_template	Boolean	true	いいえ	モデルのデフォルトのチャットテンプレートをトレーニングデータに適用するかどうかを指定します。Qwen2 シリーズモデルの場合、形式は次のとおりです： 質問：<|im_start|>user\n + instruction + <|im_end|>\n 回答：<|im_start|>assistant\n + output + <|im_end|>\n
     system_prompt	String	You are a helpful assistant	いいえ	モデルトレーニングに使用されるシステムプロンプト。

3. トレーニング をクリックします。ジョブの詳細ページに自動的にリダイレクトされ、そこでトレーニングステータスを監視し、ログを表示できます。

トレーニング済みモデルは、AI Asset - Model Management に自動的に登録され、モデルを表示またはデプロイできます。詳細については、「モデルの登録と管理」をご参照ください。

モデル評価

PAI は、Qwen2.5-Coder-32B-Instruct モデル向けに組み込み評価アルゴリズムを提供しています。このアルゴリズムを使用して、元のモデルとファインチューニング済みバージョンのパフォーマンスを評価できます。詳細については、「モデル評価」および「大規模言語モデル評価のベストプラクティス」をご参照ください。

モデル圧縮

トレーニング後、デプロイ前にモデルを量子化 (圧縮) して、ストレージ要件と計算要件を削減できます。詳細については、「モデル圧縮」をご参照ください。

関連ドキュメント

• Qwen2.5-Coder モデルの紹介

• クイックスタートの課金