モデルの概要
2024年12月1日、DeepSeek は、優れた推論能力を持つ 2 つの新しいモデル、DeepSeek-V3.2 と DeepSeek-V3.2-Speciale をオープンソース化しました。
この 2 つのモデルは、異なるユースケースを対象としています。DeepSeek-V3.2 は、推論能力と出力長のバランスを取ることを目的としており、質問応答や一般的なエージェントタスクなどの一般的なユースケースに適しています。これは、9月末にリリースされた実験的な V3.2-Exp バージョンに続く公式リリースです。公開されている推論ベンチマークでは、V3.2 は GPT-5 に匹敵するパフォーマンスを達成しており、Google の Gemini3 Pro をわずかに下回ります。
DeepSeek-V3.2-Speciale の目標は、「オープンソースモデルの推論能力を極限まで高め、モデル能力の限界を探る」ことです。Speciale は V3.2 の強化版であり、長時間思考能力と DeepSeek-Math-V2 の定理証明能力を兼ね備えています。このモデルは、優れた指示追従能力、厳密な数学的証明、論理的検証能力を特徴としています。DeepSeek が公開したデータによると、Speciale はいくつかの推論ベンチマークで Google の最先端モデルである Gemini3 Pro を上回っています。
6710億のパラメータを持つ DeepSeek-V3.2 モデルをローカル環境でデプロイすることは困難です。このため、エンタープライズユーザーや開発者にとっては、クラウドデプロイメントが推奨されます。
Alibaba Cloud の PAI-モデルギャラリーは、DeepSeek-V3.2 および DeepSeek-V3.2-Speciale モデルをサポートし、エンタープライズグレードのデプロイメントソリューションを提供します。
手順
-
まず、PAI-モデルギャラリーで DeepSeek-V3.2 モデルを見つけます。このモデルは DeepSeek-V3.2 モデルページ で直接開くことができます。Platform for AI (PAI) コンソールで、[Model Gallery] ページに移動し、[Model Gallery] タブを選択します。DeepSeek-V3.2 や DeepSeek-V3.2-Speciale などのターゲットモデルを見つけ、そのカードをクリックしてモデル詳細ページに移動します。
-
モデル詳細ページで、右上隅にある [Deploy] をクリックします。このプラットフォームは、SGLang と vLLM のデプロイメントフレームワークをサポートしています。プラットフォームは、デフォルト設定の複数のデプロイメントテンプレートを提供します。ワンクリックでモデルをデプロイするには、テンプレートと目的のコンピューティングリソースを選択します。
説明デプロイメントのリソース要件は次のとおりです：
-
パブリックリソースを使用したデプロイメント
パブリックリソースを使用する場合、リストされている仕様に制限されます。Lingjun 分散デプロイメントでは、サービスは同じリソースを使用して複数のノードをデプロイします。 -
EAS リソースグループまたはリソースクォータを使用したデプロイメント
スタンドアロンデプロイメントでは、8 つの GPU を備えたコンピューティングリソースが必要で、各 GPU は 141 GB の GPU メモリを提供します。Lingjun 分散デプロイメントの場合、必要なノード数は事前設定されており、各ノードに 8 つの GPU を設定する必要があります。
[Inference Engine] を [SGLang] に、[Deployment Template] を [standalone] に設定します。[Enable Dynamic Scheduling] は無効のままにし、[Enable PD Caching] を [Do not enable] に設定します。リソースコストを確認したら、[Deploy] をクリックします。
-
-
デプロイが成功したら、サービスページに移動し、[View Invocation Information] をクリックしてサービスエンドポイントとトークンを取得します。サービス呼び出しの手順については、事前学習済みモデルのリンクをクリックしてモデル詳細ページに戻ります。
-
ローカル環境や他のクライアントからモデルサービスを呼び出すか、PAI が提供するオンラインデバッグ機能を使用するか、PAI が提供する Web UI を介してモデルと対話できます。詳細については、「モデルの呼び出し」をご参照ください。
より多くのモデルのサポート
PAI-モデルギャラリーを使用すると、オープンソースコミュニティの一般的なモデルの迅速なデプロイ、ファインチューニング、知識蒸留、評価が可能になります。サポートされているモデルには、Qwen、Wan、DeepSeek、Kimi、MiniMax、GLM などの一般的なオープンソースモデルが含まれます。また、Qwen3-235B-A22B-PAI-optimized、Qwen3-Next-80B-A3B-Instruct-FP8-PAI-optimized、DeepSeek-R1-0528-PAI-optimized などの PAI 最適化版モデルも提供しています。これらのバージョンには、パフォーマンス向上のために、PAI 最適化版 EP+PD Caching デプロイメントテンプレートなどの組み込みテンプレートが付属しています。