Fine-tune DeepSeek-R1 distill models | PAI Model Gallery - Platform For AI

Desteklenen modeller

PAI Model Gallery, altı distil model için LoRA denetimli ince ayar (SFT) desteği sunar. Aşağıdaki tabloda, varsayılan hiperparametreler ve sağlanan veri kümesi kullanıldığında önerilen minimum kaynak yapılandırmaları listelenmiştir.

Distil Modeli	Temel Model	Desteklenen Eğitim Yöntemi	Minimum Yapılandırma
DeepSeek-R1-Distill-Qwen-1.5B	Qwen2.5-Math-1.5B	LoRA denetimli ince ayar	1 × A10 (24 GB video belleği)
DeepSeek-R1-Distill-Qwen-7B	Qwen2.5-Math-7B		1 × A10 (24 GB video belleği)
DeepSeek-R1-Distill-Llama-8B	Llama-3.1-8B		1 × A10 (24 GB video belleği)
DeepSeek-R1-Distill-Qwen-14B	Qwen2.5-14B		1 × GU8IS (48 GB video belleği)
DeepSeek-R1-Distill-Qwen-32B	Qwen2.5-32B		2 × GU8IS (48 GB video belleği)
DeepSeek-R1-Distill-Llama-70B	Llama-3.3-70B-Instruct		8 × GU100 (80 GB video belleği)

Hızlı başlangıç

Model Gallery sayfasına gidin.
1. PAI console adresinden oturum açın. Sol gezinme bölmesinde hedef Workspace alanınızı seçin.
2. Sol gezinme bölmesinde QuickStart > Model Gallery seçeneğini belirleyin.
  
  Model Gallery sekmesinde arama kutusuna DeepSeek-R1-Distill-Qwen-7B yazın ve arama sonuçlarından ilgili model kartını bulun.
Model Gallery sayfasında DeepSeek-R1-Distill-Qwen-7B öğesini arayın ve tıklayın. Model ayrıntıları sayfasında, gerekli SFT veri biçimi ve çağırma yöntemleri dahil olmak üzere eğitim ve dağıtım hakkında bilgiler yer alır.

SFT eğitimi LoRA algoritmasını destekler. Eğitim veri kümesi JSON ve JSONL biçimlerini destekler; örnek veriler messages, sharegpt ve alpaca biçimlerinde sağlanır.

Sağ üst köşedeki Train düğmesini tıklayın. Aşağıdaki temel parametreleri yapılandırın:

Dataset Configuration: Bu örnekte varsayılan veri kümesi kullanılır. Kendi verilerinizi kullanmak için model ayrıntıları sayfasındaki biçime göre özel bir veri kümesi hazırlayın ve bunu bir Object Storage Service (OSS) paketinde depolayın.
Model output path: İnce ayarlanan modeli depolamak için bir OSS yolu seçin.
Compute Resource: Source alanında public resource seçeneğini belirleyin. Instance type alanında ecs.gn7i-c16g1.4xlarge seçeneğini belirleyin.

Hyperparameters: LoRA SFT için desteklenen hiperparametreler. Gerektiğinde ayarlayın. Büyük dil modelleri için ince ayar kılavuzu.

Hiperparametreler

Parametre	Tür	Varsayılan (7B modeli için)	Açıklama
learning_rate	float	5e-6	Model ağırlık güncellemelerinin büyüklüğünü kontrol eder.
num_train_epochs	int	6	Eğitim veri kümesi üzerinden geçiş sayısı.
per_device_train_batch_size	int	2	Her yinelemede GPU başına işlenen örnek sayısı. Daha büyük değerler aktarım hızını artırır ancak daha fazla GPU belleği gerektirir.
gradient_accumulation_steps	int	2	Gradyan biriktirme adımlarının sayısı.
max_length	int	1024	Her eğitim yinelemesi için maksimum giriş belirteci uzunluğu.
lora_rank	int	8	LoRA boyutu.
lora_alpha	int	16	LoRA ölçeklendirme faktörü.
lora_dropout	float	0	LoRA eğitimi için bırakma oranı. Nöronları rastgele bırakarak aşırı öğrenmeyi önler.
lorap_lr_ratio	float	16	LoRA+ öğrenme oranı oranı (λ = ηB/ηA); burada ηA ve ηB, adaptör matrisleri A ve B için öğrenme oranlarıdır. LoRA+, ek hesaplama yükü olmadan daha iyi performans ve daha hızlı yakınsama sağlamak için A ve B matrislerine farklı öğrenme oranları uygular. Standart LoRA'yı kullanmak için `lorap_lr_ratio` değerini 0 olarak ayarlayın.

Train düğmesini tıklayın. PAI sizi eğitim işi sayfasına yönlendirir; burada iş durumunu izleyebilir ve günlükleri görüntüleyebilirsiniz.

Eğitim işi yaklaşık 6 dakika süren dört aşamadan geçer: Creating, Preparing Environment, Running ve Succeeded. Task Logs sekmesinde model kontrol noktası yükleme, LoRA ağırlık birleştirme ve birleştirilmiş model dışa aktarma ile ilgili ayrıntılı günlükleri görüntüleyebilirsiniz.

Eğitim başarıyla tamamlandığında, ince ayarlanan model otomatik olarak AI Asset Management - Models bölümüne kaydedilir; burada modeli görüntüleyebilir veya dağıtabilirsiniz. Modelleri kaydetme ve yönetme.
Eğitim tamamlandıktan sonra, ince ayarlanan modeli bir EAS hizmeti olarak dağıtmak için Deploy düğmesini tıklayın. Orijinal distil modeliyle aynı çağırma yöntemini kullanın; bu yöntem model ayrıntıları sayfasında ve DeepSeek-V3 ve DeepSeek-R1 modellerini dağıtma konusunda açıklanmıştır.

Faturalama

Model Gallery eğitimi DLC kullanır ve iş süresine göre faturalandırılır. DLC faturalandırması.

SSS

S: Başarısız olan bir eğitim işini nasıl sorun giderebilirim?

Eğitim yapılandırmasında uygun bir max_length değeri ayarlayın. Algoritma, max_length değerini aşan verileri atar ve bu eylemi günlüğe kaydeder:

[WARNING:swift] There are errors in the dataset, the data will be deleted
[INFO:swift] Traceback (most recent call last):
  File "/usr/local/lib/python3.10/site-packages/swift/llm/dataset/preprocessor/core.py", line 169, in batched_preprocess
    row = self.preprocess(row)
  File "/usr/local/lib/python3.10/site-packages/swift/llm/dataset/utils.py", line 205, in preprocess
    return self.template.encode(row)
  File "/usr/local/lib/python3.10/site-packages/swift/llm/template/base.py", line 240, in encode
    encoded = self._encode(inputs)
  File "/usr/local/lib/python3.10/site-packages/swift/llm/template/template/deepseek.py", line 134, in _encode
    return super()._encode(inputs)
  File "/usr/local/lib/python3.10/site-packages/swift/llm/template/base.py", line 713, in _encode
    raise MaxLengthError(f'Current length of row({len(input_ids)}) is larger'
swift.llm.template.base.MaxLengthError: Current length of row(807) is larger than the max_length(512).

Çok fazla veri atılırsa eğitim veya doğrulama veri kümesi boş kalabilir ve bu durum eğitim işinin başarısız olmasına neden olabilir:

Map: 100%|xxx| 320/320 [00:00<00:00, 17601.17 examples/s]
[INFO:swift] Dataset filtered, origin length: 320, filtered dataset length: 0
[rank0]: Traceback (most recent call last):
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/cli/sft.py", line 5, in <module>
[rank0]:     sft_main()
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/train/sft.py", line 256, in sft_main
[rank0]:     return SwiftSft(args).main()
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/base.py", line 46, in main
[rank0]:     result = self.run()
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/train/sft.py", line 111, in run
[rank0]:     train_dataset, val_dataset = self._get_dataset()
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/train/sft.py", line 84, in _get_dataset
[rank0]:     train_dataset, val_dataset = load_dataset(
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/dataset/loader.py", line 459, in load_dataset
[rank0]:     train_dataset, val_dataset = DatasetLoader.post_process(
[rank0]:   File "/usr/local/lib/python3.10/site-packages/swift/llm/dataset/loader.py", line 337, in post_process
[rank0]:     assert train_sample > 0
[rank0]: AssertionError

failed to compose dlc job specs, resource limiting triggered, you are trying to use more GPU resources than the threshold hatası, işin GPU kaynak sınırına ulaştığını gösterir. Varsayılan olarak aynı anda en fazla 2 GPU çalıştırılabilir. Çalışan işlerin tamamlanmasını bekleyin veya kota artışı talep etmek için destek talebi gönderin.
the specified vswitch vsw-**** cannot create the required resource ecs.gn7i-c32g1.8xlarge, zone not match hatası, belirtilen vSwitch'in bulunduğu kullanılabilirlik alanında örnek türünün kullanılamadığını gösterir. Çözümler: 1. vSwitch ayarını kaldırarak DLC'nin otomatik olarak uygun bir alan seçmesini sağlayın. 2. Farklı bir örnek türüne geçin.

S: Eğitimden sonra modeli indirebilir miyim?

Evet. Eğitim işini oluştururken model çıktı yolunu bir OSS dizinine ayarlayın. İş tamamlandıktan sonra modeli bu OSS yolundan indirin.

S: Model performansı düşükse ne yapmalıyım?

Aşağıdakileri deneyin:

Daha yüksek parametre sayısına sahip DeepSeek veya Qwen3 serisinden bir model gibi daha iyi temel performansa sahip bir model kullanın.
İstemlerinizi iyileştirin.
max_tokens değerini artırın.
Karmaşık görevleri daha küçük alt görevlere bölün.

Platform For AI:Fine-tune DeepSeek-R1 distill models