İstemci aracını kullanarak çeşitli türlerde eğitim işleri gönderebilirsiniz. Bu konuda, çağrım sözdizimi, parametre açıklamaları ve kullanım örnekleri dahil olmak üzere iş gönderiminde kullanılan komutlar açıklanmaktadır.
İş gönderimi için genel parametreler
DLC komut satırını kullanarak TensorFlow (tfjob), PyTorch (pytorchjob) veya XGBoost (xgboostjob) işleri gönderdiğinizde bir dizi genel parametre uygulanır. Genel parametreler aşağıda listelenmiştir.
Tablo 1. İş gönderimi için genel parametreler
Parametre | Zorunlu | Açıklama | Tür | İş parametre dosyasında desteklenir |
name | Evet | İşin adı. Birden fazla iş aynı adı paylaşabilir. | STRING | Evet |
command | Evet | Her düğüm için başlangıç komutu. | STRING | Evet |
data_sources | Hayır | Bir veri kümesini bağlar. Veri kümesi sürümünü ve bağlama yolunu
Birden fazla veri kümesini aynı anda virgülle (,) ayırarak bağlayabilirsiniz. Varsayılan değer boştur. | STRING | Evet |
spot_spec | Hayır | Spot kaynaklarını kullanır. Biçim
Örneğin, maksimum teklifi %50 indirimle ayarlamak için şu yapılandırmayı kullanın:
Spot örnek türleri, iş çerçevesinin role özel parametreleri üzerinden yapılandırılır (örneğin, PyTorchJob için --master_spec ve --worker_spec kullanın). | STRING | Evet |
elastic_spot_specs | Hayır | Birden çok örnek türü içeren esnek spot kaynaklarını kullanır. Biçim
| STRING | Evet |
data_source_uris | Hayır | Bir veri kaynağı yolunu doğrudan bağlar. Biçim
Birden fazla veri kaynağı yolunu aynı anda virgülle (,) ayırarak bağlayabilirsiniz. Varsayılan değer boştur. | STRING | Evet |
code_source | Hayır | Kod kaynağı kimliği. Code configuration sayfasında görüntüleyebilirsiniz. Yalnızca tek bir değer belirtilebilir. Varsayılan değer boştur. | STRING | Evet |
code_branch | Hayır | Kod deposunun dalını belirtir. Bu parametreyi code_source parametresiyle birlikte kullanın. | STRING | Evet |
code_commit | Hayır | Kod deposunun commit kimliğini belirtir. Bu parametreyi code_source parametresiyle birlikte kullanın. | STRING | Evet |
thirdparty_libs | Hayır | Python üçüncü taraf kitaplıkları. Birden fazla kitaplığı virgülle (,) ayırın. Varsayılan değer boştur. | STRING | Evet |
thirdparty_lib_dir | Hayır | Python üçüncü taraf kitaplıklarının yüklenmesi için kullanılan requirements.txt dosyasını içeren dizin. Varsayılan değer boştur. | STRING | Hayır |
vpc_id | Hayır | İşin erişebileceği VPC'nin (Virtual Private Cloud) kimliği. Varsayılan değer boştur. | STRING | Evet |
switch_id | Hayır (vpc_id belirtilirse zorunludur) | İşin eriştiği VPC'deki vSwitch'in kimliği. Varsayılan değer boştur. | STRING | Evet |
security_group_id | Hayır (vpc_id belirtilirse zorunludur) | İşin eriştiği VPC'deki güvenlik grubunun kimliği. Varsayılan değer boştur. | STRING | Evet |
job_file | Hayır | İş parametre dosyası. job_file içindeki parametreler önceliklidir. Biçim | STRING | Hayır |
interactive | Hayır | İşin etkileşimli modda başlatılıp başlatılmayacağı. | BOOL | Evet |
job_max_running_time_minutes | Hayır | İşin maksimum çalışma süresi. Varsayılan değer 0'dır; bu, maksimum çalışma süresi ayarlanmadığı anlamına gelir. | INT64 | Evet |
success_policy | Hayır | Yalnızca TFJob tarafından desteklenir. Geçerli değerler:
Boş bırakılırsa varsayılan olarak AllWorkers kullanılır. | STRING | Evet |
envs | Hayır | Çalışan düğümler için ortam değişkenlerini yapılandırır. Biçim | StringToString | Evet |
tags | Hayır | İş için etiketleri yapılandırır. Biçim | StringToString | Evet |
oversold_type | Hayır | İşin boşta kalan hesaplama kaynaklarını nasıl kullanacağını yapılandırır. Geçerli değerler:
| STRING | Evet |
driver | Hayır | İş tarafından kullanılan GPU sürücü sürümünü belirtir. | STRING | Evet |
default_route | Hayır | Bir VPC seçildiğinde genel ağa erişim yöntemini yapılandırır. Geçerli değerler:
| STRING | Evet |
priority | Hayır | İşin önceliğini yapılandırır. Varsayılan değer 1'dir. Değer aralığı 1 ila 9 arasındadır. Burada:
| INT32 | Evet |
exit_code_on_stopped | Hayır | Etkileşimli modda çalışan bir iş durdurulduğunda komut satırı aracının çıkış kodunu belirtir. Varsayılan değer 0'dır. | INT32 | Evet |
job_reserved_minutes | Hayır | İş sonlandıktan sonraki saklama süresini (dakika cinsinden) ayarlar. Varsayılan değer 0'dır. | INT32 | Evet |
job_reserved_policy | Hayır | İş için saklama ilkesini ayarlar. Geçerli değerler:
| STRING | Evet |
TensorFlow eğitim işleri gönderme (submit tfjob)
-
İşlev
TensorFlow eğitim işleri göndermek için kullanılır.
-
Sözdizimi
TensorFlow işlerini komut satırı parametreleri veya bir iş parametre dosyası kullanarak gönderebilirsiniz.
./dlc submit tfjob [flags] -
Parametreler
Komut satırı parametrelerini kullanarak bir TensorFlow işi gönderirken komuttaki parametreleri gerçek değerlerle değiştirin. Bir iş parametre dosyası kullanarak gönderirken parametreleri dosyaya
<parameterName>=<parameterValue>biçiminde yazın. TensorFlow işleri göndermek için kullanılan genel parametreler bu konunun başında listelenmiştir. Aşağıda TensorFlow işlerine özgü parametreler yer almaktadır:Tablo 2. TensorFlow işlerine özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
workspace_id
Evet
Çalışma alanı kimliği. Varsayılan değer boştur. Çalışma alanı oluşturma hakkında bilgi için bkz. Çalışma alanları oluşturma ve yönetme.
STRING
Evet
chief
Hayır
TensorFlow Chief düğümünün etkinleştirilip etkinleştirilmeyeceği. Geçerli değerler:
false: Varsayılan. TensorFlow Chief düğümünü devre dışı bırakır.
true: TensorFlow Chief düğümünü etkinleştirir.
BOOL
Evet
chief_image
Hayır
TensorFlow Chief düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
chief_spec
Hayır
TensorFlow Chief düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
master_image
Hayır
TensorFlow Master düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
master_spec
Hayır
TensorFlow Master düğümü tarafından kullanılan örnek türü.
STRING
Evet
masters
Hayır
TensorFlow Master düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
ps
Hayır
TensorFlow Parameter Server düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
ps_image
Hayır
TensorFlow Parameter Server düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
ps_spec
Hayır
TensorFlow Parameter Server düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
worker_image
Hayır
TensorFlow Worker düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
worker_spec
Hayır
TensorFlow Worker düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
workers
Hayır
TensorFlow Worker düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
evaluator_image
Hayır
TensorFlow Evaluator düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
evaluator_spec
Hayır
TensorFlow Evaluator düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
evaluators
Hayır
TensorFlow Evaluator düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
graphlearn_image
Hayır
TensorFlow GraphLearn düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
graphlearn_spec
Hayır
TensorFlow GraphLearn düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
graphlearns
Hayır
TensorFlow GraphLearn düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
Tablo 3. TensorFlow işlerini özel kaynak grubuna göndermeye özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
resource_id/@parmname
Hayır (işler özel kaynak grubuna gönderilirken zorunludur)
Özel kaynak kotasının kimliği. Varsayılan değer boştur. Özel kaynak kotası oluşturma hakkında bilgi için bkz. Genel hesaplama kaynağı kotaları.
STRING
Evet
priority/@parmname
Hayır
İş önceliği. Varsayılan değer 1'dir.
INT
Evet
chief_cpu/@parmname
Hayır
TensorFlow Chief düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
chief_gpu/@parmname
Hayır
TensorFlow Chief düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
chief_gpu_type/@parmname
Hayır
TensorFlow Chief düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
chief_memory/@parmname
Hayır
TensorFlow Chief düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
chief_shared_memory/@parmname
Hayır
TensorFlow Chief düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
master_cpu/@parmname
Hayır
TensorFlow Master düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu/@parmname
Hayır
TensorFlow Master düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu_type/@parmname
Hayır
TensorFlow Master düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
master_memory/@parmname
Hayır
TensorFlow Master düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
master_shared_memory/@parmname
Hayır
TensorFlow Master düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
*_cpu/@parmname
Hayır
TensorFlow düğümleri tarafından kullanılan CPU sayısı. Varsayılan değer boştur. yerine (ps, worker, evaluator, graphlearn) yazın.
STRING
Evet
*_gpu/@parmname
Hayır
TensorFlow düğümleri tarafından kullanılan GPU sayısı. Varsayılan değer boştur. yerine (ps, worker, evaluator, graphlearn) yazın.
STRING
Evet
*_gpu_type/@parmname
Hayır
TensorFlow düğümleri tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50. yerine (ps, worker, evaluator, graphlearn) yazın.
STRING
Evet
*_memory/@parmname
Hayır
TensorFlow düğümleri tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi. yerine (ps, worker, evaluator, graphlearn) yazın.
STRING
Evet
*_shared_memory/@parmname
Hayır
TensorFlow düğümleri için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi. yerine (ps, worker, evaluator, graphlearn) yazın.
STRING
Evet -
Örnekler
-
Komut satırı parametrelerini kullanarak 2 Worker ve 1 PS ile dağıtılmış bir iş gönderin. Örnek:
./dlc submit tfjob --name=test_2021 --ps=1 \ --ps_spec=ecs.g6.8xlarge \ --ps_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/tensorflow-training:1.12.2PAI-cpu-py27-ubuntu16.04 \ --workers=2 \ --worker_spec=ecs.g6.4xlarge \ --worker_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/tensorflow-training:1.12.2PAI-cpu-py27-ubuntu16.04 \ --command="python /root/data/dist_mnist/code/dist-main.py --max_steps=10000 --data_dir=/root/data/dist_mnist/data/" \ --workspace_id=***** \ --data_sources=d-pcsah1t86b********:v1:/mnt/data/Sistem aşağıdakine benzer bir sonuç döndürür:
+----------------------------------+--------------------------------------+ | JobId | RequestId | +----------------------------------+--------------------------------------+ | dlcmp6vwljkz**** | xxxxxxxx-79AF-4EFC-9CE9-xxxxxxxxxxxx | +----------------------------------+--------------------------------------+ -
Bir iş parametre dosyası kullanarak 2 Worker ve 1 PS ile dağıtılmış bir iş gönderin. Örnek:
./dlc submit tfjob --job_file=job_file.dist_mnist.1ps2wBurada
job_file.dist_mnist.1ps2w/@parmname iş parametre dosyasıdır. Parametreler<parameterName>=<parameterValue>biçiminde belirtilir.job_file.dist_mnist.1ps2w/@parmname içeriği aşağıdaki gibidir:name=test_2021 workers=2 worker_spec=ecs.g6.4xlarge worker_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/tensorflow-training:1.12.2PAI-cpu-py27-ubuntu16.04 ps=1 ps_spec=ecs.g6.8xlarge ps_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/tensorflow-training:1.12.2PAI-cpu-py27-ubuntu16.04 command=python /root/data/dist_mnist/code/dist-main.py --max_steps=10000 --data_dir=/root/data/dist_mnist/data/ workspace_id=***** data_sources=d-pcsah1t86b********:v1:/mnt/data/
-
PyTorch eğitim işleri gönderme (submit pytorchjob)
-
İşlev
PyTorch eğitim işleri göndermek için kullanılır.
-
Sözdizimi
PyTorch işlerini komut satırı parametreleri veya bir iş parametre dosyası kullanarak gönderebilirsiniz.
./dlc submit pytorchjob [flags] -
Parametreler
Komut satırı parametrelerini kullanarak bir PyTorch işi gönderirken komuttaki parametreleri gerçek değerlerle değiştirin. Bir iş parametre dosyası kullanarak gönderirken parametreleri dosyaya
<parameterName>=<parameterValue>biçiminde yazın. PyTorch işleri göndermek için kullanılan genel parametreler bu konunun başında listelenmiştir. Aşağıda PyTorch işlerine özgü parametreler yer almaktadır:Tablo 4. PyTorch işlerine özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
workspace_id/@parmname
Evet
Çalışma alanı kimliği. Varsayılan değer boştur. Çalışma alanı oluşturma hakkında bilgi için bkz. Çalışma alanları oluşturma ve yönetme.
STRING
Evet
master_image/@parmname
Hayır
PyTorch Master düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
master_spec/@parmname
Hayır
PyTorch Master düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
masters/@parmname
Hayır
PyTorch Master düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
worker_image/@parmname
Hayır
PyTorch Worker düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
worker_spec/@parmname
Hayır
PyTorch Worker düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
workers/@parmname
Hayır
PyTorch Worker düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
EvetTablo 5. PyTorch işlerini özel kaynak grubuna göndermeye özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
resource_id/@parmname
Hayır (işler özel kaynak grubuna gönderilirken zorunludur)
Özel kaynak kotasının kimliği. Varsayılan değer boştur. Özel kaynak kotası oluşturma hakkında bilgi için bkz. Genel hesaplama kaynağı kotaları.
STRING
Evet
priority/@parmname
Hayır
İş önceliği. Varsayılan değer 1'dir.
INT
Evet
master_cpu/@parmname
Hayır
PyTorch Master düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu/@parmname
Hayır
PyTorch Master düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu_type/@parmname
Hayır
PyTorch Master düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
master_memory/@parmname
Hayır
PyTorch Master düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
master_shared_memory/@parmname
Hayır
PyTorch Master düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
worker_cpu/@parmname
Hayır
PyTorch Worker düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
worker_gpu/@parmname
Hayır
PyTorch Worker düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
worker_gpu_type/@parmname
Hayır
PyTorch Worker düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
worker_memory/@parmname
Hayır
PyTorch Worker düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
worker_shared_memory/@parmname
Hayır
PyTorch Worker düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet -
Örnekler
Komut satırı parametrelerini kullanarak bir GPU model eğitimi işi gönderin. Örnek:
./dlc submit pytorchjob --name=test_pt_face \ --workers=1 \ --worker_spec=ecs.gn6e-c12g1.3xlarge \ --worker_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/pytorch-training:1.7.1-gpu-py37-cu110-ubuntu18.04 \ --command="apt-get update; apt-get -y --allow-downgrades install libpcre3=2:8.38-3.1 libpcre3-dev libgl1-mesa-glx libglib2.0-dev; cd /root/data/face; python train.py --num_workers 0 --save_folder outputs" \ --data_sources=d-pcsah1t86b********:v1:/mnt/data/ \ --workspace_id=*****Komut satırı parametrelerini kullanarak spot kaynakları kullanan bir model eğitimi işi gönderin. Örnek:
./dlc submit pytorchjob --name=test_pt_face \ --workers=1 \ --elastic_spot_specs=ml.gp7vf.16.40xlarge:discount:1,ml.gu8tef.8.46xlarge:discount:1,ml.gu8tf.8.40xlarge:discount:0.5 \ --worker_image=registry-vpc.cn-beijing.aliyuncs.com/pai-dlc/pytorch-training:1.7.1-gpu-py37-cu110-ubuntu18.04 \ --command="apt-get update; apt-get -y --allow-downgrades install libpcre3=2:8.38-3.1 libpcre3-dev libgl1-mesa-glx libglib2.0-dev; cd /root/data/face; python train.py --num_workers 0 --save_folder outputs" \ --workspace_id=*****Sistem aşağıdakine benzer bir sonuç döndürür:
+----------------------------------+--------------------------------------+ | JobId | RequestId | +----------------------------------+--------------------------------------+ | dlcu704xxuxk**** | xxxxxxxx-79AF-4EFC-9CE9-xxxxxxxxxxxx | +----------------------------------+--------------------------------------+
XGBoost eğitim işleri gönderme (submit xgboostjob)
-
İşlev
XGBoost eğitim işleri göndermek için kullanılır.
-
Sözdizimi
XGBoost işlerini komut satırı parametreleri veya bir iş parametre dosyası kullanarak gönderebilirsiniz.
./dlc submit xgboostjob [flags] -
Parametreler
Komut satırı parametrelerini kullanarak bir XGBoost işi gönderirken komuttaki parametreleri gerçek değerlerle değiştirin. Bir iş parametre dosyası kullanarak gönderirken parametreleri dosyaya
<parameterName>=<parameterValue>biçiminde yazın. XGBoost işleri göndermek için kullanılan genel parametreler bu konunun başında listelenmiştir. Aşağıda XGBoost işlerine özgü parametreler yer almaktadır:Tablo 6. XGBoost işlerine özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
workspace_id/@parmname
Evet
Çalışma alanı kimliği. Varsayılan değer boştur. Çalışma alanı oluşturma hakkında bilgi için bkz. Çalışma alanları oluşturma ve yönetme.
STRING
Evet
master_image/@parmname
Hayır
XGBoost Master düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
master_spec/@parmname
Hayır
XGBoost Master düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
masters/@parmname
Hayır
XGBoost Master düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
Evet
worker_image/@parmname
Hayır
XGBoost Worker düğümünün görüntüsü. Varsayılan değer boştur.
STRING
Evet
worker_spec/@parmname
Hayır
XGBoost Worker düğümü tarafından kullanılan örnek türü. Varsayılan değer boştur.
STRING
Evet
workers/@parmname
Hayır
XGBoost Worker düğümlerinin sayısı. Varsayılan değer 0'dır.
INT
EvetTablo 7. XGBoost işlerini özel kaynak grubuna göndermeye özgü parametreler
Parametre
Zorunlu
Açıklama
Tür
İş parametre dosyasında desteklenir
resource_id/@parmname
Hayır (işler özel kaynak grubuna gönderilirken zorunludur)
Özel kaynak kotasının kimliği. Varsayılan değer boştur. Özel kaynak kotası oluşturma hakkında bilgi için bkz. Genel hesaplama kaynağı kotaları.
STRING
Evet
priority/@parmname
Hayır
İş önceliği. Varsayılan değer 1'dir.
INT
Evet
master_cpu/@parmname
Hayır
XGBoost Master düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu/@parmname
Hayır
XGBoost Master düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
master_gpu_type/@parmname
Hayır
XGBoost Master düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
master_memory/@parmname
Hayır
XGBoost Master düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
master_shared_memory/@parmname
Hayır
XGBoost Master düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
worker_cpu/@parmname
Hayır
XGBoost Worker düğümü tarafından kullanılan CPU sayısı. Varsayılan değer boştur.
STRING
Evet
worker_gpu/@parmname
Hayır
XGBoost Worker düğümü tarafından kullanılan GPU sayısı. Varsayılan değer boştur.
STRING
Evet
worker_gpu_type/@parmname
Hayır
XGBoost Worker düğümü tarafından kullanılan GPU türü. Varsayılan değer boştur. Örnek: GU50.
STRING
Evet
worker_memory/@parmname
Hayır
XGBoost Worker düğümü tarafından kullanılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet
worker_shared_memory/@parmname
Hayır
XGBoost Worker düğümü için paylaşılan bellek kaynakları. Varsayılan değer boştur. Örnek: 500 Mi, 1 Gi.
STRING
Evet -
Örnekler
Komut satırı parametrelerini kullanarak bir XGBoost işi gönderin. Örnek:
./dlc submit xgboostjob --name=test_xgboost \ --workers=1 \ --worker_spec=ecs.gn6e-c12g1.3xlarge \ --worker_image=xgboost-training:1.6.0-cpu-py36-ubuntu18.04 \ --command="python /root/code/horovod/xgboost/main.py --job_type=Train --xgboost_parameter=objective:multi:softprob,num_class:3 --n_estimators=50 --model_path=autoAI/xgb-opt/2" \ --data_sources=d-pcsah1t86b********:v1:/mnt/data/ \ --workspace_id=*****Sistem aşağıdakine benzer bir sonuç döndürür:
+----------------------------------+--------------------------------------+ | JobId | RequestId | +----------------------------------+--------------------------------------+ | dlc1nvu3gli0**** | xxxxxxxx-79AF-4EFC-9CE9-xxxxxxxxxxxx | +----------------------------------+--------------------------------------+
İş gönderimi için gelişmiş parametreler
İşleri belirli düğümlerde zamanlama
Lingjun akıllı hesaplama veya genel hesaplama kaynak kotası kullanarak bir iş gönderdiğinizde DLC komut satırındaki parametreleri yapılandırarak işi belirli düğümlerde zamanlayabilirsiniz.
Bu özellik şu anda yalnızca beyaz listeye eklenmiş kullanıcılar için kullanılabilir. Erişime ihtiyacınız varsa beyaz listeye eklenmek için hesap yöneticinizle iletişime geçin.
-
Parametreler
Parametre
Açıklama
Örnek değer
--allow_nodes="${allow_nodes}"
Bir düğüm adı listesi belirtir. Birden fazla düğüm adını virgülle (,) ayırın. Düğüm adları arasında boşluk bırakmayın.
lingjuc47iextvg9-,lingjuc47iextvg9-
--deny_nodes="${deny_nodes}"
Dışlanacak düğüm listesini belirtir. Birden fazla düğüm adını virgülle (,) ayırın. Düğüm adları arasında boşluk bırakmayın.
lingjuc47iextvg9-,lingjuc47iextvg9- -
Örnekler
Komut satırı parametreleri
Komut satırı parametrelerini kullanarak bir iş gönderin. Örnek:
-
Zamanlama düğümü belirtilmemiş
./dlc submit pytorchjob --name=assign_node_test_no_node \--workers=1 \ --worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 \ --command="sleep 1000" \ --workspace_id='****' \ --resource_id='quotau2h98mt****' \ --worker_cpu="1" \ --worker_memory='2Gi' -
Zamanlama düğümlerini belirtin
./dlc submit pytorchjob --name=assign_node_test_2_allow_nodes \--workers=1 \ --worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 \ --command="sleep 1000" \ --workspace_id='****' \ --resource_id='quotau2h98mt****' \ --worker_cpu="1" \ --worker_memory='2Gi' \ --allow_nodes="lingjuc47iextvg9-****,lingjuc47iextvg9-****" -
Belirli düğümleri hariç tutun
./dlc submit pytorchjob --name=assign_node_test_two_deny_nodes \--workers=1 \ --worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 \ --command="sleep 1000" \ --workspace_id='****' \ --resource_id='quotau2h98mt****' \ --worker_cpu="1" \ --worker_memory='2Gi' \ --deny_nodes="lingjuc47iextvg9-****,lingjuc47iextvg9-****" -
Zamanlama düğümlerini belirtin ve belirli düğümleri hariç tutun
./dlc submit pytorchjob --name=assign_node_test_two_allow_two_deny \--workers=1 \ --worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 \ --command="sleep 1000" \ --workspace_id='****' \ --resource_id='quotau2h98mt****' \ --worker_cpu="1" \ --worker_memory='2Gi' \ --allow_nodes="lingjuc47iextvg9-****,lingjuc47iextvg9-****" \ --deny_nodes="lingjuc47iextvg9-****,lingjuc47iextvg9-****"
Dosya tabanlı yapılandırma
Dosya tabanlı yapılandırma kullanarak bir iş gönderin. Örnek:
./dlc submit pytorchjob -f job_fileBurada
job_fileiş parametre dosyasıdır. İçerik aşağıdaki gibidir:-
Zamanlama düğümü belirtilmemiş
name=assign_node_test_no_node workers=1 worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 command=sleep 1000 workspace_id=**** resource_id=quotau2h98mt**** worker_cpu=1 worker_memory=2Gi -
Zamanlama düğümlerini belirtin
name=assign_node_test_2_allow_nodes workers=1 worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 command=sleep 1000 workspace_id=**** resource_id=quotau2h98mt**** worker_cpu=1 worker_memory=2Gi allow_nodes=lingjuc47iextvg9-****,lingjuc47iextvg9-**** -
Belirli düğümleri hariç tutun
name=assign_node_test_two_allow_two_deny workers=1 worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 command=sleep 1000 workspace_id=**** resource_id=quotau2h98mt**** worker_cpu=1 worker_memory=2Gi deny_nodes=lingjuc47iextvg9-****,lingjuc47iextvg9-**** -
Zamanlama düğümlerini belirtin ve belirli düğümleri hariç tutun
name=assign_node_test_two_allow_two_deny workers=1 worker_image=dsw-registry-vpc.****.cr.aliyuncs.com/pai/easyanimate:1.1.5-pytorch2.2.0-gpu-py310-cu118-ubuntu22.04 command=sleep 1000 workspace_id=**** resource_id=quotau2h98mt**** worker_cpu=1 worker_memory=2Gi allow_nodes=lingjuc47iextvg9-****,lingjuc47iextvg9-**** deny_nodes=lingjuc47iextvg9-****,lingjuc47iextvg9-****
-
İş gönderimi için kullandıkça öde stok kontrolünü devre dışı bırakma
Kullandıkça öde stok kontrolünü devre dışı bırakmak için DLC komut satırında disable_ecs_stock_check parametresini yapılandırabilirsiniz.
-
Parametreler
Parametre
Açıklama
Örnek değer
disable_ecs_stock_check
Kullandıkça öde stok kontrolünü devre dışı bırakır. Geçerli değerler:
false (varsayılan): Kullandıkça öde stok kontrolünü etkinleştirir.
true: Kullandıkça öde stok kontrolünü devre dışı bırakır.
true veya false
-
Örnekler
Komut satırı parametreleri
Komut satırı parametrelerini kullanarak bir iş gönderin. Örnek:
-
Kullandıkça öde stok kontrolünü etkinleştirin
./dlc submit pytorchjob \ --name=test_skip_checking3 \ --command='sleep 1000' \ --workspace_id=**** \ --priority=1 \ --workers=1 \ --worker_image=registry.cn-hangzhou.aliyuncs.com/pai-dlc/tensorflow-training:1.12PAI-gpu-py36-cu101-ubuntu18.04 \ --worker_spec=ecs.g6.xlarge -
Kullandıkça öde stok kontrolünü devre dışı bırakın
./dlc submit pytorchjob \ --name=test_skip_checking3 \ --command='sleep 1000' \ --workspace_id=**** \ --priority=1 \ --workers=1 \ --worker_image=registry.cn-hangzhou.aliyuncs.com/pai-dlc/tensorflow-training:1.12PAI-gpu-py36-cu101-ubuntu18.04 \ --worker_spec=ecs.g6.xlarge \ --disable_ecs_stock_check=true
Dosya tabanlı yapılandırma
Dosya tabanlı yapılandırma kullanarak bir iş gönderin. Örnek:
./dlc submit pytorchjob -f job_fileBurada
job_fileiş parametre dosyasıdır. İçerik aşağıdaki gibidir:-
Kullandıkça öde stok kontrolünü etkinleştirin
name=test_skip_checking3 workers=1 worker_image=registry.cn-hangzhou.aliyuncs.com/pai-dlc/tensorflow-training:1.12PAI-gpu-py36-cu101-ubuntu18.04 command=sleep 1000 workspace_id=**** worker_spec=ecs.g6.xlarge -
Kullandıkça öde stok kontrolünü devre dışı bırakın
name=test_skip_checking3 workers=1 worker_image=registry.cn-hangzhou.aliyuncs.com/pai-dlc/tensorflow-training:1.12PAI-gpu-py36-cu101-ubuntu18.04 command=sleep 1000 workspace_id=**** worker_spec=ecs.g6.xlarge disable_ecs_stock_check=true
-
İlgili belgeler
Bir iş başarıyla gönderildikten sonra istemci aracını kullanarak işi yönetebilirsiniz. Daha fazla bilgi için bkz. Eğitim işlerini durdurmak için kullanılan komut ve Günlükleri veya işleri sorgulamak için kullanılan komutlar.
Gönderilen işleri konsolda da yönetebilirsiniz. Daha fazla bilgi için bkz. Eğitim işlerini yönetme.