การปรับใช้โมเดลที่ได้รับการฝึกอบรมล่วงหน้าบน Alibaba Cloud ECS โดยใช้ Transformers และ Gradio
โดย Jawad
ในบล็อกนี้เราจะสาธิตวิธีการปรับใช้โมเดลที่ได้รับการฝึกอบรมล่วงหน้าหลายรายการบน Alibaba Cloud ECS เดียว เราจะใช้โมเดลที่ได้รับการฝึกล่วงหน้าซึ่งมีอยู่บน Hugging face และ Gradio เพื่อโต้ตอบกับโมเดล แนวทางนี้จัดให้มีการปรับใช้โค้ดต่ำสำหรับโมเดล ML ที่มีประโยชน์สำหรับการสร้างต้นแบบและการพิสูจน์แนวคิด สำหรับวัตถุประสงค์ในการสาธิต เราจะยกตัวอย่างการใช้งานสองตัวอย่าง คือ ตัวอย่างหนึ่งเกี่ยวข้องกับการประมวลผลภาษาธรรมชาติ (NLP) และตัวอย่างอื่น ๆ ที่เกี่ยวข้องกับคอมพิวเตอร์วิทัศน์ ก่อนจะไปต่อ เรามาพูดถึง Gradio และ Hugging face กันก่อน
Gradio คือไลบรารี Python ที่ใช้สร้าง ปรับแต่ง และแชร์การสาธิตบนเว็บสำหรับโมเดลการเรียนรู้ของเครื่องใดๆ ก็ตาม สิ่งนี้ทำให้เราสามารถโต้ตอบกับโมเดลได้โดยใช้เว็บเบราว์เซอร์
Hugging Face เป็นองค์กรวิจัย AI ที่ให้สิทธิ์เข้าถึงเครื่องมือโอเพนซอร์สและห้องสมุดสำหรับ การประมวลผลภาษาธรรมชาติ (NLP) และงานคอมพิวเตอร์วิทัศน์ หนึ่งในการสร้างสรรค์ที่ได้รับความนิยมมากที่สุดคือไลบรารี "Transformers" ซึ่งมีโมเดลที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการใช้งานที่หลากหลาย เช่น การจัดหมวดหมู่ข้อความ การแปลภาษา การตอบคำถาม และการสร้างข้อความ การจัดหมวดหมู่รูปภาพ ฯลฯ
การใช้ Hugging face Transformer และ Gradio ร่วมกันทำให้โมเดล AI เข้าถึงและใช้งานได้มากขึ้นสำหรับผู้ชมในวงกว้าง ตั้งแต่นักพัฒนาและนักวิจัยไปจนถึงผู้ใช้ปลายทางที่อาจไม่มีความเชี่ยวชาญทางเทคนิคในการเรียนรู้ของเครื่อง
โมเดลที่ฝึกไว้ล่วงหน้าที่ใช้ Hugging face คือ
- สำหรับ NLP การจำแนกประเภทข้อความ (การวิเคราะห์ความรู้สึก):DistilBERT Model
- สำหรับคอมพิวเตอร์วิทัศน์ การจัดหมวดหมู่ภาพ: Vision Transformer (ViT) model
เป็นที่น่าสังเกตว่าทั้งสองรุ่นนี้ถูกใช้เป็นตัวอย่าง ผู้อ่านสามารถลอง Hugging face รุ่นอื่นๆ ในลักษณะที่คล้ายกันไม่มากก็น้อยได้
ให้เราหารือเกี่ยวกับรายละเอียดการใช้อินสแตนซ์ ECS สำหรับการปรับใช้ในลักษณะทีละขั้นตอน
1. หมุนอินสแตนซ์ Alibaba Cloud ECS: ข้อมูลจำเพาะของอินสแตนซ์ขึ้นอยู่กับโมเดล ML สำหรับตัวอย่างของเราจะใช้ข้อกำหนดต่อไปนี้


Fig-1: ECS configuration
2. กำลังเตรียมการตั้งค่า (จำเป็นเพียงครั้งเดียว)
เมื่ออินสแตนซ์ ECS เริ่มทำงาน ให้เข้าสู่ระบบอินสแตนซ์ ใช้พรอมต์คำสั่ง
- อัปเดตรายการแพ็คเกจโดยดำเนินการ: apt update
- สร้างสภาพแวดล้อมเสมือนจริง (ทางเราใช้ "ai" เป็นชื่อของสภาพแวดล้อม)
apt install python3-venv -y
python3 -m venv ai
Iii. เปิดใช้งานสภาพแวดล้อมโดยใช้: source ai/bin/activate
- ติดตั้งไลบรารี Python ที่จำเป็นต่อไปนี้
pip install transformers
pip install gradio
pip install torch
pip install sentencepiece
pip install sacremoses
3. โค้ด Python สำหรับการใช้โมเดลที่ผ่านการฝึกอบรมมาแล้ว
ก) โมเดล NLP: สร้างไฟล์ Python “nlp.py” โดยพิมพ์ nano nlp.py ที่เทอร์มินัล เมื่อตัวแก้ไขเปิดขึ้น ให้คัดลอกและวางโค้ดต่อไปนี้
from transformers import pipeline
import gradio as gr
pipe = pipeline("text-classification", model="distilbert-base-uncased-finetuned-sst-2-english")
demo = gr.Interface.from_pipeline(pipe)
demo.launch(server_name="0.0.0.0", server_port=8000)
Fig-2 แสดงโค้ดภายในตัวแก้ไข nano บันทึกไฟล์โดยกด Ctrl+x เลือก “Y” แล้วกด Enter

Fig-2: โค้ดสำหรับการวิเคราะห์ความเชื่อมั่น
b) โมเดลการจำแนกประเภทรูปภาพ
สร้างไฟล์ Python อีกไฟล์โดยใช้ nano classify.py และแก้ไขโค้ดโดยการเปลี่ยนประเภทโมเดล ชื่อ หัวเรื่อง และหมายเลขพอร์ต ดังแสดงใน Fig-3 ออกและบันทึกไฟล์

Fig-3: โค้ดสำหรับการจำแนกภาพ
4. เรียกใช้โมเดล
ในการเรียกใช้โมเดลเหล่านี้ เราจำเป็นต้องเปิดเทอร์มินัลสองเทอร์มินัลบนอินสแตนซ์ Alibaba Cloud ECS ดังที่ให้ไว้ใน Fig-4 ตรวจสอบให้แน่ใจว่าเปิดใช้งานสภาพแวดล้อมเสมือนของ Python แล้ว ดำเนินการต่อไปนี้ที่ Alibaba Cloud ECS CLI บน
- เทอร์มินัลหนึ่ง: python run nlp.py
- เทอร์มินัลสอง: python run classify.py

Fig-4: การรันทั้งสองรุ่นบนอินสแตนซ์ ECS เดียวกันโดยใช้สองเทอร์มินัล
5. โต้ตอบกับโมเดล
หากต้องการใช้โมเดลที่ใช้งาน ให้เปิดเบราว์เซอร์บนพีซีของคุณ และใช้ที่อยู่ IP สาธารณะของอินสแตนซ์ ECS ของคุณด้วยหมายเลขพอร์ต คั่นด้วยเครื่องหมายทวิภาค (:) ดังแสดงด้านล่างใน Fig-5 และ Fig-6
แทนที่จะใช้ที่อยู่ IP สาธารณะของ ECS เรากำลังใช้ชื่อโดเมน คุณสามารถเลือกดำเนินการดังกล่าวได้ หากคุณมีชื่อโดเมนโดยการเชื่อมโยงชื่อดังกล่าวกับ IP สาธารณะของอินสแตนซ์ ECS ของคุณ

เปิดเบราว์เซอร์ที่สอง และเปลี่ยนหมายเลขพอร์ต (9000) เพื่อโต้ตอบกับโมเดลคอมพิวเตอร์วิทัศน์ อัปโหลดภาพและดูผลการจำแนกประเภท

ลองใช้รูปภาพต่างๆ และดูการตอบสนองของโมเดล
บทความต้นฉบับเป็นภาษาอังกฤษ ดูบทความต้นฉบับที่นี่
Read previous post:
Triển khai các mô hình tiền đào tạo trên Alibaba Cloud ECS bằng cách sử dụng Transformer và Gradio
Read next post:
Transformers와 Gradio를 사용하여 Alibaba Cloud ECS에 사전 학습된 모델 배포하기
-
-
Regional Content Hub
144 posts | 4 followers
Follow
Comments
-
-
Regional Content Hub
144 posts | 4 followers
Follow
Related Products
-
Qwen
Full-range, open-source, multimodal, and multi-functional
Learn More -
Wan3.0
Unleash Your Creativity Try Wan 3.0 now — longer narratives, greater control, endless creativity.
Learn More -
Token Plan
Build more, spend less. One plan, every modality.
Learn More -
Alibaba Cloud Model Studio
A one-stop generative AI platform to build intelligent applications that understand your business, based on Qwen model series such as Qwen-Max and other popular models
Learn More
More Posts by Regional Content Hub
- ให้พื้นที่ทำงานชั่วคราวกับ AI เอเจนต์ของคุณด้วย Alibaba Cloud AgentRun
- Alibaba Cloud AgentRun으로 AI 에이전트에 일회용 워크스페이스 제공
- Alibaba Cloud AgentRun で AI エージェントに使い捨てワークスペースを与える
- Beri Agen AI Anda Ruang Kerja Sekali Pakai dengan Alibaba Cloud AgentRun
- Cung cấp không gian làm việc dùng một lần cho tác nhân AI của bạn với Alibaba Cloud AgentRun
- DeepSeek V4-Flash dalam Skala Besar: Panduan Deployment Berbasis Benchmark
- 大規模な DeepSeek V4-Flash の活用:ベンチマーク主導のデプロイガイド
- 대규모 DeepSeek V4-Flash: 벤치마크 기반 배포 가이드
- Alibaba Cloud ECS 上で Telegram 連携機能付きの OpenClaw をデプロイする
- Alibaba Cloud ECS에 Telegram 통합 기능을 갖춘 OpenClaw 배포