×
Community Blog สร้าง ChatGPT ของคุณเอง: ใช้งาน OLLAMA และ Open-WebUI ด้วย Qwen บน Alibaba Cloud ECS

สร้าง ChatGPT ของคุณเอง: ใช้งาน OLLAMA และ Open-WebUI ด้วย Qwen บน Alibaba Cloud ECS

บทความนี้จะอธิบายวิธีการตั้งค่าและรันโมเดล Alibaba Cloud Open Source Qwen 0.5 โดยใช้ Ollama และ Open WebUI บนอินสแตนซ์ ECS

โดย Jawad

เกริ่นนำ

ในโพสต์บล็อกนี้เราจะสำรวจวิธีการตั้งค่าและเรียกใช้โมเดล Alibaba Cloud Open Source Qwen 0.5 โดยใช้ Ollama และ Open WebUI บน อินสแตนซ์ ECS เมื่อเสร็จสมบูรณ์แล้วเราจะสามารถใช้ความสามารถของโมเดล Qwen ได้ผ่านอินเทอร์เฟซเว็บที่ใช้งานง่าย นี่คือวิดีโอ:

ขั้นตอนที่ 1: เลือกอินสแตนซ์ Alibaba Cloud ECS ที่เหมาะสม

สำหรับการสาธิตแบบง่ายๆ นี้ ผมจะใช้ ecs.g7.large (2 คอร์, RAM 8 GB) อย่างไรก็ตามเมื่อเลือกอินสแตนซ์ ECS โปรดพิจารณาปัจจัยหลักเหล่านี้สำหรับเวิร์กโหลด AI:

CPU/GPU: มองหาอินสแตนซ์ที่มีจำนวน vCPU สูงกว่าและใช้ GPU เพื่อการคำนวณแบบจำลองที่มีประสิทธิภาพ

หน่วยความจำ: โมเดลอย่าง Qwen อาจใช้หน่วยความจำมาก ดังนั้นควรใช้หน่วยความจำมากกว่าที่ผมใช้อยู่

พื้นที่จัดเก็บข้อมูล: พื้นที่จัดเก็บข้อมูลแบบ SSD ช่วยเพิ่มความเร็วในการอ่าน/เขียน ซึ่งเป็นสิ่งสำคัญสำหรับการโหลดโมเดล

แบนด์วิดท์: ตรวจสอบให้แน่ใจว่าแบนด์วิดท์เพียงพอสำหรับการโต้ตอบที่ราบรื่นผ่าน Open-WebUI

ขั้นตอนที่ 2: การเริ่มต้นใช้งานอินสแตนซ์ ECS

ทำตามขั้นตอนเหล่านี้เพื่อสร้างอินสแตนซ์ของคุณ:

  1. เข้าสู่ระบบ Alibaba Cloud Console
  2. ไปที่คอนโซล ECS และคลิก "สร้างอินสแตนซ์"
  3. เลือกการกำหนดค่าที่เลือก ภูมิภาคที่เหมาะสม และเซิร์ฟเวอร์ Ubuntu (Ubuntu 22.04 64 บิต รุ่น UEFI) เป็นระบบปฏิบัติการ
  4. กำหนดค่าการตั้งค่าเครือข่ายกลุ่มความปลอดภัยเพื่อกำหนด IP สาธารณะ และตั้งกฎของกลุ่มความปลอดภัยเพื่ออนุญาตการรับส่งข้อมูลบนพอร์ต TCP 22 (SSH), 11434 (OLLAMA) และ 3000 (Open-WebUI)

ขั้นตอนที่ 3: การเข้าถึงอินสแตนซ์ ECS ของคุณ

ใช้ SSH เพื่อเชื่อมต่อ:

ssh root@<your-instance-public-ip>

ขั้นตอนที่4: การติดตั้ง Docker และ Docker Compose

อัปเดตและติดตั้ง Docker:

apt update
apt install docker.io
apt install docker-compose

ขั้นตอนที่ 5: การใช้งาน OLLAMA และคอนเทนเนอร์ Open-WebUI

สร้างไฟล์ docker-compose.yml โดยใช้ตัวแก้ไข nano หรือ vi:

version: '3.8'

services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    volumes:
      - ollama:/root/.ollama
    ports:
      - "11434:11434"
    restart: always

  open-webui:
    image: ghcr.io/open-webui/open-webui:ollama
    container_name: open-webui
    volumes:
      - ollama:/root/.ollama
      - open-webui:/app/backend/data
    ports:
      - "3000:8080"
    restart: always

volumes:
  ollama:
  open-webui:

บันทึกเนื้อหาข้างต้นลงในไฟล์ชื่อ docker-compose.yml ในไดเร็กทอรีและบริการที่คุณต้องการโดยใช้:

docker-compose up -d

1

หากต้องการเข้าถึง Ollama Container และดึงโมเดล Qwen 0.5 ก่อนอื่นให้เข้าสู่คอนเทนเนอร์ Ollama โดยพิมพ์ดังนี้:

docker exec -it ollama /bin/bash

เมื่ออยู่ในคอนเทนเนอร์แล้วให้ดำเนินการคำสั่งต่อไปนี้เพื่อดึงโมเดล Qwen 0.5:

ollama pull qwen:0.5

เมื่อเสร็จแล้วตรวจสอบให้แน่ใจว่ามีโมเดล Qwen อยู่ และใช้รายการ Ollama

2

ขั้นตอนที่ 6: การโต้ตอบกับแพลตฟอร์ม AI ของคุณ

การเข้าถึงสาธารณะของ ECS: ด้วยกฎ IP สาธารณะและกลุ่มความปลอดภัยที่มีผลบังคับใช้ ใครๆ ก็สามารถเข้าถึง Open-WebUI ของคุณได้โดยไปที่ http://<your-instance-public-ip>:3000 ใช้การสมัครสมาชิกโดยระบุชื่อ อีเมล และรหัสผ่านตามที่แสดงด้านล่าง:

3

การใช้งานโมเดล: หลังจากสร้างบัญชีแล้ว ให้โต้ตอบกับโมเดล Qwen:0.5b ของ Alibaba Cloud:

4

ตอนนี้เราสามารถป้อนพรอมต์ต่างๆ แก่โมเดลเพื่อรับการตอบสนอง:

5

นี่คือผลลัพธ์ของโมเดล:

6

บทสรุป

ตอนนี้คุณได้ตั้งค่า Ollama และ Open WebUI บนอินสแตนซ์ Alibaba Cloud ECS ของคุณสำเร็จแล้ว สามารถดึงโมเดล Qwen 0.5 และเข้าถึงอินเทอร์เฟซเว็บสำหรับการโต้ตอบที่ง่ายดาย การตั้งค่านี้ไม่เพียงช่วยลดความซับซ้อนในการปรับใช้โมเดล แต่ยังช่วยเพิ่มประสบการณ์ของผู้ใช้ด้วยอินเทอร์เฟซที่ใช้งานง่ายอีกด้วย เพลิดเพลินไปกับการทดลองใช้โมเดล Qwen และสำรวจความสามารถของมัน!

สุดท้ายนี้ต้องขอบอกหน่อยว่าหากคุณต้องการคำตอบที่แม่นยำยิ่งขึ้นควรใช้ Alibaba Cloud LLM เช่น Qwen 4b เป็นต้น โดยมีอยู่ใน https://ollama.com/library/qwen ซึ่งอาจต้องใช้ฮาร์ดแวร์ที่มีคุณสมบัติจำเพาะสูงเพื่อให้ได้คำตอบที่ดีกว่า

หากคุณมีคำถามหรือประสบปัญหาใดๆ ก็แสดงความคิดเห็นด้านล่างนี้ได้เลย


บทความนี้แปลจากภาษาอังกฤษ โปรดดูบทความต้นฉบับ ที่นี่

0 0 0
Share on

Regional Content Hub

88 posts | 3 followers

You may also like

Comments

Regional Content Hub

88 posts | 3 followers

Related Products