全部产品
Search
文档中心

MaxCompute:Ikhtisar layanan transmisi data

更新时间:Jul 06, 2025

Layanan transmisi data merupakan terowongan data utama dari MaxCompute. Layanan ini mendukung terowongan reguler untuk operasi batch dan terowongan aliran untuk penulisan data dalam mode streaming. Layanan ini juga menyediakan kelompok sumber daya bersama yang dapat digunakan secara gratis selama kuota belum habis.

Jenis-jenis operasi

  • Transfer data dengan menjalankan perintah

    Saat ini, Anda hanya dapat menjalankan perintah untuk transmisi data di klien MaxCompute.

  • Operasi batch pada data

    Anda dapat menggunakan terowongan reguler untuk melakukan operasi batch pada data offline, seperti mengunggah data ke tabel, mengunduh data dari tabel, serta mengunduh hasil kueri instans data.

  • Penulisan data dalam mode streaming

    Anda dapat menggunakan terowongan aliran untuk menulis data dalam mode streaming ke tabel dalam mikro-batch.

Tunnel服务

Batasan layanan transmisi data

  • Batasan Terowongan Reguler

    • Pengunggahan Data

      Item

      Batasan

      Durasi hidup UploadSession

      24 jam

      Jumlah blok yang ditulis oleh UploadSession

      20.000

      Kecepatan menulis blok

      10 MB/s

      Jumlah data dalam blok

      100 GB

      Jumlah UploadSessions yang dibuat untuk sebuah tabel

      500 UploadSessions setiap 5 menit

      Jumlah blok yang ditulis ke sebuah tabel

      500 blok setiap 5 menit

      Jumlah UploadSessions yang dikirimkan secara bersamaan untuk sebuah tabel

      32

      Jumlah komitmen penulisan tabel tunggal

      75 kali setiap 15 detik.

      Jumlah blok yang ditulis secara bersamaan

      Tergantung pada jumlah slot bersamaan. Slot ditempati ketika blok ditulis.

      Penulisan bersamaan

      MaxCompute memastikan bahwa penulisan bersamaan dilakukan berdasarkan prinsip atomicity, consistency, isolation, dan durability (ACID). Untuk informasi lebih lanjut tentang semantik ACID, lihat Semantik ACID.

    • Pengunduhan Data

      Item

      Batasan

      Durasi hidup DownloadSession

      24 jam

      Durasi hidup InstanceDownloadSession

      24 jam, tergantung pada durasi hidup instance.

      Jumlah InstanceDownloadSessions yang dibuat untuk sebuah proyek

      200 InstanceDownloadSessions setiap 5 menit

      Jumlah DownloadSessions yang dibuat untuk sebuah tabel

      200 DownloadSessions setiap 5 menit

      Kecepatan permintaan unduhan tunggal

      10 MB/s

      Jumlah DownloadSessions yang dapat dibuat secara bersamaan

      Tergantung pada jumlah slot bersamaan. Slot ditempati ketika DownloadSession dibuat.

      Jumlah InstanceDownloadSession yang dapat dibuat secara bersamaan

      Tergantung pada jumlah slot bersamaan. Slot ditempati ketika InstanceDownloadSession dibuat.

      Jumlah permintaan unduhan bersamaan

      Tergantung pada jumlah slot bersamaan. Slot ditempati oleh permintaan unduhan data.

    Catatan

    Fitur Delta Table Upsert didukung untuk pengunggahan dan pengunduhan data batch dengan batasan berikut:

    • Durasi hidup UpsertSession: 24 jam

    • Kecepatan penulisan data maksimum UpsertSession: jumlah tabel atau bucket partisi × 10 MB/s

    • Jumlah maksimum slot yang dapat ditempati: jumlah tabel atau bucket partisi

    • Frekuensi komitmen UpsertSession: setiap partisi dalam Delta Table hanya memungkinkan satu komitmen per menit. Jika durasi antara dua komitmen kurang dari 1 menit, sistem akan melaporkan kesalahan dengan pesan ErrorCode=FlowExceeded, ErrorMessage=CommitUpsert QPS Quota exceeded.

  • Batasan Terowongan Aliran

    Item

    Batasan

    Kecepatan menulis data ke slot

    10 MB/s

    Jumlah partisi yang ditulis secara bersamaan ke sebuah tabel

    64

    Jumlah maksimum slot yang tersedia dalam partisi

    32

    Jumlah flush bersamaan

    Karena keterbatasan konkurensi slot, setiap operasi Flush menempati satu slot.

  • Batasan Pengunggahan Data

    • Ukuran setiap bidang tidak boleh melebihi batas bidang. Untuk informasi lebih lanjut, lihat Edisi Tipe Data.

      Catatan

      Ukuran bidang tipe STRING tidak boleh melebihi 8 MB.

    • Selama pengunggahan, beberapa entri data dikemas menjadi file paket.

  • Batasan Jaringan pada Kelompok Sumber Daya Eksklusif Layanan Transmisi Data

    • Hanya akses melalui Virtual Private Clouds (VPC) yang didukung. Akses melalui Internet tidak didukung.

    • Transmisi data didukung di wilayah yang sama. Transmisi data lintas wilayah tidak didukung.

Catatan

Lebar pita jaringan sangat mempengaruhi kecepatan unggah dan unduh transmisi data. Dalam kebanyakan kasus, kecepatannya berkisar antara 1 MB/s hingga 20 MB/s. Jika kecepatan unggah lambat, Anda dapat menggunakan metode unggah multi-thread.

Kelompok sumber daya bersama layanan transmisi data

Tabel berikut menjelaskan jumlah maksimum sumber daya bersama (slot) yang dapat dialokasikan ke berbagai wilayah pada tingkat proyek. Sumber daya bersama ini gratis.

Situs

Wilayah

Jumlah slot

Cina

Cina (Hangzhou)

300

Cina

Cina Timur 1 Keuangan

50

Cina

Cina (Shanghai)

600

Cina

Cina Timur 2 Keuangan

50

Cina

Cina (Beijing)

300

Cina

Cina Utara 2 Ali Gov

100

Cina

Cina (Zhangjiakou)

300

Cina

Cina (Ulanqab)

300

Cina

Cina (Shenzhen)

150

Cina

Cina Selatan 1 Keuangan

50

Cina

Cina (Chengdu)

150

Cina

Cina (Hong Kong)

50

Asia Pasifik

Singapura

100

Asia Pasifik

Malaysia (Kuala Lumpur)

50

Asia Pasifik

Indonesia (Jakarta)

50

Asia Pasifik

Jepang (Tokyo)

50

Eropa dan Amerika

Jerman (Frankfurt)

50

Eropa dan Amerika

AS (Silicon Valley)

100

Eropa dan Amerika

AS (Virginia)

50

Eropa dan Amerika

Inggris (London)

50

Timur Tengah dan India

UEA (Dubai)

50

Kode status valid layanan transmisi data

Kode status

Nama kode status

200

HTTP_OK

201

HTTP_CREATED

400

HTTP_BAD_REQUEST

401

HTTP_UNAUTHORIZED

403

HTTP_FORBIDDEN

404

HTTP_NOT_FOUND

405

HTTP_METHOD_NOT_ALLOWED

409

HTTP_CONFLICT

422

HTTP_UNPROCESSABLE_ENTITY

429

HTTP_TOO_MANY_REQUESTS

499

HTTP_CLIENT_CLOSED_REQUEST

500

HTTP_INTERNAL_SERVER_ERROR

502

HTTP_BAD_GATEWAY

503

HTTP_SERVICE_UNAVAILABLE

504

HTTP_GATEWAY_TIME_OUT

  • Kebijakan ulang untuk permintaan gagal

    • Jika permintaan gagal, klien perlu menunggu selama periode waktu tertentu sebelum mengajukan ulang permintaan.

    • Waktu tunggu untuk permintaan gagal berturut-turut harus meningkat secara eksponensial. Waktu tunggu terpendek adalah 1 detik. Contoh: 1 detik, 2 detik, 4 detik, 8 detik, 16 detik, 32 detik, dan 32 detik.

  • Permintaan Berulang

    • Permintaan dengan URL yang sama.

    • Permintaan yang diajukan secara berturut-turut oleh klien dengan alamat IP yang sama.

  • Permintaan Valid

    Permintaan yang kode statusnya valid dan memenuhi persyaratan kebijakan ulang.

  • Permintaan Tidak Valid

    Permintaan yang kode statusnya valid tetapi tidak memenuhi persyaratan kebijakan ulang.

    Catatan

    Permintaan tidak valid tidak dijamin oleh Service Level Agreement (SLA).

  • Permintaan Serangan

    • Permintaan yang kode statusnya 429 dan 503 dan tidak sesuai dengan kebijakan ulang. Kode status 429 dan 503 dikembalikan untuk kontrol proses.

    • Untuk permintaan serangan, MaxCompute mengisolasi alamat IP, UID, dan proyek klien yang memulai serangan. Objek yang diisolasi tidak dapat mengakses MaxCompute seperti yang diharapkan.

    Catatan

    Permintaan serangan tidak dijamin oleh SLA.

FAQ

Mengapa kecepatan transmisi data melambat?

Karena batasan arsitektur layanan, latensi permintaan sesekali mungkin terjadi pada layanan terowongan MaxCompute. Dalam hal ini, waktu yang dibutuhkan untuk unggah atau unduh data tunggal sebesar 10 MB mungkin meningkat dari detik menjadi menit. Masalah ini mungkin terjadi dalam skenario berikut:

  • Sumber daya terowongan bersama termasuk CPU dan lebar pita jaringan telah habis digunakan

    • Durasi: menit hingga jam.

    • Karena batasan arsitektur layanan, masalah ini tidak dapat dicegah. Jika Anda memiliki kebutuhan tinggi untuk sumber daya terowongan, Anda dapat membeli sumber daya terowongan eksklusif.

  • Koneksi jaringan seperti pengunggahan atau pengunduhan data melalui Internet dari klien ke terowongan tidak stabil

    • Durasi: tidak dapat dievaluasi.

    • Stabilitas Internet tidak dapat dijamin. Jika Anda memiliki kebutuhan tinggi untuk stabilitas jaringan, kami sarankan Anda menggunakan VPC Alibaba Cloud.

  • Sumber daya klien termasuk CPU dan lebar pita jaringan sedang digunakan sepenuhnya

    • Durasi: tidak dapat dievaluasi.

    • Anda perlu sepenuhnya mengevaluasi sumber daya fisik klien Anda.

  • Logika kode di klien tidak masuk akal ketika Anda menggunakan koneksi panjang yang menghabiskan banyak waktu untuk unggah dan unduh

    • Durasi: tidak dapat dievaluasi.

    • Anda perlu sepenuhnya mempertimbangkan kinerja transmisi data saat merancang kode.

FAQ tentang masalah lainnya