Anda dapat mengimpor file log dari bucket Object Storage Service (OSS) ke Simple Log Service untuk melakukan kueri, analisis, dan transformasi. Simple Log Service mendukung pengimporan objek OSS hingga ukuran 5 GB. Untuk objek terkompresi, batas ini berlaku pada ukuran setelah dikompresi.
Penagihan
Simple Log Service tidak membebankan biaya untuk fitur impor data. Namun, fitur ini memanggil API Object Storage Service (OSS), sehingga menimbulkan biaya lalu lintas dan permintaan OSS. Untuk informasi lebih lanjut mengenai harga item yang dapat ditagih terkait, lihat Harga OSS. Biaya harian OSS untuk mengimpor data dari OSS dihitung menggunakan rumus berikut:
![]()
Prasyarat
File log telah diunggah ke bucket Object Storage Service (OSS). Untuk informasi lebih lanjut, lihat Upload objects.
Project dan Logstore telah dibuat. Untuk informasi lebih lanjut, lihat Manage projects dan Create a basic Logstore.
Anda telah menyelesaikan Cloud Resource Access Authorization, yang memberikan otorisasi kepada Simple Log Service untuk mengakses resource OSS Anda melalui peran AliyunLogImportOSSRole.
Akun Anda memiliki izin oss:ListBuckets untuk mencantumkan bucket OSS. Untuk informasi lebih lanjut, lihat Attach a custom policy to a RAM user.
Jika Anda menggunakan RAM user, Anda juga harus memberikan izin PassRole kepada RAM user tersebut. Untuk informasi lebih lanjut, lihat Create a custom policy dan Manage RAM user permissions.
{ "Statement": [ { "Effect": "Allow", "Action": ["ram:PassRole", "ram:GetRole"], "Resource": "acs:ram:*:*:role/aliyunlogimportossrole" }, { "Effect": "Allow", "Action": "oss:GetBucketWebsite", "Resource": "*" }, { "Effect": "Allow", "Action": "oss:ListBuckets", "Resource": "*" } ], "Version": "1" }Jika Anda ingin mengimpor data lintas akun, akun root B harus terlebih dahulu memberikan otorisasi kepada Akun A dan peran dalam Akun A menggunakan Bucket Policy di konsol OSS. Contoh peran:
acs:ram::123456789:role/aliyunlogimportossrole.
Buat konfigurasi impor data
Jika Anda menambahkan data ke file OSS yang sudah diimpor sebelumnya, tugas impor data akan mengimpor ulang seluruh file tersebut.
Masuk ke konsol Simple Log Service.
Di bagian Import Data, klik tab Data Import, lalu klik OSS - Data Import.
-
Pilih project dan Logstore tujuan, lalu klik Next.
Atur konfigurasi impor.
Pada langkah Import Configuration, konfigurasikan parameter berikut.
Klik Preview untuk melihat pratinjau hasil impor.
Setelah Anda mengonfirmasi pengaturan, klik Next.
Buat indeks dan pratinjau data. Lalu, klik Next. Secara default, pengindeksan teks penuh diaktifkan di Simple Log Service. Anda juga dapat membuat indeks bidang secara manual untuk log yang dikumpulkan atau klik Automatic Index Generation. Kemudian, Simple Log Service akan menghasilkan indeks bidang. Untuk informasi lebih lanjut, lihat Create indexes.
PentingJika Anda ingin melakukan kueri terhadap semua bidang dalam log, kami menyarankan agar Anda menggunakan indeks teks penuh. Jika Anda hanya ingin melakukan kueri terhadap bidang tertentu, kami menyarankan agar Anda menggunakan indeks bidang. Hal ini membantu mengurangi lalu lintas indeks. Jika Anda ingin menganalisis bidang, Anda harus membuat indeks bidang. Anda harus menyertakan pernyataan SELECT dalam pernyataan kueri Anda untuk analisis.
Klik Query Log untuk membuka halaman kueri dan analisis serta memeriksa apakah data OSS berhasil diimpor.
Tunggu sekitar satu menit. Jika data OSS target muncul, impor berhasil.
Operasi terkait
Setelah membuat konfigurasi impor data, Anda dapat melihat konfigurasi dan laporan statistiknya di konsol.
Di daftar Project, klik Project yang diinginkan.
Di panel navigasi sebelah kiri, pilih . Di halaman yang muncul, temukan Logstore yang diinginkan, pilih , lalu klik nama konfigurasi.
Ikhtisar
Di halaman Import Configuration Overview, Anda dapat melihat informasi dasar dan laporan statistik konfigurasi tersebut.
Halaman Ikhtisar Konfigurasi Impor berisi informasi berikut: Bagian Informasi Dasar menampilkan parameter seperti Configuration Name, Status, Bucket, Compression Format, Encoding Format, File Path Regex Filter, Import Archive Files, OSS Region, New File Check Interval, Data Format, dan Use System Time. Bagian Laporan Statistik (Data Processing Insight) menampilkan enam metrik: Successful Reads, Failed Reads, Public Read Traffic, Successful Writes, Failed Writes, dan Public Write Traffic, serta Grafik Laju Pemrosesan dan Grafik Kelambatan Progres. Tabel Status Berjalan di bagian bawah mencantumkan informasi untuk setiap tugas, seperti Time, Type, Instance, Successful Items, Failed Items, dan Average Response Time. Di pojok kanan atas tersedia tombol aksi Edit Configurations, Stop, dan Delete Configuration.
Ubah
Klik Edit Configurations untuk mengubah konfigurasi impor data. Untuk informasi lebih lanjut, lihat Create a data import configuration.
Hapus
Klik Delete Configuration untuk menghapus konfigurasi impor data.
PeringatanOperasi ini tidak dapat dikembalikan. Lakukan dengan hati-hati.
Hentikan
Untuk menghentikan tugas impor data, klik Stop.
Mulai
Klik Start untuk memulai tugas impor data.
FAQ
Masalah | Kemungkinan penyebab | Solusi |
Saat saya mempratinjau file dari direktori HDFS di bucket saya, tidak ada data yang ditampilkan. | Mengimpor file langsung dari direktori HDFS tidak didukung. | Jika layanan HDFS diaktifkan untuk bucket tersebut, direktori |
Tidak ada data yang ditampilkan selama pratinjau. | Bucket OSS tidak berisi file, file kosong, atau tidak ada file yang sesuai dengan kondisi filter. |
|
Data yang diimpor berisi karakter acak (garbled). | Format data, format kompresi, atau format encoding salah. | Pastikan format aktual file OSS, lalu sesuaikan pengaturan seperti Data Format, Compression Format, atau Encoding Format. Untuk memperbaiki data garbled yang sudah ada, buat Logstore baru dan konfigurasi impor data baru. |
Timestamp di Simple Log Service tidak sesuai dengan timestamp di data sumber. | Konfigurasi impor data tidak memiliki field waktu log, atau format waktu atau zona waktu salah. | Tentukan field waktu log dan konfigurasikan format waktu serta zona waktu yang benar. Untuk informasi lebih lanjut, lihat Create a data import configuration. |
Setelah data diimpor, saya tidak dapat melakukan kueri atau analisis. |
|
|
Jumlah entri yang diimpor lebih sedikit dari yang diharapkan. | Beberapa file berisi satu baris data yang melebihi batas 3 MB dan diabaikan selama proses impor. Untuk informasi lebih lanjut, lihat Collection limits. | Saat menulis data ke file OSS, pastikan tidak ada satu baris data pun yang melebihi 3 MB. |
Saat saya membuat konfigurasi impor data, saya tidak dapat memilih bucket OSS. | Simple Log Service belum diberi otorisasi untuk mengasumsikan peran | Selesaikan otorisasi seperti yang dijelaskan dalam prasyarat. |
Beberapa file tidak diimpor. | Kondisi filter dikonfigurasi salah, atau beberapa file melebihi batas ukuran 5 GB. Untuk informasi lebih lanjut, lihat Collection limits. |
|
File arsip tidak diimpor. | Sakelar Import Archive Files dimatikan. Untuk informasi lebih lanjut, lihat Collection limits. |
|
Log teks multi-baris diurai secara salah. | Ekspresi reguler baris pertama atau ekspresi reguler baris terakhir dikonfigurasi salah. | Perbaiki ekspresi reguler baris pertama dan baris terakhir. |
Latensi impor untuk file baru tinggi. | Terlalu banyak file yang ada dan sesuai dengan filter awalan path file, serta sakelar OSS Metadata Indexing dimatikan dalam konfigurasi impor data. | Jika sejumlah besar file (lebih dari satu juta) sesuai dengan filter awalan path file, Anda harus mengaktifkan sakelar OSS Metadata Indexing dalam konfigurasi impor data. Jika tidak, penemuan file baru menjadi sangat lambat. |
Terjadi error izin terkait STS selama pembuatan. | RAM user memiliki izin yang tidak mencukupi. |
|
Penanganan error
Error | Deskripsi |
Object read failure | Jika tugas impor data tidak dapat membaca objek secara lengkap, misalnya karena pengecualian jaringan atau kerusakan objek, tugas tersebut akan mencoba ulang secara otomatis. Jika operasi baca masih gagal setelah tiga kali percobaan, tugas tersebut akan melewati objek tersebut. Interval percobaan ulang sama dengan New File Check Cycle. Jika New File Check Cycle diatur ke Never Check, tugas tersebut akan mencoba ulang setelah 5 menit. |
Compression format parsing error | Jika tugas impor data menemukan objek dengan format kompresi yang tidak valid, tugas tersebut akan melewati objek tersebut. |
Data format parsing error |
|
OSS bucket not found | Tugas impor data mencoba ulang secara berkala. Tugas tersebut secara otomatis melanjutkan impor setelah bucket OSS dibuat ulang. |
Permission error | Jika terjadi error izin saat membaca dari bucket OSS atau menulis ke Logstore, tugas impor data mencoba ulang secara berkala. Tugas tersebut dilanjutkan secara otomatis setelah masalah izin diselesaikan. Tugas impor data tidak melewatkan objek apa pun selama error izin. Oleh karena itu, setelah izin diperbaiki, tugas tersebut memproses semua objek yang belum diproses di bucket OSS, mengimpor datanya ke Logstore. |
OSS ingestion API
Actions | API |
Create an OSS data import job | |
Update an OSS data import job | |
Get an OSS data import job | |
Delete an OSS data import job | |
Start an OSS data import job | |
Stop an OSS data import job |