Lightblue Co., Ltd. adalah startup yang berdedikasi untuk mendemokratisasi AI. Perusahaan ini meluncurkan LLab, tim khusus yang berfokus pada penelitian dan pengembangan AI generatif serta large language model (LLM), dengan mengutamakan keamanan dan transparansi. Misi Lightblue adalah memperluas penerapan teknologi AI dan mendorong perubahan positif yang transformatif di masyarakat.

Setelah peluncuran ChatGPT, popularitas AI generatif melonjak. Meskipun terjadi pertumbuhan, tidak ada LLM buatan dalam negeri di Jepang, sehingga Lightblue memulai pengembangan LLM sendiri.

Lightblue memperkenalkan LLM-nya, Karasu dan Qarasu, yang menonjol berkat upaya keras para engineer yang menyempurnakan dan mengoptimalkan data set setiap hari, memastikan performa luar biasa dalam bahasa Jepang. Namun, tantangan utamanya adalah menemukan base LLM yang paling sesuai khusus untuk pelatihan dalam bahasa Jepang. Lightblue menginginkan mitra teknologi yang mampu mengatasi tantangan ini serta memberikan keahlian dan dukungan yang diperlukan.

Dukungan Tongyi Qianwen (Qwen) dari Alibaba Cloud kepada Lightblue sangat penting untuk peluncuran model Karasu dan Qarasu pada sekitar Desember 2023. Lightblue mengeksplorasi model terkemuka seperti LLama2 dan Mistral Large untuk menilai fondasi terbaik dalam pengembangan. Meskipun keduanya menunjukkan performa yang kuat dalam bahasa Inggris, Qwen muncul sebagai pilihan terbaik untuk menangani bahasa Jepang. Arsitektur canggih dan pelatihan ekstensifnya dalam bahasa Asia Timur memberikan akurasi luar biasa saat di-fine-tune untuk bahasa Jepang, memastikan interaksi yang jelas dan relevan. Qwen dari Alibaba Cloud sangat penting dalam memberikan kemampuan yang dibutuhkan Lightblue untuk berhasil dalam pemrosesan bahasa Jepang.

Lightblue terutama menggunakan edisi open-source dari Tongyi Qianwen (Qwen), LLM fondasi canggih dari Alibaba Cloud, yang dikenal dengan keahliannya dalam tugas pemrosesan bahasa alami yang kompleks dan kemampuan multibahasa yang kuat.

Selain itu, Lightblue juga menggunakan beberapa solusi Alibaba Cloud lainnya. Elastic Compute Service (ECS) digunakan untuk menyediakan resource komputasi on-demand yang berskala guna deployment server virtual yang cepat, dengan berbagai tipe instans dan opsi penyimpanan untuk performa optimal. Server Load Balancer (SLB) dari Alibaba Cloud juga digunakan untuk mendistribusikan traffic masuk ke beberapa server, memastikan ketersediaan tinggi dan keandalan aplikasi.

Lightblue juga memanfaatkan Object Storage Service (OSS) Alibaba Cloud, yang menyediakan penyimpanan berskala dan aman untuk data tidak terstruktur dalam jumlah besar, memastikan manajemen data yang andal.

Qwen menawarkan berbagai ukuran model, dari ringan hingga besar, yang terbukti sangat memudahkan selama pengembangan. Meskipun model 72b lebih akurat untuk mencapai skor tinggi, model 7b lebih mudah dikelola dan hadir dengan berbagai ukuran parameter, termasuk kecepatan output, sehingga ramah pengguna dari sudut pandang pengembangan.

Karena Qwen dirilis di Hugging Face, model ini siap untuk pembelajaran yang lancar, sehingga memungkinkan Lightblue mengembangkan LLM-nya tanpa hambatan.

Lightblue dan Alibaba Cloud menantikan kolaborasi pada lebih banyak proyek dalam waktu dekat. Lightblue bertujuan meningkatkan akurasi layanan SaaS-nya, Lightblue Assistant, sebuah solusi berbasis RAG, untuk akhirnya menggantikan bagian yang saat ini bergantung pada API dari vendor lain. Selain itu, Lightblue sedang mempertimbangkan pengembangan model LLM yang ramah pengguna dan disesuaikan bagi pelanggan yang perlu menjalankannya di lingkungan lokal.