技術
日本
中小企業/初創企業
“在語言能力方面，我們發現阿里雲的通義千問（Qwen）不僅英語表現出色，而且是目前支援日語的最佳公開選項。我們之所以選擇Qwen，是因為用能夠理解日語的基本模型進行微調後，我們大語言模型的準確度得到了顯著提升。”
Shunichi Taniguchi
董事 | 進階研究員，Lightblue
關於
Lightblue
Lightblue
Lightblue是一家致力於AI普及的初創公司。其旗下LLab團隊專註於產生式AI和大語言模型（LLM）的研發，以安全和透明度為優先。Lightblue的使命是拓寬AI技術的應用範圍，推動社會實現積極變革。
挑戰
ChatGPT發布後，產生式AI熱度迅速攀升。然而當時日本尚無國產大語言模型，Lightblue由此率先啟動了自主研發。
Lightblue推出了其大語言模型Karasu和Qarasu，這兩款模型得益於工程師團隊的嚴格打磨——他們每天精鍊和最佳化資料集，確保在日語方面表現出色。然而，最大的挑戰在於找到最適合日語訓練的基礎LLM。Lightblue希望找到一個能夠應對這一挑戰並提供必要專業支援的技術夥伴。
為什麼選擇阿里雲
阿里雲通義千問（Qwen）對Lightblue的支援，對其在2023年12月前後發布Karasu和Qarasu模型至關重要。Lightblue評估了LLama2和Mistral Large等知名模型，以確定最佳開發基礎。兩者在英語方面均表現出色，但Qwen在日語處理上脫穎而出。其先進的架構和在東亞語言方面的充分訓練，為日語微調提供了出色的準確度，確保了清晰、相關的互動。阿里雲的Qwen為Lightblue在日語處理領域的成功提供了關鍵能力。
架構
Lightblue主要採用阿里雲通義千問（Qwen）的開源版本，這是一款先進的基礎大語言模型，以複雜的自然語言處理能力和強大的多語言能力著稱。
此外，Lightblue還採用了多項阿里雲解決方案。Elastic Compute Service提供彈性可擴充的按需計算資源，支援快速部署虛擬伺服器，並提供多種執行個體類型和儲存選項以實現最佳效能。阿里雲Server Load Balancer用於將入站流量分發到多台伺服器，確保應用的高可用和可靠性。
Lightblue還使用了阿里雲Object Storage Service，為大量非結構化資料提供彈性可擴充的安全儲存，確保資料管理可靠。
關鍵成果
Qwen提供從輕量級到大型的多種模型規模，在開發過程中非常便利。72b模型在獲得高分方面更準確，但7b模型更易管理，且提供多種參數規格和輸出速度，從開發角度來看更易用。
由於Qwen已在Hugging Face上發布，處於可直接學習的狀態，Lightblue得以無障礙地開發其大語言模型。
展望未來
Lightblue預計將與阿里雲在更多專案上展開合作。Lightblue致力於提升其基於RAG的SaaS服務Lightblue Assistant的準確度，最終替換目前依賴其他廠商API提供的部分。此外，Lightblue還在考慮開發一款易用的LLM模型，以滿足需要在本地環境啟動並執行客戶需求。
精選產品
來自阿里雲的頂級基座模型。
彈性安全的虛擬雲端服務器，滿足各類雲託管需求。
Server Load Balancer將網路流量分發到多組後端伺服器，提升服務能力和應用可用性。包含四層網路型負載平衡NLB、七層應用型負載平衡ALB和經典負載平衡CLB，是阿里雲官方雲原生網關。
全託管的Object Storage Service服務，可隨時隨地儲存和訪問任意數量的資料。
快照
Lightblue藉助阿里雲通義千問（Qwen）支援Karasu和Qarasu大語言模型的開發，得益於其先進的架構和在東亞語言（尤其是日語）方面的豐富訓練基礎。
使用的產品/解決方案
查看更多方案
