lightblue - Alibaba Cloud

技术

日本

中小企业/初创企业

“在语言能力方面，我们发现阿里云的通义千问（Qwen）不仅英语表现出色，而且是目前支持日语的最佳公开选项。我们之所以选择Qwen，是因为用能够理解日语的基础模型进行微调后，我们大语言模型的准确度得到了显著提升。”

Shunichi Taniguchi

董事 | 高级研究员，Lightblue

关于
Lightblue

Lightblue是一家致力于AI普及的初创公司。其旗下LLab团队专注于生成式AI和大语言模型（LLM）的研发，以安全和透明度为优先。Lightblue的使命是拓宽AI技术的应用范围，推动社会实现积极变革。

挑战

ChatGPT发布后，生成式AI热度迅速攀升。然而当时日本尚无国产大语言模型，Lightblue由此率先启动了自主研发。

Lightblue推出了其大语言模型Karasu和Qarasu，这两款模型得益于工程师团队的严格打磨——他们每天精炼和优化数据集，确保在日语方面表现出色。然而，最大的挑战在于找到最适合日语训练的基础LLM。Lightblue希望找到一个能够应对这一挑战并提供必要专业支持的技术合作伙伴。

为什么选择阿里云

阿里云通义千问（Qwen）对Lightblue的支持，对其在2023年12月前后发布Karasu和Qarasu模型至关重要。Lightblue评估了LLama2和Mistral Large等知名模型，以确定最佳开发基础。两者在英语方面均表现出色，但Qwen在日语处理上脱颖而出。其先进的架构和在东亚语言方面的充分训练，为日语微调提供了出色的准确度，确保了清晰、相关的交互。阿里云的Qwen为Lightblue在日语处理领域的成功提供了关键能力。

架构

Lightblue主要采用阿里云通义千问（Qwen）的开源版本，这是一款先进的基础大语言模型，以复杂的自然语言处理能力和强大的多语言能力著称。

此外，Lightblue还采用了多项阿里云解决方案。云服务器ECS提供弹性可扩展的按需计算资源，支持快速部署虚拟服务器，并提供多种实例类型和存储选项以实现最佳性能。阿里云负载均衡SLB用于将入站流量分发到多台服务器，确保应用的高可用和可靠性。

Lightblue还使用了阿里云对象存储OSS，为大量非结构化数据提供弹性可扩展的安全存储，确保数据管理可靠。