Lightblue Co., Ltd. est une startup dédiée à la démocratisation de l'IA. Elle a créé LLab, une équipe spécialisée dans la recherche et le développement de l'IA générative et des grands modèles de langage (LLM), privilégiant la sécurité et la transparence. La mission de Lightblue est d'élargir les applications de la technologie d'IA et de promouvoir un changement positif et transformateur dans la société.

Suite au lancement de ChatGPT, l'engouement pour l'IA générative a connu une forte croissance. Malgré cet essor, aucun grand modèle de langage (LLM) n'existait au Japon, ce qui a conduit Lightblue à entreprendre le développement de son propre LLM.

Lightblue a présenté ses LLM, Karasu et Qarasu, qui se sont distingués grâce au travail rigoureux des ingénieurs qui affinent et optimisent quotidiennement les ensembles de données, garantissant des performances exceptionnelles en japonais. Toutefois, le défi majeur consistait à trouver le LLM de base le plus adapté à l'entraînement spécifiquement en langue japonaise. Lightblue recherchait un partenaire technologique capable de relever ce défi et de fournir l'expertise et la prise en charge nécessaires.

L'apport de Tongyi Qianwen (Qwen) d'Alibaba Cloud a été crucial pour Lightblue lors du lancement de ses modèles Karasu et Qarasu vers décembre 2023. Lightblue a exploré des modèles de référence tels que LLama2 et Mistral Large afin d'identifier la meilleure base de développement. Bien que les deux aient démontré de solides performances en anglais, Qwen s'est imposé comme le meilleur choix pour le traitement du japonais. Son architecture avancée et son entraînement approfondi dans les langues d'Asie de l'Est ont offert une précision remarquable lors du réglage fin pour le japonais, garantissant des interactions claires et pertinentes. Qwen d'Alibaba Cloud a été déterminant pour doter Lightblue des capacités nécessaires à la réussite dans le traitement de la langue japonaise.

Lightblue a principalement utilisé l'édition open source de Tongyi Qianwen (Qwen), le grand modèle de langage (LLM) fondationnel avancé d'Alibaba Cloud, reconnu pour sa maîtrise des tâches complexes de traitement du langage naturel et ses solides capacités multilingues.

Par ailleurs, Lightblue a utilisé plusieurs autres solutions Alibaba Cloud. Elastic Compute Service (ECS) a fourni des ressources de calcul évolutives et à la demande pour le déploiement rapide de serveurs virtuels, avec différents types d'instances et options de stockage pour des performances optimales. Server Load Balancer (SLB) d'Alibaba Cloud a également servi à répartir le trafic entrant sur plusieurs serveurs, garantissant la haute disponibilité et la fiabilité de l'application.

Lightblue a également utilisé l'Object Storage Service (OSS) d'Alibaba Cloud, qui offre un stockage évolutif et sécurisé pour de grands volumes de données non structurées, garantissant une gestion fiable des données.

Qwen propose une gamme de modèles de différentes tailles, du plus léger au plus grand, ce qui s'est avéré très pratique lors du développement. Si un modèle 72 bits est plus précis pour obtenir des scores élevés, un modèle 7 bits est plus facile à gérer et offre différents paramètres, notamment la vitesse de sortie, ce qui le rend convivial pour les développeurs.

Qwen étant disponible sur Hugging Face, il était directement exploitable pour l'apprentissage, ce qui a permis à Lightblue de développer son LLM sans aucun obstacle.

Lightblue et Alibaba Cloud prévoient de collaborer sur d'autres projets dans un avenir proche. Lightblue souhaite améliorer la précision de son service SaaS, Lightblue Assistant, une solution basée sur le RAG, afin de remplacer à terme les composants qui dépendent actuellement des API d'autres fournisseurs. Par ailleurs, Lightblue envisage de développer un modèle LLM convivial adapté aux clients qui ont besoin de l'exécuter dans un environnement local.