Com a rápida evolução da inteligência artificial (IA), o Hologres oferece suporte à implantação de diversos modelos de linguagem grandes (LLMs) principais, incluindo modelos gerenciados e modelos integrados em nós de IA. Invoque esses LLMs por meio de uma AI Function para integrar o desenvolvimento de IA diretamente ao seu fluxo de trabalho SQL. Este tópico descreve os conceitos relacionados, os benefícios e os casos de uso típicos.
Visão geral
Modelos de IA
Atualmente, o Hologres oferece suporte aos seguintes tipos de LLMs:
Modelo gerenciado: Implante modelos de IA compatíveis com um único clique em diretamente no console do Hologres, sem necessidade de configurar chaves de API. Os modelos gerenciados abrangem uma ampla variedade de cenários, como geração de texto, processamento multimodal, incorporação vetorial, tradução, geração de imagens e vídeos e conversão de fala em texto. Após a implantação, invoque esses modelos com AI Functions via SQL. Essa abordagem oferece uma maneira rápida e econômica de adicionar recursos de IA ao seu data warehouse. Para obter mais informações, consulte Modelos gerenciados.
-
Modelos de nó de IA:
Além dos modelos gerenciados, o Hologres fornece modelos integrados executados em nós de IA dedicados para cenários como incorporação e inferência. Implante esses modelos conforme suas necessidades de negócios. Eles exigem a compra de recursos de nó de IA do Hologres (GPU/PPU). Caso necessite de recursos de GPU dedicados e isolamento total de recursos, utilize os modelos integrados em um nó de IA. Para obter mais informações, consulte Visão geral dos modelos do Hologres.
Nó de IA (GPU/PPU): Além dos recursos de cpu, o Hologres disponibiliza recursos de GPU/PPU, conhecidos como nós de IA. Ao invocar um modelo de nó de IA, o sistema utiliza automaticamente esses recursos de GPU/PPU. Isso permite criar serviços de IA rapidamente, sem a necessidade de adquirir e gerenciar recursos externos de GPU. Os recursos de IA são faturados separadamente; adquira a quantidade necessária. Para obter mais informações, consulte Preços e aquisição de recursos de IA.
AI function
O Hologres oferece uma série de funções integradas projetadas para cenários de IA, como embed, chunk e rank. Utilize-as imediatamente, assim como funções comuns, para invocar LLMs usando SQL puro. Isso simplifica o desenvolvimento ao eliminar a necessidade de criar e manter serviços externos de IA. Para obter mais informações, consulte AI Function.
Evolução da IA no Hologres
Hologres V4.0: Adicionou suporte a modelos gerenciados, permitindo implantação com um clique em no console do Hologres para um desenvolvimento de IA econômico.
Hologres V4.0: Introduziu atualizações importantes, incluindo suporte a Object Table para leitura de dados não estruturados, como arquivos PDF, PPT e imagens. O recurso AI Function foi aprimorado para oferecer suporte a dados não estruturados. Isso possibilita inferência e recuperação de ponta a ponta quando combinado com capacidades como busca vetorial e busca de texto completo.
Hologres V3.2: Introduziu recursos de IA (GPU), integrou vários modelos integrados principais e lançou o recurso AI Function com operadores como
embedding,chunkegen. Essa atualização permite invocar modelos diretamente via SQL para construir aplicações de IA com agilidade.
Com essas atualizações, o Hologres evoluiu para uma plataforma unificada de fusão multimodal para a era da IA. Ao aproveitar recursos de IA, modelos, AI Function, Dynamic Table e outros recursos, use SQL padrão para gerencie todo o fluxo de trabalho. Esse fluxo inclui análise de dados, processamento, invocação de modelos, além de recuperação, inferência e análises em tempo real. Desenvolva aplicações de IA da mesma forma que faria para big data, sem mover dados para fora do warehouse. Assim, você realiza recuperação e análise de dados multimodais em uma única plataforma usando SQL padrão, liberando o valor central dos seus dados.
Benefícios da AI function
A AI Function do Hologres permite invocar LLMs diretamente usando SQL puro. Isso conecta a linguagem natural aos dados, permitindo que a IA utilize melhor suas informações. Crie serviços de IA unificados para busca e inferência com rapidez, reduzindo a complexidade do sistema, diminuindo os custos de operações e manutenção (O&M) e desenvolvimento, e maximizando o valor dos seus dados.
Capacidades de IA baseadas em SQL
O Hologres fornece vários operadores de AI Function para embedding, ranking e LLM inference. Desenvolva serviços de IA de ponta a ponta usando SQL padrão, sem precisar invocar serviços externos de IA, o que reduz efetivamente a barreira de desenvolvimento.
Desenvolvimento de IA simplificado
O Hologres disponibiliza recursos de IA (GPU/PPU), eliminando a necessidade de implantar máquinas separadas de GPU/PPU. A plataforma inclui uma variedade de LLMs integrados que suportam implantação com um clique em e alocação de recursos de GPU. Use a AI Function para invocar modelos diretamente; a função utiliza automaticamente os recursos de GPU. Isso simplifica a configuração inicial para o desenvolvimento de serviços de IA, permitindo que você se concentre na lógica principal enquanto reduz significativamente os custos de O&M. Como os LLMs podem processar os dados sem exportação, o desenvolvimento torna-se mais simples e a segurança dos dados é reforçada.
Busca multimodal unificada
O Hologres oferece busca multimodal unificada com tecnologia de IA para dados não estruturados, semiestruturados e estruturados. Execute consultas pontuais, análises OLAP, buscas e inferências de IA em uma única plataforma. Essa abordagem simplifica a arquitetura do sistema ao oferecer um único endpoint de serviço e manter os dados dentro do warehouse.
Casos de uso
Recursos do Hologres, como recursos de IA e a AI Function, ajudam você a construir aplicações relacionadas à IA com agilidade.
Busca e análise multimodal
O Hologres permite ler dados não estruturados usando Object Table. Em seguida, processe os dados e crie índices com Dynamic Table e a AI Function utilizando operadores como embed e chunk. Ao combinar busca vetorial, busca de texto completo e recuperação de canal duplo para resultados Top-K, construa um sistema unificado de busca e análise multimodal com SQL padrão. Para obter mais informações, consulte Melhor prática: Criar um sistema de busca e análise de dados de IA multimodal para finanças.
Busca de imagens por imagem ou texto
Imagens representam uma entrada crucial de IA com amplas aplicações, como detecção de veículos e pedestres em direção autônoma, rastreamento de comportamento anômalo em vigilância por vídeo e busca de produtos similares no comércio eletrônico. O Hologres permite ler metadados de imagens usando Object Table e, em seguida, utilizar Dynamic Table para criar embeddings e construir índices vetoriais para as imagens. No momento da consulta, use a recuperação vetorial para implementar buscas de texto para imagem e de imagem para imagem. Para obter mais informações, consulte Melhor prática: Criar um sistema de análise de imagens de alto desempenho para direção autônoma.
Inferência em tempo real
A AI Function do Hologres, combinada com as capacidades de consulta de alto desempenho da plataforma, permite implementar rapidamente funcionalidades como classificação de rótulos em tempo real, análise de sentimentos e inferência em tempo real, sem o uso de modelos externos. Isso reduz significativamente os custos de desenvolvimento.