O Fluid é um orquestrador e acelerador de conjuntos de dados distribuídos, nativo do Kubernetes e de código source, projetado para aplicações com uso intensivo de dados em cenários cloud-native, como big data e IA. Este tópico descreve a visão geral e os recursos do Fluid.
Recursos
O Fluid oferece recursos mediante a definição de objetos de conjunto de dados e runtime. A figura a seguir ilustra esses recursos.
Suporte nativo à abstração de conjuntos de dados. Esse recurso fornece a base para aplicações com uso intensivo de dados, permite acesso eficiente aos dados e melhora a relação custo-benefício do gerenciamento de dados em vários aspectos.
Plug-in de mecanismo de dados extensível com interface unificada para integração com serviços de armazenamento de terceiros, compatível com diversos tipos de runtimes.
Automação de operações de dados com suporte a múltiplos modos de integração com sistemas automatizados de O&M.
Aceleração do acesso aos dados por meio da combinação de tecnologia de cache, dimensionamento elástico e agendamento baseado em afinidade de dados.
Independência de plataformas de runtime, com compatibilidade para clusters Kubernetes, clusters Container Service for Kubernetes (ACK) Edge e clusters ACK Serverless. Também atende a cenários de múltiplos clusters e nuvem híbrida.
Termos
conjunto de dados: grupo de dados logicamente relacionados utilizados por mecanismos de computação. Por exemplo, o Apache Spark utiliza conjuntos de dados em cenários de big data, enquanto o TensorFlow os emprega em cenários de IA. Esses conjuntos viabilizam aplicações inteligentes e ajudam a gerar valor central em diversos setores. Seu gerenciamento abrange múltiplos aspectos, incluindo segurança, versionamento e aceleração de dados.
runtime: mecanismo de execução que implementa segurança, gerenciamento de versões e aceleração de dados para conjuntos de dados. Define também uma série de interfaces de ciclo de vida para gerenciar e acelerar os conjuntos de dados.
AlluxioRuntime: mecanismo de execução do projeto de código source Alluxio. Oferece suporte ao gerenciamento e cache de conjuntos de dados, além de acelerar o acesso a persistent volume claims (PVCs), Ceph e Cloud Parallel File System (CPFS). Pode ser utilizado em cenários de nuvem híbrida.
JuiceFSRuntime: mecanismo de aceleração de cache distribuído desenvolvido com base no JuiceFS. Suporta cache e aceleração de dados específicos para cada cenário. Para mais informações sobre o JuiceFS, consulte Introdução ao JuiceFS. Para detalhes sobre como usar o JuiceFS no Fluid, veja Usar JuiceFS no Fluid.
JindoRuntime: mecanismo de execução do JindoFS, desenvolvido pela equipe do Alibaba Cloud E-MapReduce (EMR). Baseado em C++, oferece suporte ao gerenciamento e cache de conjuntos de dados, além de acelerar o acesso ao Object Storage Service (OSS), OSS-HDFS e Hadoop Distributed File System (HDFS).
EFCRuntime: runtime do cliente de aceleração elástica EFC, desenvolvido pela equipe técnica do File Storage NAS (NAS). Acelera o acesso ao NAS e ao CPFS, com suporte a atualizações dinâmicas e tolerância a falhas.
ThinRuntime: sistema de armazenamento genérico e extensível que permite acessar diversos sistemas de armazenamento com baixa necessidade de codificação. Reutiliza as capacidades de gerenciamento de orquestração de dados e as funcionalidades principais do Fluid para integração com plataformas de runtime.
Os mecanismos de aceleração de cache distribuído AlluxioRuntime e JuiceFSRuntime no ack-fluid são componentes gratuitos de código source, fornecidos por comunidades ou empresas terceiras. Instale os componentes de servidor e cliente correspondentes para utilizar os serviços de aceleração de cache distribuído.
A Alibaba Cloud não se responsabiliza pela estabilidade, limites de serviço ou conformidade de segurança desses componentes de terceiros. Acompanhe atentamente os sites oficiais das comunidades ou empresas de código source e as atualizações nas plataformas de hospedagem de código. Leia e cumpra as licenças de código source aplicáveis. Você é responsável por quaisquer riscos potenciais relacionados ao desenvolvimento, manutenção, solução de problemas e segurança decorrentes do uso de componentes de terceiros.
|
Recurso |
Alluxio |
JuiceFS |
Jindo |
EFC |
|
Armazenamento subjacente |
PVC, Ceph, HDFS, CPFS, Network File System (NFS) e OSS |
JuiceFS |
OSS, OSS-HDFS e PVC |
NAS e CPFS |
|
Suportado por |
Projetos de código source |
Projetos de código source |
Serviços da Alibaba Cloud |
Serviços da Alibaba Cloud |