O EMR on ECS permite implantar clusters do E-MapReduce (EMR) em instâncias do Elastic Compute Service (ECS). Essa solução combina as capacidades de processamento de big data do EMR com a escalabilidade e a flexibilidade das instâncias ECS para oferecer configuração e gerenciamento ágeis dos clusters. Além disso, o EMR on ECS disponibiliza diversos componentes open source e desenvolvidos internamente para processar e analisar grandes volumes de dados em cenários complexos.
Arquitetura
O EMR integra serviços da Alibaba Cloud e componentes open source, além de fornecer componentes próprios e recursos de gerenciamento de cluster. Para obter detalhes sobre os tipos de componentes e seus casos de uso, consulte Operações de componentes e Cenários.
-
Serviços da Alibaba Cloud
Os clusters são implantados com base em instâncias ECS.
É possível armazenar dados no Object Storage Service (OSS) da Alibaba Cloud.
A integração nativa com o DataWorks permite usar o EMR como mecanismo de computação de jobs e armazenamento de dados nessa plataforma.
O EMR Workflow é um serviço totalmente gerenciado para agendamento de fluxos de trabalho e tarefas.
-
Componentes open source
O EMR incorpora componentes open source de big data voltados para integração de dados, armazenamento, gerenciamento de recursos, mecanismos de computação, desenvolvimento e serviços de dados. Esses componentes facilitam o processamento e a gestão eficiente das informações.
-
Componentes desenvolvidos internamente
Para garantir que os componentes e serviços open source funcionem de forma otimizada na infraestrutura da Alibaba Cloud, o EMR oferece os seguintes componentes próprios:
OSS-HDFS: solução de armazenamento de objetos compatível com as APIs do Hadoop Distributed File System (HDFS). Permite que tarefas de computação de big data acessem diretamente os dados no OSS usando o protocolo padrão HDFS.
JindoCache: solução de cache distribuído que armazena blocos de dados em memória para melhorar a performance de leitura e reduzir a carga sobre o sistema de armazenamento subjacente.
DLF-Auth: componente do Data Lake Formation (DLF) usado para ativar o recurso de gerenciamento de permissões de dados do DLF.
-
Gerenciamento de cluster
Crie ou escale clusters rapidamente e configure regras de Auto Scaling conforme a necessidade.
Gerencie as configurações do cluster e dos serviços implantados, além de executar operações de O&M em nós e serviços.
Utilize recursos de monitoramento de métricas multidimensionais, análise de relatórios de cluster e capacidades de alerta.
Benefícios
O EMR fornece componentes open source de big data de nível empresarial, aliados a flexibilidade e facilidade de gerenciamento. Para comparar clusters EMR com clusters Hadoop autogerenciados, consulte Comparação entre clusters EMR e clusters Hadoop autogerenciados.
-
Componentes open source estáveis e confiáveis
Cada versão do EMR traz as atualizações mais recentes dos componentes open source utilizados. Para verificar os serviços compatíveis com cada versão de cluster, consulte Versões de lançamento.
A adaptação completa aos componentes open source elimina problemas de compatibilidade entre versões.
Um ambiente de implantação aprimorado na Alibaba Cloud garante performance muito superior à encontrada na comunidade open source.
-
Facilidade de uso
Configure um ambiente de computação de big data em minutos e ajuste a escala de recursos com poucos cliques, sem precisar implantar ou iniciar serviços manualmente.
Um sistema abrangente de monitoramento e alertas, com diagnóstico e análise inteligentes, simplifica a resolução de problemas e aumenta a eficiência de O&M.
-
Custo-benefício
O uso sob demanda dos recursos de computação ajuda a reduzir despesas operacionais.
O armazenamento em camadas separadas para dados quentes e frios diminui o custo unitário de armazenamento.
Diversas ferramentas de O&M, diagnósticos inteligentes e plataformas de big data estão disponíveis para minimizar custos operacionais.
-
Escalabilidade
Ajuste dinamicamente os recursos do cluster com base na carga ou em períodos específicos.
O Auto Scaling ocorre em minutos e é compatível com múltiplos tipos de recursos elásticos.
-
Integração profunda
Implante clusters EMR usando ECS ou Container Service for Kubernetes (ACK), com suporte a vários tipos de instância ECS. Saiba mais em Instâncias ECS.
A integração com o DataWorks permite utilizar o EMR como motor de computação de jobs e armazenamento de dados.
Em cenários de data lake, a integração com o DLF possibilita o gerenciamento centralizado de metadados para múltiplos motores.
Faturamento
Os custos de um cluster EMR on ECS incluem as taxas do serviço EMR e das instâncias ECS. Para obter informações sobre cobranças de outros serviços da Alibaba Cloud envolvidos no cluster, como OSS, DLF e Workflow, consulte a documentação de regras de faturamento dos respectivos serviços.
O EMR on ECS é compatível com os seguintes métodos de faturamento:
Assinatura: O pagamento pelos recursos é feito antecipadamente por um período determinado. Esse modelo permite reservar recursos com antecedência e obter descontos nas tarifas.
Pagamento conforme o uso: Utilize os recursos antes de pagar por eles. Adquira e libere recursos conforme a demanda do seu negócio, sem a necessidade de compras antecipadas em grande volume.
Por padrão, o tráfego de Internet gerado pelos nós do cluster é cobrado pelo método de pagamento conforme o uso, independentemente do método de faturamento escolhido para o cluster.
Para obter mais informações, consulte Faturamento.
Guia de início rápido
Para criar um cluster no console EMR e executar jobs, consulte Início rápido: Criar e usar um cluster Data Lake.
Para utilizar um cluster EMR no DataWorks e gerenciar data lakes de forma centralizada, consulte Primeiros passos com DataWorks no EMR.
Referências
Para conhecer os casos de uso do EMR, consulte Cenários.
Para verificar os serviços e versões compatíveis com diferentes versões de clusters EMR, consulte Serviços compatíveis com diferentes versões de clusters EMR.
Para explorar as capacidades de O&M e monitoramento dos clusters EMR, consulte os tópicos nos diretórios de O&M de cluster e Monitoramento de cluster.