Configure o OSS Connector para AI/ML - Object Storage Service: Central de Documentação do Alibaba Cloud

Para garantir que usuários ou aplicações legítimos enviem as solicitações de acesso ao OSS e que o OSS Connector for AI/ML seja inicializado corretamente, configure os parâmetros adequadamente.

Pré-requisitos

O OSS Connector for AI/ML deve estar instalado. Para mais informações, consulte Instalar o OSS Connector for AI/ML.

Configurar credenciais de acesso

Crie um arquivo de configuração de credenciais de acesso chamado credentials.
```
mkdir -p /root/.alibabacloud && touch /root/.alibabacloud/credentials
```

Configure os parâmetros e salve o arquivo de configuração.

Exemplo:

{
  "AccessKeyId": "<Access-key-id>",
  "AccessKeySecret": "<Access-key-secret>",
  "SecurityToken": "<Security-Token>",
  "Expiration": "2024-08-02T15:04:05Z"
}

A tabela a seguir descreve os parâmetros anteriores.

Parâmetro	Obrigatório	Exemplo	Descrição
AccessKeyId	Sim	STS.L4aB****	O AccessKey ID e o AccessKey secret da sua conta Alibaba Cloud ou de um usuário RAM. Se você usar um token de segurança para autenticação, defina estes parâmetros com o AccessKey ID e o AccessKey secret das credenciais de acesso temporárias.
AccessKeySecret	Sim	At32****
SecurityToken	Não	STS.6MC2*****	O token de segurança. Este parâmetro é obrigatório quando você usa credenciais de acesso temporárias obtidas pelo Security Token Service (STS) para acessar o OSS. Se usar o AccessKey ID e o AccessKey secret de uma conta Alibaba Cloud ou de um usuário RAM para autenticação, deixe este parâmetro vazio.
Expiration	Não	2024-08-02T15:04:05Z	O horário de expiração das informações de autenticação. Após esse período, o conector OSS relê as informações de autenticação. Se você não especificar o parâmetro Expiration, as informações de autenticação não expiram. Recomendamos especificar este parâmetro se usar um token de segurança para autenticação. Se a autenticação usar o AccessKey ID e o AccessKey secret de uma conta Alibaba Cloud ou usuário RAM, deixe este parâmetro vazio.

Use AccessKey ID e AccessKey secret:

Substitua <Access-key-id> e <Access-key-secret> no exemplo pelo AccessKey ID e AccessKey secret de um usuário RAM. Para mais informações sobre como criar um AccessKey ID e AccessKey secret, consulte Criar um par de AccessKeys.
```
{
  "AccessKeyId": "LTAI************************",
  "AccessKeySecret": "At32************************"
}
```
Use credenciais de acesso temporárias:

Nota
Para garantir a segurança dos dados em cenários nos quais as credenciais de acesso são usadas no ambiente de produção por longos períodos, recomendamos o uso de credenciais de acesso temporárias para evitar o vazamento do AccessKey ID e do AccessKey secret. Para autorizar acesso temporário, obtenha credenciais de acesso temporárias. Para mais informações, consulte Usar credenciais temporárias fornecidas pelo STS para acessar o OSS. Após obter as credenciais de acesso temporárias, substitua <Access-key-id>, <Access-key-secret> e <Security-Token> pelo AccessKey ID, AccessKey secret e token de segurança correspondentes.
```
{
  "AccessKeyId": "STS.L4aB******************",
  "AccessKeySecret": "wyLTSm*************************",
  "SecurityToken": "************",
  "Expiration": "2024-08-15T15:04:05Z"
}
```

Execute o comando chmod 400 /root/.alibabacloud/credentials para conceder permissões somente leitura ao arquivo credentials e garantir a segurança do AccessKey ID e do AccessKey secret.

Configurar o OSS Connector

Crie um arquivo de configuração chamado config.json para o OSS Connector.
```
mkdir -p /etc/oss-connector/ && touch /etc/oss-connector/config.json
```

Configure os parâmetros e salve o arquivo de configuração.

Na maioria dos casos, use as configurações padrão.

{
    "logLevel": 1,
    "logPath": "/var/log/oss-connector/connector.log",
    "auditPath": "/var/log/oss-connector/audit.log",
    "expireTimeSec": 120,
    "prefetch": {
        "vcpus": 16,
        "workers": 16,
        "maxCacheAdviseGB": -1
    },
    "datasetConfig": {
        "prefetchConcurrency": 24,
        "prefetchWorker": 2
    },
    "checkpointConfig": {
        "prefetchConcurrency": 24,
        "prefetchWorker": 4,
        "uploadConcurrency": 64
    }
}

A tabela a seguir descreve os parâmetros. Leia atentamente as instruções na tabela antes de alterar as configurações.

Parâmetro		Obrigatório	Exemplo	Descrição
logLevel		Não	1	Nível de log. O valor padrão é 1. Recomendamos definir o parâmetro como 2. Valores válidos: 0, 1, 2 e 3. 0 representa Debug, 1 representa INFO, 2 representa WARN e 3 representa ERROR.
logPath		Não	/var/log/oss-connector/connector.log	Caminho do log do OSS Connector for AI/ML. Valor padrão: `/var/log/oss-connector/connector.log`.
auditPath		Não	/var/log/oss-connector/audit.log	Caminho do log de auditoria do OSS Connector for AI/ML, que registra solicitações de leitura e escrita com latência superior a 100 milissegundos. Valor padrão: `/var/log/oss-connector/audit.log`.
expireTimeSec		Não	120	Intervalo, em segundos, para o conector reler o arquivo de credenciais de acesso e atualizá-las caso tenham expirado. Padrão: 120.
prefetch	vcpus	Não	16	Número de vCPUs dedicadas ao prefetch em cenários de inferência. Padrão: 16.
	workers	Não	16	Quantidade de threads de trabalho para prefetch em cenários de inferência. Padrão: 16.
	maxCacheAdviseGB	Não	-1	Tamanho máximo do cache de memória, em GB, disponível para prefetch. O valor padrão -1 indica ausência de limite. Caso o tamanho do arquivo do modelo exceda a memória disponível no nó, configure este parâmetro para evitar erros de Out of Memory (OOM). Também é possível definir esse valor pela variável de ambiente `CONNECTOR_MAX_CACHE_ADVISE_GB`, que tem precedência sobre esta configuração.
DatasetConfig	prefetchConcurrency	Não	24	Número de tarefas de download simultâneas ao usar um conjunto de dados para prefetch de dados do OSS. Valor padrão: 24.
DatasetConfig	prefetchWorker	Não	2	Número de vCPUs disponíveis ao usar um conjunto de dados para prefetch de dados do OSS. Valor padrão: 2.
checkpointConfig	prefetchConcurrency	Não	24	Número de tarefas de download simultâneas ao usar leitura de checkpoint para prefetch de dados do OSS. Valor padrão: 24.
	prefetchWorker	Não	4	Número de vCPUs disponíveis ao usar leitura de checkpoint para prefetch de dados do OSS. Valor padrão: 4.
	uploadConcurrency	Não	64	Número de tarefas de upload simultâneas ao usar escrita de checkpoint para enviar dados ao OSS. Valor padrão: 64.

Configurar variáveis de ambiente

Você também pode configurar o OSS Connector for AI/ML por meio de variáveis de ambiente. Essas variáveis substituem as configurações correspondentes no arquivo de configuração.

Variável de ambiente	Descrição
OSS_AUTHORIZATION_FILE_PATH	Caminho para o arquivo de credenciais de acesso no formato JSON. Os formatos de AccessKey ID/secret e de credenciais temporárias STS são suportados. Formato AccessKey ID/secret: `{"AccessKeyId":"LTAI","AccessKeySecret":"At32"}` Formato STS: `{"AccessKeyId":"STS.L4aB","AccessKeySecret":"wyLTSm","SecurityToken":"","Expiration":"2024-08-15T15:04:05Z"}` Quando definida, esta variável tem precedência sobre as variáveis de ambiente `OSS_ACCESS_KEY_ID`, `OSS_ACCESS_KEY_SECRET` e `OSS_SESSION_TOKEN`.
CONNECTOR_CONFIG_PATH	Especifica o caminho para o arquivo de configuração. Padrão: `/etc/oss-connector/config.json`.
CONNECTOR_UDS_PATH	Caminho do arquivo para o Unix domain socket (UDS). Os processos principal e filho do conector usam o UDS para comunicação. Padrão: `/run/modelconnector.sock`.
CONNECTOR_MAX_CACHE_ADVISE_GB	Define o tamanho do cache de memória, em GB, para prefetch. Esta configuração equivale a `prefetch.maxCacheAdviseGB` no arquivo de configuração, mas a substitui.

Referências

Após instalar e configurar o OSS Connector for AI/ML, você pode:

Usar o OssMapDataset para criar um conjunto de dados do tipo mapa, adequado para leitura aleatória. Para mais informações, consulte Usar dados do OSS para criar um conjunto de dados OssMapDataset para leitura aleatória.
Usar o OssIterableDataset para criar um conjunto de dados iterável, ideal para leitura sequencial em streaming. Para mais informações, consulte Usar dados no OSS para criar um conjunto de dados iterável adequado para leitura sequencial em streaming.
Usar o OssCheckpoint para executar operações de leitura e escrita de checkpoints no OSS. Para mais informações, consulte Armazenar e acessar checkpoints no OSS.
Usar o OSS Connector for AI/ML para aumentar a eficiência da implantação de modelos em cenários de inferência. Para mais informações, consulte Usar o OSS Connector for AI/ML para melhorar a eficiência da implantação de modelos.
Usar o recurso de broadcast de modelos para distribuir dados de modelos de forma eficiente entre múltiplas instâncias de inferência. Para mais informações, consulte Broadcast de modelos.
Ativar o recurso de conector no Kubernetes para implantação de inferência de modelos. Para mais informações, consulte Ativar o conector no Kubernetes.