FAQ for OSS Connector for AI/ML inference - Object Storage Service: Central de Documentação do Alibaba Cloud

Erros de inicialização

O programa encerra imediatamente e exibe failed to launch oss connector: xxx no stderr. Erros comuns de inicialização:

Mensagem de erro	Descrição
MODEL_DIR not set	Variável `MODEL_DIR` não definida.
OSS_PATH not set	Variável `OSS_PATH` não definida.
OSS_ENDPOINT not set	Variável `OSS_ENDPOINT` não definida.
OSS_AUTHORIZATION_FILE_PATH not accessible	Caminho do arquivo de credenciais de acesso especificado por `OSS_AUTHORIZATION_FILE_PATH` inacessível.
OSS_ACCESS_KEY_SECRET not set	Variável `OSS_ACCESS_KEY_ID` definida, mas `OSS_ACCESS_KEY_SECRET` não.
failed to infer region from endpoint	Variável `OSS_REGION` não definida e impossível de inferir a partir de `OSS_ENDPOINT`.
failed to parse config file	Impossível analisar o arquivo de configuração JSON. Verifique o formato do arquivo.
failed to initialize log path	Falha ao inicializar o arquivo de log.
invalid uri	Formato de `OSS_PATH` inválido. Formato esperado: oss://bucketname/path/.
failed to list objects	Falha na operação ListObjects. Verifique suas credenciais do OSS e a permissão oss:ListObjects no caminho do bucket de destino.
failed to download metadata	Falha ao baixar dados para o diretório `MODEL_DIR`.
failed to acquire uds lock	Falha ao adquirir o bloqueio de arquivo UDS. Se for necessário executar vários processos principais do conector, defina um `CONNECTOR_UDS_PATH` exclusivo para cada processo.
failed to initialize connector	Outro erro de inicialização.

Para obter mais detalhes, consulte o log de execução do conector no caminho padrão /var/log/oss-connector/connector.log.

Erros ao carregar arquivos de modelo

O huggingface_hub relata um erro de Repo id. Exemplo:

raise HFValidationError(
huggingface_hub.errors.HFValidationError: Repo id must be in the form 'repo_name' or 'namespace/repo_name': '/var/model/qwen/Qwen3-32B/'. Use `repo_type` argument if needed.

O safe_open relata um erro de incomplete metadata ao carregar o arquivo de modelo. Exemplo:

[rank0]:     with safe_open(st_file, framework="pt") as f:
[rank0]:          ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
[rank0]: safetensors_rust.SafetensorError: Error while deserializing header: MetadataIncompleteBuffer

Causas possíveis:

Erro de execução do conector: Consulte o log de execução do conector no caminho padrão /var/log/oss-connector/connector.log para identificar o erro específico.
Recurso do conector não ativado: Carregar modelos de MODEL_DIR exige as variáveis de ambiente LD_PRELOAD e ENABLE_CONNECTOR.
Conflito de caminho de montagem: Alternar valores de OSS_PATH no mesmo MODEL_DIR pode causar conflitos de cache. Limpe MODEL_DIR antes de trocar de modelo.

Execução como usuário sem privilégios de root

Executar o conector como usuário sem privilégios de root pode gerar estes erros:

ERROR|log_output_file:Fail to open log file /var/log/oss-connector/default.log
ERROR|log_output_file:Fail to open log file /var/log/oss-connector/connector.log.1845009
ERROR|new_log_output_file:Failed to open log file /var/log/oss-connector/audit.log
ERROR|bind:failed to bind to '/run/modelconnector.sock'  errno=13(Permission denied)
ERROR|operator():failed to bind to path /run/modelconnector.sock errno=13(Permission denied)
ERROR|init:failed to init uds server errno=13(Permission denied)
ERROR|init_library:failed to create connector

Usuários sem privilégios de root não têm permissão de gravação nos caminhos padrão de log, configuração e UDS. Use CONNECTOR_CONFIG_PATH e CONNECTOR_UDS_PATH para apontar para um diretório gravável e configure um caminho de log gravável no arquivo de configuração.

Tamanho do arquivo de modelo excede a memória do nó

Por padrão, o conector pré-carrega todo o modelo na memória. Se o modelo ultrapassar a memória disponível, o carregamento poderá falhar com erro de Segment Fault ou OOM Kill.

Soluções:

Limite o tamanho do cache de pré-carregamento com CONNECTOR_MAX_CACHE_ADVISE_GB ou o parâmetro de configuração pretech.maxCacheAdviseGB. Isso pode reduzir o desempenho do carregamento.
Use um nó com mais memória.