ApsaraDB for SelectDB:Colocation join

+---+ +---+ +---+ +---+ +---+ +---+ +---+ +---+
| 0 | | 1 | | 2 | | 3 | | 4 | | 5 | | 6 | | 7 |
+---+ +---+ +---+ +---+ +---+ +---+ +---+ +---+
| A | | B | | C | | D | | A | | B | | C | | D |
+---+ +---+ +---+ +---+ +---+ +---+ +---+ +---+

CREATE TABLE tbl (k1 int, v1 int sum)
DISTRIBUTED BY HASH(k1)
BUCKETS 8
PROPERTIES(
    "colocate_with" = "group1"
);

Grupos de colocation entre bancos de dados

Para colocalizar tabelas em diferentes bancos de dados, adicione o prefixo __global__ ao nome do grupo:

CREATE TABLE tbl (k1 int, v1 int sum)
DISTRIBUTED BY HASH(k1)
BUCKETS 8
PROPERTIES(
    "colocate_with" = "__global__group1"
);

Um CG global não pertence a nenhum banco de dados específico e seu nome é exclusivo em todo o cluster.

-- Create tbl1 and tbl2 in the same CG, then run:
DESC SELECT * FROM tbl1 INNER JOIN tbl2 ON (tbl1.k2 = tbl2.k2);

| 2:HASH JOIN                                      |
| |  join op: INNER JOIN                           |
| |  colocate: true                                |
| |    `tbl1`.`k2` = `tbl2`.`k2`                   |

| 2:HASH JOIN                                       |
| |  join op: INNER JOIN (BROADCAST)                |
| |  colocate: false, reason: group is not stable   |
| |    `tbl1`.`k2` = `tbl2`.`k2`                    |
...
| 3:EXCHANGE                                        |

Visualize informações do CG

Execute o comando abaixo para listar todos os CGs no cluster (requer função de administrador):

SHOW PROC '/colocation_group';

Exemplo de saída:

+-------------+--------------+--------------+------------+----------------+----------+----------+
| GroupId     | GroupName    | TableIds     | BucketsNum | ReplicationNum | DistCols | IsStable |
+-------------+--------------+--------------+------------+----------------+----------+----------+
| 10005.10008 | 10005_group1 | 10007, 10040 | 10         | 3              | int(11)  | true     |
+-------------+--------------+--------------+------------+----------------+----------+----------+

Para inspecionar o mapeamento de bucket para BE de um CG específico:

SHOW PROC '/colocation_group/10005.10008';

Exemplo de saída:

+-------------+------------+
| BucketIndex | BackendIds |
+-------------+------------+
| 0           | 10004      |
| 1           | 10003      |
| 2           | 10002      |
| 3           | 10003      |
| 4           | 10002      |
| 5           | 10003      |
| 6           | 10003      |
| 7           | 10003      |
+-------------+------------+

A execução de comandos SHOW PROC requer função de administrador. Usuários comuns não têm permissão para executá-los.

Modifique a propriedade de colocation de uma tabela

Para mover uma tabela para um CG diferente:

ALTER TABLE tbl SET ("colocate_with" = "group2");

• Se a tabela ainda não estiver em nenhum CG, o SelectDB valida o esquema e a adiciona ao CG especificado (criando-o se necessário).

• Caso a tabela já esteja em um CG, o SelectDB a remove do CG atual e a adiciona ao CG especificado (criando-o se necessário).

Para remover a propriedade de colocation de uma tabela:

ALTER TABLE tbl SET ("colocate_with" = "");

Exclua uma tabela de colocation

Ao executar DROP TABLE, a tabela vai para a lixeira e permanece lá por um dia antes da exclusão permanente. Após a exclusão definitiva da última tabela de um CG, o grupo é removido automaticamente.

Restrições em alterações de esquema

Ao adicionar partições (ADD PARTITION) ou alterar a contagem de réplicas de uma tabela de colocation, o SelectDB valida a alteração em relação ao CGS. Se a mudança violar as restrições do CGS, o SelectDB a rejeitará.

Itens de configuração do FE

Os itens de configuração de frontend (FE) a seguir controlam o comportamento do colocation join. Modifique dinamicamente disable_colocate_relocate e disable_colocate_balance usando ADMIN SET CONFIG. Para visualizar os valores atuais ou consultar a sintaxe de configuração, execute HELP ADMIN SHOW CONFIG; e HELP ADMIN SET CONFIG;.

API RESTful HTTP

O SelectDB expõe endpoints de API RESTful HTTP para visualizar e gerenciar CGs. Os nós FE servem todos os endpoints em fe_host:fe_http_port e exigem função de administrador.

Visualize todas as informações de colocation:

GET /api/colocate

Retorna informações de colocation no formato JSON:

{
    "msg": "success",
    "code": 0,
    "data": {
        "infos": [
            ["10003.12002", "10003_group1", "10037, 10043", "1", "1", "int(11)", "true"]
        ],
        "unstableGroupIds": [],
        "allGroupIds": [{"dbId": 10003, "grpId": 12002}]
    },
    "count": 0
}

Marcar um CG como Stable:

DELETE /api/colocate/group_stable?db_id=10005&group_id=10008

Return value: 200

Marcar um CG como Unstable:

POST /api/colocate/group_stable?db_id=10005&group_id=10008

Return value: 200

Configure manualmente a distribuição de buckets:

POST /api/colocate/bucketseq?db_id=10005&group_id=10008

Body:
[[10004],[10003],[10002],[10003],[10002],[10003],[10003],[10003],[10003],[10002]]

Return value: 200

O corpo da requisição é um array aninhado em que cada elemento lista os IDs dos nós BE para aquele índice de bucket.

Funcionamento do reparo de réplicas

As réplicas de colocation ficam fixadas em nós BE específicos. Se um nó BE ficar inativo ou for descomissionado, o SelectDB seleciona o nó BE disponível com menor carga como substituto e inicia o reparo de todos os tablets afetados. Durante essa migração, o CG é marcado como Unstable.

Funcionamento do rebalanceamento de réplicas

Para tabelas comuns, o SelectDB equilibra as réplicas individualmente, encontrando um BE adequado para cada réplica de forma independente. Nas tabelas de colocation, o equilíbrio ocorre no nível do bucket: todas as réplicas de um bucket migram juntas para preservar a garantia de colocalização.

O algoritmo de balanceamento distribui a sequência de buckets entre os nós BE com base na contagem de réplicas, e não no tamanho real dos dados.

O algoritmo de balanceamento atual pode não distribuir a carga uniformemente em implantações heterogêneas, onde os nós BE possuem diferentes capacidades de disco, quantidades de discos ou tipos de disco (SSD vs. HDD). Nesses ambientes, nós de pequena e grande capacidade podem acabar mantendo o mesmo número de réplicas.

Se um CG se tornar Unstable e você quiser evitar que o rebalanceamento automático interrompa repetidamente as consultas, defina disable_colocate_balance como true. Altere de volta para false quando estiver pronto para permitir o rebalanceamento novamente.