本文介绍如何使用云消息队列 Kafka 版提供的迁移工具将自建Kafka集群的Group迁移到云消息队列 Kafka 版实例。
前提条件
您已完成以下操作:- 下载JDK 8
- 下载迁移工具kafka-migration-assessment.jar
- 购买并部署云消息队列 Kafka 版实例:
操作步骤
- 打开命令行工具。
- 使用cd命令将路径切换到迁移工具所在目录。
- 创建配置文件kafka.properties。kafka.properties用于构造Kafka Consumer,从自建Kafka集群获取消费者位点信息。配置文件内容如下:
## 接入点。 bootstrap.servers=localhost:9092 ## Group ID。注意该Group不能有消费者位点信息,以保证能从第一个消息开始消费。 group.id=XXX ## 如果无安全配置,可以不配置以下内容。 ## SASL鉴权方式。 #sasl.mechanism=PLAIN ## 接入协议。 #security.protocol=SASL_SSL ## SSL根证书的路径。 #ssl.truststore.location=/Users/***/Documents/code/aliware-kafka-demos/main/resources/kafka.client.truststore.jks ## SSL密码。 #ssl.truststore.password=*** ## SASL路径。 #java.security.auth.login.config=/Users/***/kafka-java-demo/vpc-ssl/src/main/resources/kafka_client_jaas.conf
- 执行以下命令确认要迁移的Group。
java -jar kafka-migration-assessment.jar ConsumerGroupMigrationFromTopic --propertiesPath /usr/local/kafka_2.12-2.4.0/config/kafka.properties --destAk <yourAccessKeyId> --destSk <yourAccessKeySecret> --destRegionId <yourRegionId> --destInstanceId <yourInstanceId>
参数 描述 propertiesPath 配置文件kafka.properties的文件路径 destAk 目标云消息队列 Kafka 版实例所属阿里云账号的AccessKey ID destSk 目标云消息队列 Kafka 版实例所属阿里云账号的AccessKey Secret destRegionId 目标云消息队列 Kafka 版实例的地域ID destInstanceId 目标云消息队列 Kafka 版实例的ID 待确认的返回结果示例如下:15:29:45 INFO - Will create consumer groups:[XXX, test-consumer-group]
- 执行以下命令提交要迁移的Group。
java -jar kafka-migration-assessment.jar ConsumerGroupMigrationFromTopic --propertiesPath /usr/local/kafka_2.12-2.4.0/config/kafka.properties --destAk LTAI4FwQ5aK1mFYCspJ1**** --destSk wvDxjjRQ1tHPiL0oj7Y2Z7WDNk**** --destRegionId cn-hangzhou --destInstanceId alikafka_pre-cn-v0h1cng0**** --commit
参数 描述 commit 提交迁移 提交迁移的返回结果示例如下:15:35:51 INFO - cmd=ConsumerGroupMigrationFromTopic, request=null, response={"code":200,"requestId":"C9797848-FD4C-411F-966D-0D4AB5D12F55","success":true,"message":"operation success"} 15:35:51 INFO - ConsumerCreate success, consumer group=XXX 15:35:57 INFO - cmd=ConsumerGroupMigrationFromTopic, request=null, response={"code":200,"requestId":"3BCFDBF2-3CD9-4D48-92C3-385C8DBB9709","success":true,"message":"operation success"} 15:35:57 INFO - ConsumerCreate success, consumer group=test-consumer-group
提交迁移后,在云消息队列 Kafka 版控制台的迁移上云页面任务列表中,您可以看到实例ID为目标云消息队列 Kafka 版实例ID的任务。