当前位置： 首页 > news >正文

docker安装单机版canal和使用

news 2025/9/6 14:05:35

说明：我安装的组件架构如下：
在这里插入图片描述

1、准备一台虚拟机，192.168.2.223，我安装的时候，docker只支持canal1.1.6版本，1.1.7无法使用docker安装.还有一点要补充，就是1.1.6好像不支持es8.0以上版本（官网说的是1.7版本才有es8.0以上.）。
2、登录数据库的主机，修改数据库的配置

#修改mysql的配置文件，在[mysqld]下添加以下内容
server_id=1
# 开启binlog
log_bin = mysql-bin
# 选择row模式
binlog_format = ROW

#查看开启命令拓展，这个用于和instance配置的数据库进行使用，安装canal-admin的数据库可以不开启blog，但是同步到数据库需要开启
show variables like 'log_bin';
show variables like 'binlog_format';
show variables like '%server_id%';

3、获取安装包和准备数据

mkdir -p /root/canal
cd /root/canal
#下载文件包
wget https://github.com/alibaba/canal/releases/download/canal-1.1.6/canal.admin-1.1.6.tar.gz
mkdir canal-admin
tar -zxvf canal.admin-1.1.6.tar.gz -C canal-admin
#把cat的回显记录下来，拿到自己准备的mysql上去创建需要的数据表。因为容器部署不支持source命令，所以手动记录下来进行执行
cat /root/canal/conf/canal_manager.sql#去到安装mysql的主机，登录mysql
mysql -u 用户名 -p 密码
create database canal_manager;
grant all privileges on canal_manager.* to canal@'%' identified by 'canal'
flush privileges;
exit
mysql -ucanal -pcanal
use canal_manager; 
#执行cat的内容

下载的cana .admin-1.1.6.tar.gz安装包太慢的话，1.1.7本部也适用的，因为我后续需要安装1.7版本，所以提供1.7版本，可以通过我百度云进行下载：
链接：https://pan.baidu.com/s/1FDAcyTiFEZEITX0gAXOnmw
提取码：70j9
4、部署安装

#执行安装，账号密码可以自定义
docker run  --privileged -p 8089:8089 -v /opt/canal-admin/conf:/root/canal/conf -v /opt/canal-admin/logs:/root/canal/logs  --name canal-admin -e spring.datasource.address="数据库的ip:端口/canal_manager?allowMultiQueries=true&useUnicod=true&charac terEncodin=utf-8&serverTimezone=CTT&allowPublicKeyRetrieval=true&useSSL= false" -e spring.datasource.username=canal -e spring.datasource.password=canal -e canal.adminPasswd=123456 -d canal/canal-admin:v1.1.7
#登录canal-admin，ip为安装主机ip,端口为8089,用户为admin，密码为123456
#注：canal_manager.sql 提供的脚本中，canal_user 表提供的默认⽤户名为： canal，密码为：6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9，也就是 SELECT PASSWORD('123456'); 的值
所以登陆 canal-admin 管理平台的⽤户名就是 admin/123456

在这里插入图片描述
5、安装canal-server

#安装,这些账号密码可以自定义
docker run  -p 11111:11111 --name canal-server01 -e canal.admin.register.auto=true  -e canal.admin.register.name=canal-server01 -e canal.admin.manager=192.168.2.223:8089 -e canal.admin.port=11110 -e canal.admin.user=admin -e canal.admin.passwd=6BB4837EB74329105EE4568DDA7DC67ED2CA2AD9  -d canal/canal-server:v1.1.6

部署完成就可以看到server了,这里的serverip是容器的ip，我们不需要进行修改，修改会导致异常的。当我们需要使用的时候直接填写宿主机ip即可。
在这里插入图片描述
在操作配置中可以根据自己服务进行自定义和填写，这里就不说明了。
在这里插入图片描述

6、创建instance，在Instance 管理里点击新建，输入名称，和选择server

#输入
# mysql集群配置中的serverId概念，需要保证和当前mysql集群中id唯⼀ (v1.1.x版本之后c anal会⾃动⽣成，不需要⼿⼯指定) 
# canal.instance.mysql.slaveId=0 
# mysql主库链接地址 
canal.instance.master.address=mysql地址:port端口
# mysql主库链接时起始的binlog⽂件 
canal.instance.master.journal.name= 
# mysql主库链接时起始的binlog偏移量 
canal.instance.master.position= 
# mysql主库链接时起始的binlog的时间戳 
canal.instance.master.timestamp= 
# mysql数据库帐号(此处的⽤户名和密码为 安装canal#mysql配置相关#创建canal⽤户 这⼀步 创建的⽤户名和密码) 
canal.instance.dbUsername=root 
# mysql数据库密码 
canal.instance.dbPassword=123456
# mysql 数据解析编码 
canal.instance.connectionCharset=UTF-8 
# mysql 数据解析关注的表，Perl正则表达式，即我们需要关注那些库和那些表的binlog数据， 也可以在canal client api中⼿动覆盖 
canal.instance.filter.regex=.*\\..* 
# table black regex 
# mysql 数据解析表的⿊名单，表达式规则⻅⽩名单的规则 ,这里我过滤掉了BASE TABLE，不然启动会报错
canal.instance.filter.black.regex=mysql\\.slave_.*,.*BASE TABLE

在这里插入图片描述

7、新建sringboot项目，idea默认创建的是高版本，我调整了配置如下，然后下一步，下一步进行添加搜索和添加一些必要的依赖。熟悉的也可以通过pom文件自定义添加

https://start.aliyun.com/

在这里插入图片描述
在这里插入图片描述

8、创建和启动验证，具体业务需要自己去自定义

在pom文件中添加依赖
<dependency><groupId>com.alibaba.otter</groupId><artifactId>canal.client</artifactId><version>1.1.0</version></dependency>

创建测试类SimpleCanalClientExample

package com.example.demo;import java.net.InetSocketAddress;
import java.util.List;import com.alibaba.otter.canal.client.CanalConnectors;
import com.alibaba.otter.canal.client.CanalConnector;
import com.alibaba.otter.canal.common.utils.AddressUtils;
import com.alibaba.otter.canal.protocol.Message;
import com.alibaba.otter.canal.protocol.CanalEntry.Column;
import com.alibaba.otter.canal.protocol.CanalEntry.Entry;
import com.alibaba.otter.canal.protocol.CanalEntry.EntryType;
import com.alibaba.otter.canal.protocol.CanalEntry.EventType;
import com.alibaba.otter.canal.protocol.CanalEntry.RowChange;
import com.alibaba.otter.canal.protocol.CanalEntry.RowData;public class SimpleCanalClientExample {public static void main(String args[]) {// 创建链接CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress("192.168.2.223",11111), "test", "", "");int batchSize = 1000;int emptyCount = 0;try {connector.connect();connector.subscribe(".*\\..*");connector.rollback();int totalEmptyCount = 120;while (emptyCount < totalEmptyCount) {Message message = connector.getWithoutAck(batchSize); // 获取指定数量的数据long batchId = message.getId();int size = message.getEntries().size();if (batchId == -1 || size == 0) {emptyCount++;System.out.println("empty count : " + emptyCount);try {Thread.sleep(1000);} catch (InterruptedException e) {}} else {emptyCount = 0;// System.out.printf("message[batchId=%s,size=%s] \n", batchId, size);printEntry(message.getEntries());}connector.ack(batchId); // 提交确认// connector.rollback(batchId); // 处理失败, 回滚数据}System.out.println("empty too many times, exit");} finally {connector.disconnect();}}private static void printEntry(List<Entry> entrys) {for (Entry entry : entrys) {if (entry.getEntryType() == EntryType.TRANSACTIONBEGIN || entry.getEntryType() == EntryType.TRANSACTIONEND) {continue;}RowChange rowChage = null;try {rowChage = RowChange.parseFrom(entry.getStoreValue());} catch (Exception e) {throw new RuntimeException("ERROR ## parser of eromanga-event has an error , data:" + entry.toString(),e);}EventType eventType = rowChage.getEventType();System.out.println(String.format("================&gt; binlog[%s:%s] , name[%s,%s] , eventType : %s",entry.getHeader().getLogfileName(), entry.getHeader().getLogfileOffset(),entry.getHeader().getSchemaName(), entry.getHeader().getTableName(),eventType));for (RowData rowData : rowChage.getRowDatasList()) {if (eventType == EventType.DELETE) {printColumn(rowData.getBeforeColumnsList());} else if (eventType == EventType.INSERT) {printColumn(rowData.getAfterColumnsList());} else {System.out.println("-------&gt; before");printColumn(rowData.getBeforeColumnsList());System.out.println("-------&gt; after");printColumn(rowData.getAfterColumnsList());}}}}private static void printColumn(List<Column> columns) {for (Column column : columns) {System.out.println(column.getName() + " : " + column.getValue() + "    update=" + column.getUpdated());}}}

9、随便去instance配置的数据库修改数据，查看控制台输出

在这里插入图片描述
10，有问题可以去官网找找处理方法
https://github.com/alibaba/canal/issues

http://www.lryc.cn/news/307897.html

相关文章：

  • qt_xml文件
  • 【DAY05 软考中级备考笔记】线性表，栈和队列，串数组矩阵和广义表
  • AutoGen Studio助力打造私人GPTs
  • SpringBoot 自定义映射规则resultMap association一对一
  • 华东地区汽车相关夹具配套企业分布图，你了解多少？
  • SpringBoot - 后端数据返回前端各个数据类型全局格式化
  • 实验室记账项目（java+Mysql+jdbc）
  • spring boot 整合 minio存储 【使用篇】
  • 【Redis】深入理解 Redis 常用数据类型源码及底层实现(5.详解List数据结构)
  • Vue+Flask电商后台管理系统
  • SpringBoot保姆级入门文档
  • Springboot同一台服务器部署多个项目，导致redis混淆，如何根据不同项目区分
  • redis启动错误
  • 单片机烧录方式 -- IAP、ISP和ICP
  • 数据结构（C语言版）01
  • Node.js-文件读取输入
  • 时隔一年的测评：gpt3.5发展到什么程度了？
  • [RCTF2015]EasySQL1 题目分析与详解
  • 开源的 Python 数据分析库Pandas 简介
  • LeetCode 2125.银行中的激光束数量
  • 【探索AI】Sora - 探索AI视频模型的无限可能
  • NGINX的重写与反向代理机制解析
  • JVM的深入理解
  • JavaWeb——007MYSQL(DQL多表设计)
  • 深度学习500问——Chapter01：数学基础
  • day03_登录注销(前端接入登录,异常处理, 图片验证码,获取用户信息接口,退出功能)
  • k8s初始化报错 [ERROR CRI]: container runtime is not running: ......
  • vscode windows 免密登录 powershell.sh
  • 10 种3D 建模技术
  • 常见的socket函数封装和多进程和多线程实现服务器并发