canal配置之一:admin配置
强烈建议一定要先配置canal-admin!!因为canal不同的版本要修改的配置文件的配置、配置文件本身存放的地方、配置的名称!都会改变!服了!!
canal-admin
相当于网页管理端。
canal-server
又叫canal服务器。
1、下载并解压
canal-admin 1.1.5
https://github.com/alibaba/canal/releases/download/canal-1.1.5/canal.admin-1.1.5.tar.gz
canal-server 1.1.7
Releases · alibaba/canal (github.com)
2、配置application.yml
打开conf/application.yml
其中address是你mysql启动时的端口,一般都不需要改,除非你的端口不是在3306。
username和password改成mysql登录时的用户名和密码。注意退出时保存。
3、运行canal_manage.sql
在本地的mysql中运行conf/canal_manager.sql,可以通过navicat直接运行sql文件。
4、启动canal-admin
双击bin/startup.bat,可以看到语句如下,即服务正常启动。
5、打开网页
输入https://localhost:8089或https://127.0.0.1:8089打开网页。输入admin和123456
问题:网页提示此站点不安全(localhost发送了无效的响应)
将网址换为http://localhost:8089或http://127.0.0.1:8089即可成功打开网页。
6、启动canal-server
返回到canal的下载根目录,譬如我安装的canal放到了“D:\重要文件保护\Desktop\canal.deployer-1.1.7-SNAPSHOT”,则在该目录下打开终端,输入: .\bin\startup.bat local
如下,打开成功。
返回到admin网页,发现Server管理下多出了一个Server。
7、Mysql授权
打开mysql安装目录下的my.ini(win是my.ini,mac是my.cnf)
将[mysqld]中的代码新增或修改以下内容
[mysqld]
log-bin=mysql-bin # 开启 binlog
binlog-format=ROW # 选择 ROW 模式
server_id=1
随后打开navicat新建查询并输入运行以下代码:
作用是新增用户并授权。
CREATE USER canal IDENTIFIED BY 'canal';
GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO '123456'@'%';
-- GRANT ALL PRIVILEGES ON *.* TO 'canal'@'%' ;
FLUSH PRIVILEGES;
然后win+r,打开运行窗口,输入services.msc
找到mysql服务,点击重启。
然后打开navicat,新建查询,输入:
show variables like 'log_bin';
发现为”ON“即成功。
问题:无论怎么修改,都是OFF
请见我的另一篇文章:
8、配置instance
去“Instance列表”“
新增Instance”
,并点击“载入模版”。
代办:
new InetSocketAddress("127.0.0.1", 11111)
:这是 Canal 服务器的地址和端口号。在这个例子中,Canal 服务器运行在本地主机(127.0.0.1
)的11111
端口上。"example"
:这是 Canal 实例的名称。Canal 支持多个实例,每个实例可以监听不同的数据库。在这个例子中,我们连接到名为example
的 Canal 实例。"root"
:这是用于连接到 Canal 服务器的用户名。"123456"
:这是用于连接到 Canal 服务器的密码。
Canal 服务器的地址和端口号可以在 Canal 服务器的配置文件中进行配置。Canal 服务器的配置文件通常位于 Canal 安装目录的 conf
文件夹下,文件名为 canal.properties
。
在 canal.properties
文件中,您可以找到以下两行配置:
canal.ip = 127.0.0.1
canal.port = 11111
canal服务器就是canal server。
Canal Admin 的默认用户名和密码分别为 admin
和 123456
。您可以在 Canal Admin 的配置文件中更改这些值。Canal Admin 的配置文件通常位于 Canal Admin 安装目录的 conf
文件夹下,文件名为 application.yml
。
在 application.yml
文件中,您可以找到以下配置:
spring:
datasource:
url: jdbc:mysql://127.0.0.1:3306/canal_manager?useUnicode=true
username: canal
password: canal
127.0.0.1 11111 example admin 123456 x
127.0.0.1 11111 example root 123456
127.0.0.1 8089 example admin 123456 x
127.0.0.1 8089 example root123456 x
1、
canal.ip =8.42.85.222:8806
canal.port=1111
canal.user和canal.passw都注释掉了
canal.admin.port=11110
canal.admin.user=admin
×
import java.net.InetSocketAddress;
import java.util.List;
import com.alibaba.otter.canal.client.CanalConnector;
import com.alibaba.otter.canal.client.CanalConnectors;
import com.alibaba.otter.canal.protocol.CanalEntry.Column;
import com.alibaba.otter.canal.protocol.CanalEntry.Entry;
import com.alibaba.otter.canal.protocol.CanalEntry.EntryType;
import com.alibaba.otter.canal.protocol.CanalEntry.EventType;
import com.alibaba.otter.canal.protocol.CanalEntry.RowChange;
import com.alibaba.otter.canal.protocol.CanalEntry.RowData;
import com.alibaba.otter.canal.protocol.Message;
public class CanalClient {
public static void main(String args[]) {
// 创建链接
CanalConnector connector = CanalConnectors.newSingleConnector(new InetSocketAddress("127.0.0.1", 11111),
"example", "", "");
int batchSize = 1000;
int emptyCount = 0;
try {
connector.connect();
connector.subscribe(".*\\..*");
connector.rollback();
int totalEmtryCount = 1200;
while (emptyCount < totalEmtryCount) {
Message message = connector.getWithoutAck(batchSize); // 获取指定数量的数据
long batchId = message.getId();
int size = message.getEntries().size();
if (batchId == -1 || size == 0) {
emptyCount++;
// System.out.println("empty count : " + emptyCount);
try {
Thread.sleep(1000);
} catch (InterruptedException e) {
e.printStackTrace();
}
} else {
emptyCount = 0;
// System.out.printf("message[batchId=%s,size=%s] \n", batchId, size);
printEntry(message.getEntries());
}
connector.ack(batchId); // 提交确认
// connector.rollback(batchId); // 处理失败, 回滚数据
}
System.out.println("empty too many times, exit");
} finally {
connector.disconnect();
}
}
private static void printEntry(List<Entry> entrys) {
for (Entry entry : entrys) {
if (entry.getEntryType() == EntryType.TRANSACTIONBEGIN
|| entry.getEntryType() == EntryType.TRANSACTIONEND) {
continue;
}
RowChange rowChage = null;
try {
rowChage = RowChange.parseFrom(entry.getStoreValue());
} catch (Exception e) {
throw new RuntimeException("ERROR ## parser of eromanga-event has an error , data:" + entry.toString(),
e);
}
EventType eventType = rowChage.getEventType();
System.out.println(String.format("================> binlog[%s:%s] , name[%s,%s] , eventType : %s",
entry.getHeader().getLogfileName(), entry.getHeader().getLogfileOffset(),
entry.getHeader().getSchemaName(), entry.getHeader().getTableName(), eventType));
for (RowData rowData : rowChage.getRowDatasList()) {
if (eventType == EventType.DELETE) {
printColumn(rowData.getBeforeColumnsList());
} else if (eventType == EventType.INSERT) {
printColumn(rowData.getAfterColumnsList());
} else {
System.out.println("-------> before");
printColumn(rowData.getBeforeColumnsList());
System.out.println("-------> after");
printColumn(rowData.getAfterColumnsList());
}
}
}
}
private static void printColumn(List<Column> columns) {
for (Column column : columns) {
System.out.println(column.getName() + " : " + column.getValue() + " update=" + column.getUpdated());
}
}
}
主服务器my1.ini:
[mysqld]
# 设置3308端口
port=3308
log-bin=mysql-bin # 开启 binlog
binlog-format=ROW # 选择 ROW 模式
server_id=8
# 设置mysql的安装目录 ----------是你的文件路径-------------
basedir=D:\MySQL
# 设置mysql数据库的数据的存放目录 ---------是你的文件路径data文件夹自行创建
datadir=D:\MySQL\data1
# 允许最大连接数
max_connections=200
# 允许连接失败的次数。
max_connect_errors=10
# 服务端使用的字符集默认为utf8mb4
character-set-server=utf8mb4
# 创建新表时将使用的默认存储引擎
default-storage-engine=INNODB
# 默认使用“mysql_native_password”插件认证
#mysql_native_password
default_authentication_plugin=mysql_native_password
[mysql]
# 设置mysql客户端默认字符集
default-character-set=utf8mb4
[client]
# 设置mysql客户端连接服务端时默认使用的端口
port=3308
default-character-set=utf8mb4
从服务器my2.ini:
[mysqld]
# 设置3306端口
port=3309
log-bin=mysql-bin # 开启 binlog
binlog-format=ROW # 选择 ROW 模式
server_id=9
change master to
master_host = '127.0.0.1',
master_user = 'master8',
master_password = '123456',
master_port = 3307,
master_log_file = 'LAPTOP-VS8CLBV2-bin.000021',
mysql-bin.000001
master_log_pos = 3668;
154
CHANGE MASTER TO
MASTER_HOST = '120.79.221.206',
MASTER_USER = 'canal_master_test',
MASTER_PASSWORD = '123456',
MASTER_LOG_FILE = 'mysql-bin.000001',
MASTER_LOG_POS = 154;
CREATE USER 'canal_master_test'@'%' IDENTIFIED BY '123456';
GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal_master_test'@'%';
FLUSH PRIVILEGES;
CREATE USER 'canal_slave_test'@'%' IDENTIFIED BY '123456';
GRANT REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal_slave_test'@'%';
FLUSH PRIVILEGES;
重点看Slave_IO_State和Slave_SQL_Running。
Slave_IO_State: Waiting to reconnect after a failed registration on master什么意思
Slave_IO_State: Waiting to reconnect after a failed registration on master
Message[id=9,entries=[header {
version: 1
logfileName: "LAPTOP-VS8CLBV2-bin.000021"
logfileOffset: 7163
serverId: 1
serverenCode: "UTF-8"
executeTime: 1692083556000
sourceType: MYSQL
schemaName: ""
tableName: ""
eventLength: 86
}
entryType: TRANSACTIONBEGIN
storeValue: " Z"
, header {
version: 1
logfileName: "LAPTOP-VS8CLBV2-bin.000021"
logfileOffset: 7308
serverId: 1
serverenCode: "UTF-8"
executeTime: 1692083556000
sourceType: MYSQL
schemaName: "master"
tableName: "sss"
eventLength: 55
eventType: UPDATE
props {
key: "rowsCount"
value: "1"
}
}
entryType: ROWDATA
storeValue: "\bk\020\002P\000bw\n#\b\000\020\f\032\003sss \000(\0000\000B\004tttsR\fvarchar(255)\n\026\b\001\020\004\032\002id \001(\0000\000B\0012R\003int\022 \b\000\020\f\032\003sss \000(\0010\000B\001tR\fvarchar(255)\022\026\b\001\020\004\032\002id \001(\0000\000B\0012R\003int"
, header {
version: 1
logfileName: "LAPTOP-VS8CLBV2-bin.000021"
logfileOffset: 7363
serverId: 1
serverenCode: "UTF-8"
executeTime: 1692083556000
sourceType: MYSQL
schemaName: ""
tableName: ""
eventLength: 31
}
entryType: TRANSACTIONEND
storeValue: "\022\003972"
],raw=false,rawEntries=[]]
tableId: 107
eventType: UPDATE
isDdl: false
rowDatas {
beforeColumns {
index: 0
sqlType: 12
name: "sss"
isKey: false
updated: false
isNull: false
value: "ttts"
mysqlType: "varchar(255)"
}
beforeColumns {
index: 1
sqlType: 4
name: "id"
isKey: true
updated: false
isNull: false
value: "2"
mysqlType: "int"
}
afterColumns {
index: 0
sqlType: 12
name: "sss"
isKey: false
updated: true
isNull: false
value: "t"
mysqlType: "varchar(255)"
}
afterColumns {
index: 1
sqlType: 4
name: "id"
isKey: true
updated: false
isNull: false
value: "2"
mysqlType: "int"
}
}
update
connected
sql
REPLACE INTO sss(sss,id) VALUES ('t','2')
进程已结束,退出代码130
120.79.221.206
mysql-bin.000003
154