当前位置: 首页 > article >正文

Flume基本使用--mysql数据输出

MySQL数据输出

在MySQL中建立数据库school,在数据库中建立表student。SQL语句如下:

create database school;
use school;
create table student(
        id   int not null,
        name   varchar(40),
        age   int,
        grade   int,
        primary   key(id)
);

请使用Flume实时捕捉MySQL数据库中的记录更新,一旦有新的记录生成,就捕获该记录并显示到控制台。可以使用如下SQL语句模拟MySQL数据库中的记录生成操作。


insert into   student(id,name,age,grade)value(1,'Xiaoming',23,98);

insert into   student(id,name,age,grade)value(2,'Zhangsan',24,96);

insert into   student(id,name,age,grade)value(3,'Lisi',24,93);

insert into   student(id,name,age,grade)value(4,'Wangwu',21,91);

insert into   student(id,name,age,grade)value(5,'Weiliu',21,91);

要求:

(1)给出配置文件

安装好flume-ng-sql-source-1.5.2.jar以及mysql-connector-java-8.0.23.jar

#设置名称
a1.sources=r1
a1.sinks=k1
a1.channels=c1

#配置Source
a1.sources.r1.type=org.keedio.flume.source.SQLSource
a1.sources.r1.hibernate.connection.url=jdbc:mysql://localhost:3306/school
a1.sources.r1.hibernate.connection.user=root
a1.sources.r1.hibernate.connection.password=123456
a1.sources.r1.hibernate.connection.autocommit=true
a1.sources.r1.table=student
a1.sources.r1.run.query.delay=5000
a1.sources.r1.status.file.path=C:/software/apache-flume-1.9.0-bin
a1.sources.r1.status.file.name=a1.status

#配置Sink
a1.sinks.k1.type=logger

#配置channels
a1.channels.c1.type=memory

#绑定sink source到channels上
a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

(2)写出启动Flume的命令

新建一个cmd窗口,输入如下命令启动Flume:

> cd C:\apache-flume-1.9.0-bin

> .\bin\flume-ng agent --conf .\conf --conf-file .\conf\znconsole.conf --name a1 -property flume.root.logger=INFO,console

(3)在MySQL窗口中执行如下SQL语句,向数据库中插入记录后,在Flume窗口将运行结果展出来

建表,插入数据

Flume接收到数据,可以看到我在插入数据时还把自己的名字发过去了


http://www.kler.cn/a/106177.html

相关文章:

  • 计算机编程中的设计模式及其在简化复杂系统设计中的应用
  • 储能技术中锂离子电池的优势和劣势
  • 消息队列原理面试题及参考答案
  • 【MySQL】InnoDB内存结构
  • 【windows笔记】08-Windows中的各种快捷方式、符号链接、目录联接、硬链接的区别和使用方法
  • 动态规划-完全背包问题——322.零钱兑换
  • 微前端qiankun接入Vue和React项目
  • CNN实现与训练--------------以cifar10数据集为例进行演示(基于Tensorflow)
  • JDK11下载、安装与配置、运行第一个Java程序教程
  • 虹科 | 解决方案 | 汽车示波器 学校教学方案
  • 安装 tensorflow==1.15.2 遇见的问题
  • 一文了解独立站黑科技:clock斗篷技术
  • [推荐]Linux安装与配置虚拟机之虚拟机服务器坏境配置
  • Elasticsearch:使用 Open AI 和 Langchain 的 RAG - Retrieval Augmented Generation (一)
  • 『第七章』翩翩起舞的雨燕:顺序与并发执行
  • Games104现代游戏引擎笔记 网络游戏架构基础
  • 4.1 网络基础之网络IO
  • Cloak斗篷、AB轮询收款科技详解,FP独立站原来可以这样玩!
  • 部署Vue项目到githubPage中
  • 网页禁止右键 禁止F12 JavaScript禁止F12 禁止右键菜单 包含 js、Jquery、Vue
  • 7 IT Career Paths and How to Get Started in 2023
  • 智慧公厕:细致入微的城市贴心服务与便捷方便的生活配套
  • leetcode第80题:删除有序数组中的重复项 II
  • SourceTree 使用
  • cocosCreator 之 crypto-es数据加密
  • 计讯物联外贸公司--佰沃恩应邀出席第三届“嘉庚论坛”—科技创新推动经济高质量发展分论坛