当前位置: 首页 > article >正文

从零开始实现一个C++高性能服务器框架----配置模块

此项目是根据sylar框架实现,是从零开始重写sylar,也是对sylar丰富与完善
项目地址:https://gitee.com/lzhiqiang1999/server-framework

简介

项目介绍:实现了一个基于协程的服务器框架,支持多线程、多协程协同调度;支持以异步处理的方式提高服务器性能;封装了网络相关的模块,包括socket、http、servlet等,支持快速搭建HTTP服务器或WebSokcet服务器。
详细内容:日志模块,使用宏实现流式输出,支持同步日志与异步日志、自定义日志格式、日志级别、多日志分离等功能。线程模块,封装pthread相关方法,封装常用的锁包括(信号量,读写锁,自旋锁等)。IO协程调度模块,基于ucontext_t实现非对称协程模型,以线程池的方式实现多线程,多协程协同调度,同时依赖epoll实现了事件监听机制。定时器模块,使用最小堆管理定时器,配合IO协程调度模块可以完成基于协程的定时任务调度。hook模块,将同步的系统调用封装成异步操作(accept, recv, send等),配合IO协程调度能够极大的提升服务器性能。Http模块,封装了sokcet常用方法,支持http协议解析,客户端实现连接池发送请求,服务器端实现servlet模式处理客户端请求,支持单Reator多线程,多Reator多线程模式的服务器。

配置模块

在这里插入图片描述

1. 主要功能

  • 支持yaml格式的配置文件解析
  • 使用模板完成基础类型,复杂类型(vector、map、set等),自定义类型的序列化与反序列化
  • 利用回调机制,在加载配置时,完成配置的更新
  • 使用yaml-cpp库,实现配置文件读取
  • 约定大于配置

2. 功能演示

  • 配置文件test.yaml
tcp:
    connect:
            timeout: 10000
// 约定的配置
ConfigVar<int>::ptr tcp_config = Config::Lookup("tcp.connect.timeout", 5000, "tcp connect timeout");

LOG_INFO(LOG_ROOT()) << "before: " << tcp_config->getValue();	// before: 5000

// 读取配置文件
YAML::Node root = YAML::LoadFile("test.yaml");
// 加载配置文件,并更改配置值
Config::LoadFromYaml(root);

LOG_INFO(LOG_ROOT()) << "after: " << tcp_config->getValue();	// after: 10000

3. 模块介绍

3.1 ConfigVarBase

  • 配置基本信息。基类。
class ConfigVarBase
{
public:
	typedef std::shared_ptr<ConfigVarBase> ptr;
	ConfigVarBase(const std::string& name, const std::string& description = "")
		:m_name(name)
		,m_description(description)
	{
		//把名字都转换成小写
		std::transform(m_name.begin(), m_name.end(), m_name.begin(), ::tolower);
	}

	virtual ~ConfigVarBase() {}
	
	//get, set方法

	virtual std::string toString() = 0;						// 序列化,转换成string
	virtual bool fromString(const std::string& val) = 0;	/
protected:
	std::string m_name;					/// 配置的字段的名字
	std::string m_description;			/// 字段的描述
};

3.2 ConfigVar

  • 配置变量。使用模板的方式完成基本类型,复杂类型(vector、map、set等),自定义类型的序列化和反序列化
template<class T, class FromStr = LexicalCast<std::string, T>
					, class ToStr = LexicalCast<T, std::string>>
class ConfigVar : public ConfigVarBase
{
public:
		typedef RWMutex RWMutexType;
		typedef std::shared_ptr<ConfigVar> ptr;
		typedef std::function<void (const T& old_value, const T& new_value)> on_change_cb;
		std::string toString() override;
		bool fromString(const std::string& val) override;
		uint64_t addListener(on_change_cb cb);
		
private:
	T m_val;									///	配置变量
	std::map<uint64_t, on_change_cb> m_cbs;		/// 回调函数,当配置有改变时,回调
	RWMutexType m_mutex;						/// 读写锁,读多写少
}
  • 使用模板实现序列化与反序列化
    • ConfigVar 是一个模板类template<class T, class FromStr = LexicalCast<std::string, T>, class ToStr = LexicalCast<T, std::string>>,其中FromStr完成序列化(string to value);ToStr完成反序列化(value to string)。
    • 基本类型。F类型转为T类型
    /**
     * @brief 类型转换模板类(F 源类型, T 目标类型)
     */
    template<class F, class T>
    class LexicalCast {
    public:
    	/**
    	 * @brief 类型转换
    	 * @param[in] v 源类型值
    	 * @return 返回v转换后的目标类型
    	 * @exception 当类型不可转换时抛出异常
    	 */
    	T operator()(const F& v) {
    		return boost::lexical_cast<T>(v);
    	}
    };
    
    • vector的序列化与反序列化。
    /**
     * @brief 类型转换模板类片特化(YAML String 转换成 std::vector<T>)
     */
    template<class T>
    class LexicalCast<std::string, std::vector<T> > {
    public:
    	std::vector<T> operator()(const std::string& v) {
    		//"yaml string [1,2,3] 转换成yaml node"
    		YAML::Node node = YAML::Load(v);
    		typename std::vector<T> vec;
    		std::stringstream ss;
    		for (size_t i = 0; i < node.size(); ++i) {
    			ss.str("");
    			ss << node[i];
    			vec.push_back(LexicalCast<std::string, T>()(ss.str()));
    		}
    		return vec;
    	}
    };
    
    /**
     * @brief 类型转换模板类片特化(std::vector<T> 转换成 YAML String)
     */
    template<class T>
    class LexicalCast<std::vector<T>, std::string> {
    public:
    	std::string operator()(const std::vector<T>& v) {
    		YAML::Node node(YAML::NodeType::Sequence);
    		for (auto& i : v) {
    			node.push_back(YAML::Load(LexicalCast<T, std::string>()(i)));
    		}
    		std::stringstream ss;
    		ss << node;
    		return ss.str();
    	}
    };
    
    • map的序列化与反序列化。
    	/**
     * @brief 类型转换模板类片特化(YAML String 转换成 std::map<std::string, T>)
     */
    template<class T>
    class LexicalCast<std::string, std::map<std::string, T> > {
    public:
    	std::map<std::string, T> operator()(const std::string& v) {
    		YAML::Node node = YAML::Load(v);
    		typename std::map<std::string, T> vec;
    		std::stringstream ss;
    		for (auto it = node.begin();
    			it != node.end(); ++it) {
    			ss.str("");
    			ss << it->second;
    			vec.insert(std::make_pair(it->first.Scalar(),
    				LexicalCast<std::string, T>()(ss.str())));
    		}
    		return vec;
    	}
    };
    
    /**
     * @brief 类型转换模板类片特化(std::map<std::string, T> 转换成 YAML String)
     */
    template<class T>
    class LexicalCast<std::map<std::string, T>, std::string> {
    public:
    	std::string operator()(const std::map<std::string, T>& v) {
    		YAML::Node node(YAML::NodeType::Map);
    		for (auto& i : v) {
    			node[i.first] = YAML::Load(LexicalCast<T, std::string>()(i.second));
    		}
    		std::stringstream ss;
    		ss << node;
    		return ss.str();
    	}
    };
    
    • 自定义类型的序列化与反序列化将在后文讲解
  • ConfigVar如何完成序列化与反序列化
    • ConfigVar的模板 template<class T, class FromStr = LexicalCast<std::string, T>, class ToStr = LexicalCast<T, std::string>>。这里使用了模板偏特化,如果T是普通类型(int),会自动匹配到LexicalCast<std::string, int>;如果T是复杂类型(vector<int>),会自动匹配到LexicalCast<std::string, vector<int>>
    • 仿函数实现序列化
    //T to string YAML string
    std::string toString() override
    {
    	try
    	{
    		RWMutexType::ReadLock lock(m_mutex);
    		return  ToStr()(m_val);		// ToStr()(m_val)是仿函数,实际上是因为我们重写了operator()
    	}
    	catch (std::exception& e)
    	{
    		LOG_ERROR(LOG_ROOT()) << "ConfigVar::toString exception"
    			<< e.what() << " convert: " << typeid(m_val).name() << " to string";
    	}
    
    	return "";
    
    }
    
    • 仿函数实现反序列化
    //YAML string to T
    bool fromString(const std::string& val) override
    {
    	try
    	{
    		setValue(FromStr()(val));	// FromStr()(val)是仿函数,实际上是因为我们重写了operator()
    		return true;
    	}
    	catch (std::exception& e)
    	{
    		LOG_ERROR(LOG_ROOT()) << "ConfigVar::fromString exception"
    			<< e.what() << " convert: string to" << typeid(m_val).name();
    	}
    
    	return false;
    }
    
  • 回调机制。加载时完成配置更新。当fromString()时,会调用setValue(),此时会根据新值和旧值,判断是否需要调用回调,完成配置更新
typedef std::function<void (const T& old_value, const T& new_value)> on_change_cb;	// 回调函数的类型
std::map<uint64_t, on_change_cb> m_cbs;		/// 该配置的所有回调

// 添加监听器
uint64_t addListener(on_change_cb cb)
{
	//每次由系统决定key值,再返回,用于delListener
	static uint64_t s_idx = 0;
	RWMutexType::WriteLock lock(m_mutex);	
	++s_idx;
	m_cbs[s_idx] = cb;
	return s_idx;
}

// 设置配置值
void setValue(const T& value) 
{
	{
		RWMutexType::ReadLock lock(m_mutex);
		
		if (value == m_val) return;

		//只有当old 和 new不同时才回调
		for (auto& i : m_cbs)
		{
			i.second(m_val, value);
		}
	}
	RWMutexType::WriteLock lock(m_mutex);
	m_val = value; 
}
  • 这里使用了读写锁保证线程安全,因为配置模块主要是读多写少,能保证最大效率

3.3 Config

  • 配置管理。负责管理所有的配置信息static ConfigVarMap s_datas
//管理类
class Config
{
public:
	typedef RWMutex RWMutexType;
	typedef std::map<std::string, ConfigVarBase::ptr> ConfigVarMap;

	//查找一个配置变量,没找到就创建一个新的,放到s_datas
	//name:A.B
	template<class T>
	static typename ConfigVar<T>::ptr Lookup(const std::string& name, const T& default_value, const std::string& description = "");
	
	//查找name
	template<class T>
	static typename ConfigVar<T>::ptr Lookup(const std::string& name);
	//解析yaml文件,读取配置信息
	static void LoadFromYaml(const YAML::Node& root);
	//查看当前配置表的信息
	static void Visit(std::function<void(johnsonli::ConfigVarBase::ptr)> cb);
	
private:
	//查找name,返回ConfigVarBase::ptr
	static ConfigVarBase::ptr LookupBase(const std::string& name);
	
private:
	/**
	 * @brief 返回所有的配置项
	*/
	static ConfigVarMap& GetDatas() {
		static ConfigVarMap s_datas;
		return s_datas;
	}
	
	//如果是静态成员变量,可能对象会先创建出来,但是静态变量还没有初始化
	static RWMutexType& GetMutex()
	{
		static RWMutexType s_mutex;
		return s_mutex;
	}

};
  • 自定义类型的序列化与反序列化
    • 由于需要完成对日志的配置,因此需要完成对日志器的序列化与反序列化。这里我们需要先抽取出两个结构体 struct LogAppenderDefinestruct LogDefine
    //LogAppender
    struct LogAppenderDefine
    {
    	int type = 0; //1 File, 2 Stdout
    	LogLevel::Level level = LogLevel::UNKNOW;
    	std::string formatter;
    	std::string file;
    	
    	bool operator==(const LogAppenderDefine& oth) const
    	{
    		return type == oth.type
    			&& level == oth.level
    			&& formatter == oth.formatter
    			&& file == oth.file;
    	}
    };
    
    //Logger
    struct LogDefine
    {
    	std::string name;
    	LogLevel::Level level = LogLevel::UNKNOW;
    	std::vector<LogAppenderDefine> appenders;
    	
    	bool operator==(const LogDefine& oth) const
    	{
    		return name == oth.name
    			&& level == oth.level
    			&& appenders == oth.appenders;
    	}
    
    	bool operator<(const LogDefine& oth) const
    	{
    		return name < oth.name;
    	}
    };
    
    • struct LogDefine表示日志器的配置信息,因此需要完成日志器的序列化与反序列化
    //LogDefine偏特化 YAML string to LogDefine
    template<>
    class LexicalCast<std::string, LogDefine>
    {
    public:
    	LogDefine operator()(const std::string& str){...}
    };
    
    //LogDefine偏特化 LogDefine to YAML string 
    template<>
    class LexicalCast<LogDefine, std::string> 
    {
    public:
    	std::string operator()(const LogDefine& i) {...}
    };
    
    • 在加载日志配置时,我们添加了回调函数,实现在加载时就完成配置更改
    ConfigVar<std::set<LogDefine>>::ptr g_log_defines = Config::Lookup("logs", std::set<LogDefine>(), "logs config");
    // LoadFromYaml(YAML string to T) --> 在SetValue中观察者模式触发日志更改事件 --> 调用回调函数(添加、修改、删除) 
    struct  LogIniter
    {
    	LogIniter()
    	{
    		g_log_defines->addListener([] (const std::set<LogDefine>& old_val, const std::set<LogDefine>& new_val) 
    		{
    			// 添加,new_val有,old_val没有
    			// 修改,new_val有,old_val有,但不相同
    			// 删除,new_val没有,old_val有
    		}
    	}
    };
    static LogIniter __log_init;
    
    这里使用了一个方法,使得添加回调函数的执行在main函数之前。在类的构造函数中处理,声明静态变量,这样就会在main函数之前进行构造,完成处理。
    • 日志配置的格式
    logs:
      - name: root
        level: debug
        appenders:
          - type: FileLogAppender
            level: debug
            file: root.log
            formatter: "%d%TF%T[%p]%T[%c]%T%f:%l%T%m%n"
          - type: StdoutLogAppender
            level: debug
            formatter: "%d{%Y-%m-%d %H:%M:%S}%T%t%T%N%T%F%T[%p]%T[%c]%T%f:%l%T%m%n"
      - name: system
        level: debug
        appenders:
          - type: FileLogAppender
            level: debug
            file: root.log
            formatter: "%d%TF%T[%p]%T[%c]%T%f:%l%T%m%n"
          - type: StdoutLogAppender
            level: debug
            formatter: "%d{%Y-%m-%d %H:%M:%S}%T%t%T%N%T%F%T[%p]%T[%c]%T%f:%l%T%m%n"
    
  • 下图是整个加载Logger配置的过程
    在这里插入图片描述

http://www.kler.cn/a/6864.html

相关文章:

  • k8s上部署redis高可用集群
  • 20241116解决在WIN11和ubuntu20.04通过samba共享时出现局域网千兆带宽拉满的情况
  • golang开源框架:go开源验证框架validator
  • BERT模型中的嵌入后处理与注意力掩码
  • 父组件提交时让各自的子组件验证表格是否填写完整
  • Python 神经网络项目常用语法
  • 【华为机试真题详解JAVA实现】—整数与IP地址间的转换
  • plt常用绘图方法总结
  • 【游戏策划】消消乐游戏策划案
  • Windows11之QT开发框架超详细下载安装与使用教程
  • 【Java贪心】P1208 [USACO1.3]混合牛奶 Mixing Milk
  • mySql的配置文件 .ini
  • 办公工具-latex
  • (不打广告)推荐这款永久免费内网穿透软件-神卓互联
  • C#中的异常
  • 【趣味杂谈】ChatGPT,不止是第四次工业革命的开始
  • 网站都变成灰色了,怎么实现的?
  • 函数的返回值
  • ToBeWritten之Radare2 使用教程
  • [oeasy]python0129_unicode_中文字符序号_十三道大辙_字符编码解码_eval_火星文
  • Linux系统(Ubuntu) 安装和使用MySQL (5.0) ---- 保姆级教程
  • OD-求字符串中所有整数的最小和(Python)
  • 新加坡量子软件公司Horizon完成1810万美元A轮融资
  • 【多线程与高并发】1、线程的基本概念
  • 腾讯会议10秒编译百万代码|鹅厂编译加速标杆案例公开
  • 互联网坊间鄙视链,现在反过来了?