本项⽬主要实现⼀个⽇志系统, 其主要⽀持以下功能:
本项⽬不依赖其他任何第三⽅库, 只需要安装好CentOS/Ubuntu + vscode/vim环境即可开发。
⽇志系统的技术实现主要包括三种类型:
printf、std::cout
等输出函数将⽇志信息打印到控制台;同步⽇志
和异步⽇志
⽅式。同步日志是指当输出日志时,必须等待⽇志输出语句执⾏完毕后,才能执⾏后⾯的业务逻辑语句,日志输出语句与程序的业务逻辑语句将在同⼀个线程运⾏。每次调⽤⼀次打印⽇志API就对应⼀次系统调⽤write写⽇志⽂件。
但是在⾼并发场景下,随着⽇志数量不断增加,同步⽇志系统容易产⽣系统瓶颈:
write
系统调⽤,有⼀定系统开销;异步日志是指在进行日志输出时,日志输出语句与业务逻辑语句并不是在同⼀个线程中运行,⽽是有专⻔的线程⽤于进⾏⽇志输出操作。业务线程只需要将⽇志放到⼀个内存缓冲区中不⽤等待即可继续执后续业务逻辑(作为⽇志的⽣产者),⽽⽇志的落地操作交给单独的⽇志线程去完成(作为⽇志的消费者), 这是⼀个典型的生产者-消费者模型。
这样做的好处是即使日志没有真的完成输出也不会影响程序的主业务,可以提⾼程序的性能:
在初学C语⾔的时候,我们都⽤过printf函数
进⾏打印。其中printf函数就是⼀个不定参函数,在函数内部可以根据格式化字符串中格式化字符分别获取不同的参数进⾏数据的格式化。而这种不定参函数在实际的使⽤中也⾮常多见。
#include
#include
#define LOG(fmt, ...) printf("[%s:%d] " fmt "\n", __FILE__, __LINE__, ##__VA_ARGS__)
int main()
{
LOG("%s-%s", "hello", "world");
return 0;
}
#include
#include
void printNum(int n, ...)
{
va_list al;
va_start(al, n);//让al指向n参数之后的第⼀个可变参数
for (int i = 0; i < n; i++)
{
int num = va_arg(al, int);//从可变参数中取出⼀个整形参数
std::cout << num << std::endl;
}
va_end(al);//清空可变参数列表--其实是将al置空
}
int main()
{
printNum(3, 11, 22, 33);
printNum(5, 45, 56, 67, 78, 89);
return 0;
}
#include
void my_printf()
{
std::cout << std::endl;
}
template<typename T, typename ...Args>
void my_printf(const T& value, Args &&...args)
{
std::cout << value << " ";
if ((sizeof ...(args)) > 0)
{
my_printf(std::forward<Args>(args)...);
}
else
{
my_printf();
}
}
int main()
{
my_printf("hello");
my_printf("hello", 666);
my_printf("hello", "world", 666);
return 0;
}
设计模式是大佬们对代码开发经验的总结,是解决特定问题的⼀系列套路。它不是语法规定,⽽是⼀套⽤来提⾼代码可复⽤性、可维护性、可读性、稳健性以及安全性的解决方案。
1️⃣单⼀职责原则(Single Responsibility Principle)
类的职责应该单⼀,⼀个方法只做⼀件事。职责划分清晰了,每次改动到最小单位的⽅法或类;使用建议:两个完全不⼀样的功能不应该放⼀个类中,⼀个类中应该是⼀组相关性很⾼的函数、数据的封装;比如:在网络聊天中,应该分割成为网络通信类 & 聊天类。
2️⃣开闭原则(Open Closed Principle)
对扩展开放,对修改封闭。使⽤建议:对软件实体的改动,最好⽤扩展而非修改的⽅式;比如在超时卖货中,商品价格并不是修改商品的原来价格,而是新增促销价格。
3️⃣里氏替换原则(Liskov Substitution Principle)
通俗点讲,就是只要父类能出现的地方,子类就可以出现,而且替换为子类也不会产⽣任何错误或异常;在继承类时,务必重写⽗类中所有的⽅法,尤其需要注意⽗类的protected⽅法,子类尽量不要暴露⾃⼰的public⽅法供外界调⽤。使⽤建议:子类必须完全实现⽗类的⽅法,且⼦类可以有⾃⼰的个性,覆盖或实现⽗类的⽅法时,输⼊参数可以被放⼤,输出可以缩⼩;比如跑步运动员类-会跑步,子类长跑运动员-会跑步且擅长长跑, 子类短跑运动员-会跑步且擅⻓短跑。
4️⃣依赖倒置原则(Dependence Inversion Principle)
高层模块不应该依赖低层模块,两者都应该依赖其抽象. 不可分割的原子逻辑就是低层模式,原⼦逻辑组装成的就是⾼层模块;模块间依赖通过抽象(接⼝)发⽣,具体类之间不直接依赖。使⽤建议:每个类都尽量有抽象类,任何类都不应该从具体类派生;尽量不要重写基类的方法;结合里氏替换原则使⽤。例如奔驰车司机类–只能开奔驰; 司机类–给什么⻋,就开什么⻋; 开车的人–依赖于抽象。
5️⃣迪米特法则(Law of Demeter)
⼜叫“最少知道法则”,尽量减少对象之间的交互,从⽽减⼩类之间的耦合。⼀个对象应该对其他对象最少的了解;对类的低耦合提出了明确的要求:只和直接的朋友交流, 朋友之间也是有距离的,⾃⼰的就是⾃⼰的(如果⼀个⽅法放在本类中,既不增加类间关系,也对本类不产⽣负⾯影响,那就放置在本类中)比如⽼师让班⻓点名,⽼师给班⻓⼀个名单,班⻓完成点名勾选,返回结果,⽽不是班⻓点名,⽼师勾选。
6️⃣接口隔离原则(Interface Segregation Principle)
客户端不应该依赖它不需要的接⼝,类间的依赖关系应该建⽴在最小的接⼝上。使⽤建议:接⼝设计尽量精简单⼀,但是不要对外暴露没有实际意义的接⼝。比如在修改密码时,不应该提供修改用户信息接⼝,⽽提供单⼀的最小修改密码接⼝,更不要暴露数据库操作。
从整体上来理解六⼤设计原则,可以简要的概括为⼀句话:⽤抽象构建框架,用实现扩展细节,具体到每⼀条设计原则,则对应⼀条注意事项:
⼀个类只能创建⼀个对象,即单例模式,该设计模式可以保证系统中该类只有⼀个实例,并提供⼀个访问它的全局访问点,该实例被所有程序模块共享。⽐如在某个服务器程序中,该服务器的配置信息存放在⼀个⽂件中,这些配置数据由⼀个单例对象统⼀读取,然后服务进程中的其他对象再通过这个单例对象获取这些配置信息,这种⽅式简化了在复杂环境下的配置管理。
单例模式有两种实现模式:饿汉模式和懒汉模式
class Singleton
{
private:
static Singleton _eton;
Singleton() {}
Singleton(const Singleton&) = delete;
Singleton& operator=(const Singleton&) = delete;
public:
static Singleton& getInstance()
{
return _eton;
}
};
Singleton Singleton::_eton;
在之前讲解线程池的时候博主是用了双重if条件判断
来加锁,这里介绍一种更为简便的方式:
这⾥介绍的是《Effective C++》⼀书作者 Scott Meyers 提出的⼀种更加优雅简便的单例模式:C++11 Static local variables 特性以确保,C++11起,静态变量将能够在满足thread-safe的前提下唯⼀地被构造和析构。
所以我们可以使用下面的方式:
// 懒汉模式
class Singleton
{
private:
Singleton() {}
Singleton(const Singleton&) = delete;
Singleton& operator=(const Singleton&) = delete;
public:
static Singleton& getInstance()
{
static Singleton _eton;
return _eton;
}
};
工厂模式是⼀种创建型设计模式, 它提供了⼀种创建对象的最佳⽅式。在工厂模式中,我们创建对象时不会对上层暴露创建逻辑,而是通过使⽤⼀个共同结构来指向新创建的对象,以此实现创建-使⽤的分离。
工厂模式可以分为:简单工厂模式,工厂方法模式,抽象工厂模式。
/*简单工厂模式*/
class Fruit
{
public:
virtual void show() = 0;
};
class Apple : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个苹果" << std::endl;
}
};
class Peach : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个桃子" << std::endl;
}
};
class FruitFactory
{
public:
static std::shared_ptr<Fruit> create(const std::string &name = "")
{
if (name == "苹果")
return std::make_shared<Apple>();
else if (name == "桃子")
return std::make_shared<Peach>();
else
return std::shared_ptr<Fruit>();
}
};
int main()
{
std::shared_ptr<Fruit> obj = FruitFactory::create("苹果");
if (obj.get() != nullptr)
obj->show();
obj = FruitFactory::create("桃子");
if (obj.get() != nullptr)
obj->show();
return 0;
}
简单⼯⼚模式:通过参数控制可以⽣产任何产品(将所有的产品都放在一个工厂中生产)。
优点:简单粗暴,直观易懂。使⽤⼀个⼯⼚⽣产同⼀等级结构下的任意产品。缺点:所有东西⽣产在⼀起,产品太多会导致代码量庞⼤;开闭原则遵循(开放拓展,关闭修改)的不是太好,要新增产品就必须修改工厂方法。
/*工厂方法模式*/
class Fruit
{
public:
virtual void show() = 0;
};
class Apple : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个苹果" << std::endl;
}
};
class Peach : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个桃子" << std::endl;
}
};
class FruitFactory
{
public:
virtual std::shared_ptr<Fruit> create()=0;
};
class AppleFactory:public FruitFactory
{
public:
virtual std::shared_ptr<Fruit> create()
{
return std::make_shared<Apple>();
}
};
class PeachFactory:public FruitFactory
{
public:
virtual std::shared_ptr<Fruit> create()
{
return std::make_shared<Peach>();
}
};
int main()
{
std::shared_ptr<FruitFactory> factory(new AppleFactory);
auto obj = factory->create();
obj->show();
factory.reset(new PeachFactory);
obj = factory->create();
obj->show();
return 0;
}
⼯⼚⽅法:定义⼀个创建对象的接⼝,由⼦类来决定创建哪种对象,使⽤多个⼯⼚分别⽣产指定的固定产品。(每种产品均对应着一种工厂)
优点:减轻了⼯⼚类的负担,将某类产品的⽣产交给指定的⼯⼚来进⾏;开闭原则(扩展而非修改)遵循较好,添加新产品只需要新增产品的⼯⼚即可,不需要修改原先的⼯⼚类。缺点:对于某种可以形成⼀组产品族的情况处理较为复杂,需要创建⼤量的⼯⼚类。
/*抽象工厂模式*/
class Fruit
{
public:
virtual void show() = 0;
};
class Apple : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个苹果" << std::endl;
}
};
class Peach : public Fruit
{
public:
virtual void show()
{
std::cout << "我是一个桃子" << std::endl;
}
};
class Vegetable
{
public:
virtual void show() = 0;
};
class Potato : public Vegetable
{
public:
virtual void show()
{
std::cout << "我是一个土豆" << std::endl;
}
};
class Lettuce : public Vegetable
{
public:
virtual void show()
{
std::cout << "我是一片生菜" << std::endl;
}
};
class Factory
{
public:
virtual std::shared_ptr<Fruit> create_fruit(const std::string &name = "") = 0;
virtual std::shared_ptr<Vegetable> create_Vegetable(const std::string &name = "") = 0;
};
class FruitFactory : public Factory
{
public:
virtual std::shared_ptr<Fruit> create_fruit(const std::string &name = "")
{
if (name == "苹果")
return std::make_shared<Apple>();
else if (name == "桃子")
return std::make_shared<Peach>();
else
return std::shared_ptr<Fruit>();
}
virtual std::shared_ptr<Vegetable> create_Vegetable(const std::string &name = "")
{
return std::shared_ptr<Vegetable>();
}
};
class VegetableFactory : public Factory
{
public:
virtual std::shared_ptr<Vegetable> create_Vegetable(const std::string &name = "")
{
if (name == "土豆")
return std::make_shared<Potato>();
else if (name == "生菜")
return std::make_shared<Lettuce>();
else
return std::shared_ptr<Vegetable>();
}
virtual std::shared_ptr<Fruit> create_fruit(const std::string &name = "")
{
return std::shared_ptr<Fruit>();
}
};
class CreateFactory
{
public:
static std::shared_ptr<Factory> get_factory(const std::string &name = "")
{
if (name == "水果")
return std::make_shared<FruitFactory>();
else if (name == "蔬菜")
return std::make_shared<VegetableFactory>();
else
return std::shared_ptr<Factory>();
}
};
int main()
{
std::shared_ptr<Factory> vegetable_factory = CreateFactory::get_factory("蔬菜");
if (vegetable_factory.get() != nullptr)
{
std::shared_ptr<Vegetable> vegetable = vegetable_factory->create_Vegetable("土豆");
if (vegetable.get() != nullptr)
vegetable->show();
vegetable = vegetable_factory->create_Vegetable("生菜");
if (vegetable.get() != nullptr)
vegetable->show();
}
std::shared_ptr<Factory> fruit_factory = CreateFactory::get_factory("水果");
if (fruit_factory.get() != nullptr)
{
std::shared_ptr<Fruit> fruit = fruit_factory->create_fruit("桃子");
if (fruit.get() != nullptr)
fruit->show();
fruit = fruit_factory->create_fruit("苹果");
if (fruit.get() != nullptr)
fruit->show();
}
return 0;
}
抽象⼯⼚:围绕⼀个超级⼯⼚创建其他⼯⼚,每个⽣成的⼯⼚按照⼯⼚模式提供对象;将⼯⼚抽象成两层,抽象⼯厂&具体⼯⼚⼦类, 在⼯⼚⼦类种⽣产不同类型的⼦产品。
优点:解决了简单⼯⼚模式中⼯⼚类职责太重的问题;解决了工厂方法类中要创建大量子类工厂的问题。缺点:抽象⼯⼚模式适⽤于⽣产多个⼯⼚系列产品衍⽣的设计模式,增加新的产品等级结构复杂,需要对原有系统进⾏较⼤的修改,甚⾄需要修改抽象层代码,违背了“开闭原则”。
建造者模式是⼀种创建型设计模式, 使用多个简单的对象⼀步⼀步构建成⼀个复杂的对象,能够将⼀个复杂的对象的构建与它的表⽰分离,提供⼀种创建对象的最佳⽅式。主要⽤于解决对象的构建过于复杂的问题。
建造者模式主要基于五个核⼼类实现:
/*建造者模式*/
class Computer
{
public:
void set_board(const std::string &board)
{
_board = board;
}
void set_display(const std::string &display)
{
_display = display;
}
std::string show_argument()
{
std::string computer = "Computer:{\n";
computer += "\tboard=" + _board + ",\n";
computer += "\tdisplay=" + _display + ",\n";
computer += "\tOs=" + _os + ",\n";
computer += "}\n";
std::cout<<computer<<std::endl;
return computer;
}
virtual void set_os()=0;
protected:
std::string _board;
std::string _display;
std::string _os;
};
class Macbook:public Computer
{
public:
virtual void set_os() override
{
_os="MAC OS X13";
}
};
class Builder
{
public:
virtual void build_board(const std::string &board)=0;
virtual void build_display(const std::string &display)=0;
virtual void build_os()=0;
virtual std::shared_ptr<Computer> build()=0;
};
class BuilderMacbook:public Builder
{
public:
BuilderMacbook()
: _computer(new Macbook())
{}
virtual void build_board(const std::string &board)override
{
_computer->set_board(board);
}
virtual void build_display(const std::string &display)override
{
_computer->set_display(display);
}
virtual void build_os()override
{
_computer->set_os();
}
virtual std::shared_ptr<Computer> build()
{
return _computer;
}
private:
std::shared_ptr<Computer> _computer;
};
class Director
{
public:
Director(Builder* bulider)
:_builder(bulider)
{}
void construct(const std::string &board,const std::string &display)
{
_builder->build_board(board);
_builder->build_display(display);
_builder->build_os();
}
std::shared_ptr<Computer> get_computer()
{
return _builder->build();
}
private:
std::shared_ptr<Builder> _builder;
};
int main()
{
std::shared_ptr<Builder> builder(new BuilderMacbook());
std::shared_ptr<Director> director(new Director(builder.get()));
director->construct("Inter主板","MAC显示器");
director->get_computer()->show_argument();
return 0;
}
代理模式指代理控制对其他对象的访问, 也就是代理对象控制对原对象的引⽤。在某些情况下,⼀个对象不适合或者不能直接被引⽤访问,⽽代理对象可以在客户端和⽬标对象之间起到中介的作⽤。代理模式的结构包括⼀个是真正的你要访问的对象(⽬标类)、⼀个是代理对象。⽬标对象与代理对象实现同⼀个接⼝,先访问代理类再通过代理类访问⽬标对象。代理模式分为静态代理、动态代理。
class RentHouse
{
public:
virtual void rent_house() = 0;
};
/*房东类:将房⼦租出去*/
class Landlord : public RentHouse
{
public:
virtual void rent_house()
{
std::cout << "将房⼦租出去"<<std::endl;
}
};
/*中介代理类:对租房⼦进⾏功能加强,实现租房以外的其他功能*/
class Intermediary : public RentHouse
{
public:
virtual void rent_house()
{
std::cout << "发布招租启⽰\n";
std::cout << "带⼈看房\n";
_landlord.rent_house();
std::cout << "负责租后维修\n";
}
private:
Landlord _landlord;
};
int main()
{
Intermediary intermediary;
intermediary.rent_house();
return 0;
}
本项⽬实现的是⼀个多⽇志器⽇志系统,主要实现的功能是让程序员能够轻松的将程序运⾏⽇志信息落地到指定的位置,且⽀持同步与异步两种⽅式的⽇志落地⽅式。
项⽬的框架设计将项⽬分为以下⼏个模块来实现。
1️⃣日志等级模块:对输出⽇志的等级进⾏划分,以便于控制⽇志的输出,并提供等级枚举转字符功能。
Debug:调试,调试时的关键信息输出;
Infor:提⽰,普通的提⽰型⽇志信息;
Warnning:警告,不影响运⾏,但是需要注意⼀下的⽇志;
Error:错误,程序运⾏出现错误的⽇志;
Fatal:致命,⼀般是代码异常导致程序⽆法继续推进运⾏的⽇志;
Ukonwn:未知错误;
Off:关闭。
2️⃣日志消息模块:中间存储日志输出所需的各项要素信息;
时间:描述本条⽇志的输出时间;
线程ID:描述本条⽇志是哪个线程输出的;
日志等级:描述本条⽇志的等级;
日志数据:本条⽇志的有效载荷数据;
日志⽂件名:描述本条⽇志在哪个源码⽂件中输出的;
日志行号:描述本条⽇志在源码⽂件的哪⼀⾏输出的。
3️⃣ 日志消息格式化模块:设置日志输出格式,并提供对日志消息进⾏格式化功能。
系统的默认⽇志输出格式:
[%d{%H:%M:%S}][%t][%p][%c][%f:%l]%T%m%n
%d{%H:%M:%S}:表⽰⽇期时间,花括号中的内容表示日期时间的格式;
%T:表⽰制表符缩进;
%t:表⽰线程ID;
%p:表⽰⽇志级别;
%c:表⽰⽇志器名称,不同的开发组可以创建⾃⼰的⽇志器进⾏⽇志输出,⼩组之间互不影响;
%f:表⽰⽇志输出时的源代码⽂件名;
%l:表⽰⽇志输出时的源代码⾏号;
%m:表⽰给与的⽇志有效载荷数据;
%n:表⽰换行。
设计思想:设计不同的⼦类,不同的⼦类从⽇志消息中取出不同的数据进⾏处理。
设计思想:设计不同的子类,不同的子类控制不同的⽇志落地⽅向。
5️⃣日志器模块:此模块是对以上几个模块的整合模块,⽤户通过日志器进行日志的输出,有效降低⽤户的使用难度。包含有:日志消息落地模块对象,日志消息格式化模块对象,日志输出等级。
6️⃣日志器管理模块:为了降低项⽬开发的⽇志耦合,不同的项⽬组可以有⾃⼰的⽇志器来控制输出格式以及落地⽅向,因此本项⽬是⼀个多⽇志器的⽇志系统;管理模块就是对创建的所有⽇志器进行统⼀管理。并提供⼀个默认⽇志器提供标准输出的日志输出。
7️⃣异步线程模块:实现对日志的异步输出功能,用户只需要将输出⽇志任务放⼊任务池,异步线程负责⽇志的落地输出功能,以此提供更加高效的非阻塞⽇志输出。
提前完成⼀些零碎的功能接⼝,以便于项⽬中会⽤到。
此类我们设计在Utill.hpp
中:
#pragma once
/*通⽤功能类,与业务⽆关的功能实现
1. 获取系统时间
2. 获取⽂件⼤⼩
3. 创建⽬录
4. 获取⽂件所在⽬录*/
#include
#include
#include
#include
#include
namespace grmlog
{
namespace util
{
class Date
{
public:
static size_t now()
{
return (size_t)time(nullptr);
}
};
class File
{
public:
static bool exist(const std::string &pathname)
{
struct stat st;
return stat(pathname.c_str(), &st) == 0;
}
static std::string path(const std::string &name)
{
if (name.empty())
return ".";
size_t pos = name.find_last_of("/\\");
if (pos == std::string::npos)
return ".";
return name.substr(0, pos + 1);
}
static void create(const std::string &name)
{
int cur=0,pos=0;
while(cur < name.size())
{
pos=name.find_first_of("/\\",cur);
if(pos == std::string::npos)
{
chmod(name.c_str(),0777);
return;
}
std::string tmp=name.substr(0,pos+1);
if(tmp =="." || tmp == "..")
{
cur=pos+1;
continue;
}
if(exist(tmp.c_str()))
{
cur=pos+1;
continue;
}
mkdir(tmp.c_str(),0777);
cur=pos+1;
}
}
};
}
}
日志等级总共分为7个等级,分别为:
日志等级类我们设计在LogLevel.hpp
中:
#pragma once
#include
#include
namespace grmlog
{
class LogLevel
{
public:
enum class values
{
Uknown=0,
Debug,
Infor,
Warnning,
Error,
Fatal,
Off
};
static const std::string to_string(LogLevel::values v)
{
switch (v)
{
case LogLevel::values::Debug:
return "Debug";
case LogLevel::values::Infor:
return "Infor";
case LogLevel::values::Warnning:
return "Warnning";
case LogLevel::values::Error:
return "Error";
case LogLevel::values::Fatal:
return "Fatal";
case LogLevel::values::Off:
return "Off";
default:
return "Uknown";
}
}
};
}
日志消息类主要是封装⼀条完整的⽇志消息所需的内容,其中包括日志等级、对应的logger name、打印日志源文件的位置信息(包括文件名和行号)、线程ID、时间戳信息、具体的日志信息等内容。
日志消息类我们封装到LogMessage.hpp
中:
#pragma once
#include"LogLevel.hpp"
#include
#include"Util.hpp"
namespace grmlog
{
/*⽇志等级、对应的logger name、打印⽇志源⽂件的位置信息(包括⽂件名和⾏号)、线程ID、时间戳信息、具体的⽇志信息*/
class LogMsg
{
public:
LogLevel::values _level;
std::string _logname;
std::string _filename;
size_t _fileline;
std::thread::id _tid;
time_t _time;
std::string _logmsg;
LogMsg(LogLevel::values level,
const std::string& logname,
const std::string& filename,
size_t fileline,
const std::string& logmsg)
:_level(level)
,_logname(logname)
,_filename(filename)
,_fileline(fileline)
,_tid(std::this_thread::get_id())
,_time(util::Date::now())
,_logmsg(logmsg)
{}
};
}
日志格式化(Formatter)类主要负责格式化⽇志消息。
我们思考下它的成员应该有什么,首先我们肯定要有一个string
类型的字符串来保存总的日志输出化表示(_pattern),如 [%d{%H:%M:%S}][%t][%p][%c][%f:%l]%T%m%n ;然后我们需要将_pattern
中的特定项解析出来保存,所以我们不妨用一个vector
来存放。
_pattern其主要包含以下内容:
我们不妨使用继承的思想,使用一个基类FormatItem
,然后派生出不同格式化子项的输出形式;之前vector
存放的数据类型我们可以使用基类的智能指针,这样当我们返回各种类型的子项智能指针类型的数据时,使用基类来访问成员函数时都能够得到正确调用(多态的原理)。所以基本框架我们就搭建好了,然后我们在Format.hpp
中先来实现基本接口:
#pragma once
#include"LogMessage.hpp"
#include
#include
#include
namespace grmlog
{
class FormatItem
{
public:
using ptr=std::shared_ptr<FormatItem>;
virtual void format(std::ostream& out,const LogMsg& msg)=0;
};
//日志级别
class LevFormatItem:public FormatItem
{
public:
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<LogLevel::to_string(msg._level);//注意这里要调用我们自己实现的to_string,
//因为ostream流中没有重载日志等级的枚举类型
}
};
//日志器名称
class LognameFormatItem:public FormatItem
{
public:
LognameFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<msg._logname;
}
};
//文件名
class FilenameFormatItem:public FormatItem
{
public:
FilenameFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<msg._filename;
}
};
//文件行数
class FilelineFormatItem:public FormatItem
{
public:
FilelineFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<msg._fileline;
}
};
//线程ID
class TidFormatItem:public FormatItem
{
public:
TidFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<msg._tid;
}
};
//时间
class TimeFormatItem:public FormatItem
{
public:
TimeFormatItem(const std::string& str="%H:%M:%S")
:_format(str)
{}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
time_t t=msg._time;
/* struct tm *localtime_r(const time_t *timep, struct tm *result);*/
struct tm st;
localtime_r(&t,&st);
char buffer[32]={0};
/* size_t strftime(char *s, size_t max, const char *format,const struct tm *tm);*/
strftime(buffer,31,_format.c_str(),&st);
out<<buffer;
}
private:
std::string _format;
};
//日志主体消息
class LogmsgFormatItem:public FormatItem
{
public:
LogmsgFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<msg._logmsg;
}
};
//缩进
class TableFormatItem:public FormatItem
{
public:
TableFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<"\t";
}
};
//换行
class NewlineFormatItem:public FormatItem
{
public:
NewlineFormatItem(const std::string& str=""){}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<"\n";
}
};
//其他
class OtherFormatItem:public FormatItem
{
public:
OtherFormatItem(const std::string& str="")
:_str(str)
{}
virtual void format(std::ostream& out,const LogMsg& msg)override
{
out<<_str;
}
private:
std::string _str;
};
class Formatter
{
public:
using ptr=std::shared_ptr<Formatter>;
Formatter(const std::string& pattern="[%d{%H:%M:%S}][%t][%p][%c][%f:%l]%T%m%n")
:_pattern(pattern)
{
assert(prase_pattern());
}
std::string format(const LogMsg &msg)
{
std::stringstream ss;
for (auto &it : _items)
{
//这里调用的是具体的某一个子类FormatItem重写的format
it->format(ss, msg);
}
return ss.str();
}
std::ostream &format(std::ostream &os, const LogMsg &msg)
{
for (auto &it : _items)
{
it->format(os, msg);
}
return os;
}
private:
//abcdf%%[ %d { %H:%M:%S } ][ %t ][ %p ][ %c ][ %f : %l ]%T %m %n
//将_pattern中的内容解析到_items中
bool prase_pattern()
{
}
// %d ⽇期
// %T 缩进
// %t 线程id
// %p ⽇志级别
// %c ⽇志器名称
// %f ⽂件名
// %l ⾏号
// %m ⽇志消息
// %n 换⾏
FormatItem::ptr create_item(const std::string &key, const std::string& val)
{
if (key == "m")
return std::make_shared<LogmsgFormatItem>();
if (key == "p")
return std::make_shared<LevFormatItem>();
if (key == "c")
return std::make_shared<LognameFormatItem>();
if (key == "t")
return std::make_shared<TidFormatItem>();
if (key == "n")
return std::make_shared<NewlineFormatItem>();
if (key == "d")
return std::make_shared<TimeFormatItem>(val);
if (key == "f")
return std::make_shared<FilenameFormatItem>();
if (key == "l")
return std::make_shared<FilelineFormatItem>();
if (key == "T")
return std::make_shared<TableFormatItem>();
if (key == "")
return std::make_shared<OtherFormatItem>(val);
return FormatItem::ptr();
}
private:
std::string _pattern;
std::vector<FormatItem::ptr>_items;
};
}
前面类中的实现很好理解,我就不在多解释了,这里重点讲解Formatter
类中的成员函数:
1️⃣prase_pattern函数:这个函数的功能是将_pattern
中的一个一个格式化子项解析到_items
中,我们画张图来理解理解:
图中红色表示
_items中
的每一个数据,绿色表示k和v,其中""
表示k或者v中有一个为空,这样对应着对照表我们就可以将不同的格式化子项解析出来,具体解析方法我们在后面再来给出。
2️⃣format函数:这个函数的目的是将我们解析出来的具体内容提取到流里面(可能是标准输出,也可能是文件流等)我们实现了两个版本,返回string
类型是方便测试的版本,将解析出来的具体内容放进stringstream流中,返回对应的字符串方便验证;另外一个则我们可以根据传入的具体流来测试,具体的流可以参考下面流继承体系:
3️⃣create_item函数:将解析出来的k对应着相应的子类智能指针返回即可。
接下来便来实现prase_pattern
函数:
//abcdf%%[ %d { %H:%M:%S } ][ %t ][ %p ][ %c ][ %f : %l ]%T %m %n
//将_pattern中的内容解析到_items中
private:
bool prase_pattern()
{
int cur=0,n=_pattern.size();
std::vector<std::pair<std::string,std::string>> vs;
std::string key,val;
while(cur<n)
{
if(_pattern[cur]!='%')//这里最好用if来判断
{
val+=_pattern[cur++];
continue;
}
//判断%是否是转义字符
if(cur+1<n && _pattern[cur+1]=='%')
{
val+='%';
cur+=2;
continue;
}
//走到这里表示Other已经解析完毕
if (!val.empty())
{
vs.push_back({"", val});
val.clear(); // 记得清空
}
//再解析%后面位置的信息
cur++;
if(cur<n)
{
key=_pattern[cur];
}
else
{
std::cout<<"%解析失败(后面没有字符)"<<std::endl;
return false;
}
//走到这里表示%已经解析成功
//开始解析是否有子格式(val)如: %H:%M:%S 注意这里并不需要将{}添加进去
cur++;
bool err=false;
if(cur<n && _pattern[cur]=='{')
{
cur++;
err=true;
while(cur<n && _pattern[cur]!='}')
{
val+=_pattern[cur++];
}
if(cur<n)
err=false;
cur++;
}
if(err)
{
std::cout<<"没有对应的}"<<std::endl;
return false;
}
vs.push_back({key,val});
key.clear();
val.clear();
}
for(auto& e:vs)
{
_items.push_back(create_item(e.first,e.second));
}
return true;
}
具体每一步我都写了详细的注释,相信大家能够看懂。
我们接下来写一个简单的测试程序来测测是否有错误:
int main()
{
grmlog::LogMsg msg(grmlog::LogLevel::values::Debug,"root","main.c",18,"这是一个测试");
grmlog::Formatter fmt("abcd%%[%d{%H:%M:%S}][%t][%p][%c][%f:%l]%T%m%n");
std::string str=fmt.format(msg);
std::cout<<str<<std::endl;
return 0;
}
⽇志落地类主要负责落地⽇志消息到⽬的地。
它主要包括以下内容:
标准输出:表⽰将⽇志进⾏标准输出的打印;
日志文件输出:表⽰将⽇志写⼊指定的⽂件末尾;
滚动文件输出:当前以⽂件⼤⼩进⾏控制,当⼀个⽇志⽂件⼤⼩达到指定⼤⼩,则切换下⼀个⽂件进⾏输出后期,也可以扩展远程⽇志输出,创建客户端,将⽇志消息发送给远程的⽇志分析服务器。
这个类⽀持可扩展,其成员函数log
设置为纯虚函数,当我们需要增加⼀个log输出⽬标, 可以增加一个类继承⾃该类并重写log⽅法实现具体的落地⽇志逻辑。
滚动⽇志⽂件输出的必要性:
⽇志⽂件的滚动思想:⽇志⽂件滚动的条件有两个:文件大小和时间
本项⽬基于文件大小的判断滚动⽣成新的⽂件,扩展可以使用文件时间。
日志落地类我们放在LogSeek.hpp
中:
#pragma once
#include"Format.hpp"
#include
#include
namespace grmlog
{
class Sink
{
public:
using ptr=std::shared_ptr<Sink>;
virtual void log(const char* data,size_t len)=0;
virtual ~Sink(){}
};
class StdoutSink:public Sink
{
public:
virtual void log(const char* data,size_t len)override
{
std::cout.write(data,len);//这里使用write的原因是因为传过来的data可能不是字符串(没有\0)
}
};
class FileSink:public Sink
{
public:
FileSink(const std::string& pathname)
:_pathname(pathname)
{
grmlog::util::File::create(grmlog::util::File::path(pathname));
_of.open(_pathname.c_str(),std::ios::binary | std::ios::app);
assert(_of.is_open());//断言是否打开成功
}
virtual void log(const char* data,size_t len)override
{
_of.write(data,len);
assert(_of.good());//断言_of流是否正常
}
private:
std::string _pathname;
std::ofstream _of;
};
class RollFileSink:public Sink
{
public:
RollFileSink(const std::string& pathname,size_t max_size=1024*1024*1024)
:_pathname(pathname)
,_max_size(max_size)
,_cur_size(0)
,_name_cnt(0)
{
grmlog::util::File::create(grmlog::util::File::path(pathname));
_of.open(_pathname.c_str(),std::ios::binary | std::ios::app);
assert(_of.is_open());//断言是否打开成功
}
virtual void log(const char* data,size_t len)override
{
check_cap();
_of.write(data,len);
assert(_of.good());//断言_of流是否正常
_cur_size+=len;
}
private:
void check_cap()
{
if(_cur_size>= _max_size)
{
_of.close();//关闭句柄,防止资源泄露
std::string newname=create_filename();
_of.open(newname.c_str(), std::ios::binary | std::ios::app);
assert(_of.is_open()); // 断言是否打开成功
_cur_size=0;//置空当前有效长度
}
}
std::string create_filename()
{
time_t t = time(nullptr);
struct tm lt;
localtime_r(&t, <);
std::stringstream ss;
ss << _pathname;
ss << lt.tm_year + 1900;
ss << lt.tm_mon + 1;
ss << lt.tm_mday;
ss << lt.tm_hour;
ss << lt.tm_min;
ss << lt.tm_sec;
ss << "-";
ss << _name_cnt++;
ss << ".log";
return ss.str();
}
private:
std::string _pathname;
std::ofstream _of;
size_t _max_size;
size_t _cur_size;
size_t _name_cnt;//这个文件计数器为了防止在短时间内重复产生了多个相同名字文件
};
/*使用简单工厂模式来处理*/
class SinkFactory
{
public:
//使用可变参数模板来处理用户自定义落地日志功能->可扩展功能
template <typename SinkType, typename... Args>
static Sink::ptr create(Args &&...args)
{
return std::make_shared<SinkType>(std::forward<Args>(args)...);//使用模板参数
}
};
}
代码中注意点:
_name_cnt
?int main()
{
grmlog::LogMsg msg(grmlog::LogLevel::values::Debug, "root", "main.c", 18, "这是一个测试");
grmlog::Formatter fmt("abcd%%[%d{%H:%M:%S}][%t][%p][%c][%f:%l]%T%m%n");
std::string str = fmt.format(msg);
std::cout << str << std::endl;
// 日志落地
grmlog::Sink::ptr test_stdout = grmlog::SinkFactory::create<grmlog::StdoutSink>();
//grmlog::Sink::ptr normal_file=grmlog::SinkFactory::create("./log.txt/test.log");
//grmlog::Sink::ptr roll_file = grmlog::SinkFactory::create("./log.txt/test-");
// normal_file->log(str.c_str(),str.size());
int sz = 0;
int cnt = 0;
while (sz < 1024 * 1024 * 10)
{
std::string tmp = str + "-" + std::to_string(cnt++);
test_stdout->log(tmp.c_str(), tmp.size());
sz += tmp.size();
}
return 0;
}
日志器主要是⽤来和前端交互, 当我们需要使⽤⽇志系统打印log的时候, 只需要创建Logger对象,调⽤该对象debug、infor、warn、error、fata
l等⽅法输出⾃⼰想打印的⽇志即可,⽀持解析可变参数列表和输出格式, 即可以做到像使⽤printf
函数⼀样打印⽇志。当前⽇志系统⽀持同步日志 & 异步日志两种模式,两个不同的⽇志器唯⼀不同的地⽅在于他们在日志的落地⽅式上有所不同:
因此⽇志器类在设计的时候先设计出⼀个Logger
基类,在Logger基类的基础上,继承出SyncLogger
同步⽇志器和AsyncLogger
异步⽇志器。且因为⽇志器模块是对前边多个模块的整合,想要创建⼀个⽇志器,需要设置日志器名称,设置日志输出等级,设置日志器类型,设置日志输出格式,设置落地方向,且落地⽅向有可能存在多个,同时为了保证落地时不会发生输出冲突还得需要一把互斥锁来保证线程安全。
整个⽇志器的创建过程较为复杂,为了保持良好的代码⻛格,编写出优雅的代码,因此⽇志器的创建这⾥采⽤了建造者模式来进⾏创建。
日志器类我们放在Logger.hpp
中:
#pragma once
#include "Format.hpp"
#include "LogLevel.hpp"
#include "LogMessage.hpp"
#include "LogSink.hpp"
#include"AsynLooper.hpp"
#include
#include
#include
#include
namespace grmlog
{
class Logger
{
public:
using ptr=std::shared_ptr<Logger>;
Logger(const std::string &logger_name,
LogLevel::values limit_level,
Formatter::ptr format,
std::vector<Sink::ptr> &sinks)
: _logger_name(logger_name), _limit_level(limit_level), _format(format), _sinks(sinks)
{}
~Logger(){}
const std::string& get_loggername()
{
return _logger_name;
}
virtual void log_it(const char* data,size_t len)=0;
virtual void debug(const char *file, size_t line, const std::string &fmt, ...)
{
// 先判断日志等级是否能够输出
if (LogLevel::values::Debug < _limit_level)
return;
//将fmt(如"%d%s%d")解析到buf中
va_list al;
va_start(al, fmt);
char *buf;
int len = vasprintf(&buf, fmt.c_str(), al);
if (len < 0)
{
std::cout << "格式化⽇志消息失败!!" << std::endl;
return;
}
export_part(LogLevel::values::Debug, file, line, buf);
free(buf); // 一定不要忘记释放buf,否则造成内存泄漏
va_end(al);
}
virtual void infor(const char *file, size_t line, const std::string &fmt, ...)
{
// 先判断日志等级是否能够输出
if (LogLevel::values::Infor < _limit_level)
return;
va_list al;
va_start(al, fmt);
char *buf;
int len = vasprintf(&buf, fmt.c_str(), al);
if (len < 0)
{
std::cout << "格式化⽇志消息失败!!" << std::endl;
return;
}
export_part(LogLevel::values::Infor, file, line, buf);
free(buf); // 一定不要忘记释放buf,否则造成内存泄漏
va_end(al);
}
virtual void warnning(const char *file, size_t line, const std::string &fmt, ...)
{
// 先判断日志等级是否能够输出
if (LogLevel::values::Warnning < _limit_level)
return;
va_list al;
va_start(al, fmt);
char *buf;
int len = vasprintf(&buf, fmt.c_str(), al);
if (len < 0)
{
std::cout << "格式化⽇志消息失败!!" << std::endl;
return;
}
export_part(LogLevel::values::Warnning, file, line, buf);
free(buf); // 一定不要忘记释放buf,否则造成内存泄漏
va_end(al);
}
virtual void error(const char *file, size_t line, const std::string &fmt, ...)
{
// 先判断日志等级是否能够输出
if (LogLevel::values::Error < _limit_level)
return;
va_list al;
va_start(al, fmt);
char *buf;
int len = vasprintf(&buf, fmt.c_str(), al);
if (len < 0)
{
std::cout << "格式化⽇志消息失败!!" << std::endl;
return;
}
export_part(LogLevel::values::Error, file, line, buf);
free(buf); // 一定不要忘记释放buf,否则造成内存泄漏
va_end(al);
}
virtual void fatal(const char *file, size_t line, const std::string &fmt, ...)
{
// 先判断日志等级是否能够输出
if (LogLevel::values::Fatal < _limit_level)
return;
va_list al;
va_start(al, fmt);
char *buf;
int len = vasprintf(&buf, fmt.c_str(), al);
if (len < 0)
{
std::cout << "格式化⽇志消息失败!!" << std::endl;
return;
}
export_part(LogLevel::values::Fatal, file, line, buf);
free(buf); // 一定不要忘记释放buf,否则造成内存泄漏
va_end(al);
}
protected:
std::string _logger_name;
std::atomic<LogLevel::values> _limit_level; // 这里限制标准使用原子操作比使用加锁效率更高
std::mutex _mutex; // 这里加锁是为了一个日志器中多线程调用写日志时不会发生访问冲突
Formatter::ptr _format;
std::vector<Sink::ptr> _sinks;
private:
void export_part(LogLevel::values level, const char *file, size_t line, char *buf)
{
// 这里已经得到了格式化字符串buf,再来构造LogMessage对象
LogMsg msg(level, _logger_name, file, line, buf);
//将日志格式化完毕的日志消息写在ss中
std::stringstream ss;
_format->format(ss, msg);
// 对日志进行落地,将消息落实到具体:如标准输出,普通文件,滚动文件
log_it(ss.str().c_str(),ss.str().size());
}
};
class SyncLogger : public Logger
{
public:
using ptr = std::shared_ptr<SyncLogger>;
SyncLogger(const std::string &logger_name,
LogLevel::values limit_level,
Formatter::ptr format,
std::vector<Sink::ptr> &sinks)
: Logger(logger_name, limit_level, format, sinks)
{}
virtual void log_it(const char* data,size_t len)override
{
//这里加锁是让串行化执行
std::unique_lock<std::mutex>lock(_mutex);
if(_sinks.empty())
return;
for (auto &sink : _sinks)
{
sink->log(data,len);
}
}
};
}
测试程序:
int main()
{
//同步日志器的测试
const std::string name="sync_logger";
grmlog::LogLevel::values limit_level=grmlog::LogLevel::values::Warnning;
grmlog::Formatter::ptr fmatter(new grmlog::Formatter);
grmlog::Sink::ptr test_stdout=grmlog::SinkFactory::create<grmlog::StdoutSink>();
grmlog::Sink::ptr normal_file=grmlog::SinkFactory::create<grmlog::FileSink>("./mylog/test.log");
grmlog::Sink::ptr roll_file=grmlog::SinkFactory::create<grmlog::RollFileSink>("./mylog/roll-");
std::vector<grmlog::Sink::ptr> sinks={test_stdout,normal_file,roll_file};
grmlog::SyncLogger::ptr sync_logger(new grmlog::SyncLogger(name,limit_level,fmatter,sinks));
sync_logger->debug(__FILE__,__LINE__,"%s,","这是一条debug测试");
sync_logger->infor(__FILE__,__LINE__,"%s,","这是一条infor测试");
sync_logger->warnning(__FILE__,__LINE__,"%s,","这是一条warnning测试");
sync_logger->error(__FILE__,__LINE__,"%s,","这是一条error测试");
sync_logger->fatal(__FILE__,__LINE__,"%s,","这是一条fatal测试");
int sz = 0;
int cnt = 0;
std::string str="测试";
while (sz < 1024 * 1024 * 2)
{
std::string tmp = str + "-" + std::to_string(cnt++);
sync_logger->fatal(__FILE__,__LINE__,"测试日志%d,",cnt++);
sz += tmp.size();
}
return 0;
}
当我们打开
test.log
和roll-
:
由于我们设置限制日志等级为warnning
,所以debug
和infor
都没有输出。
大家应该也从测试用例中看出,这个设计其实对用户是不友好的,用户得去看源码才能够知道应该如何操作,所以此时我们可以使用建造者模式来进行创建;由于个部件的构建并没有强制的顺序要求,所以可以不使用指挥者。
enum LoggerType
{
SynLog=0,
AsynLog
};
//使用建造者模式来构建日志器对象,而不是直接构造日志器对象,简化用户的使用复杂度
//这里不使用指挥者的原因是因为对象构建的顺序并没有强制性的要求
class Bulid
{
public:
Bulid()
:_logger_type(LoggerType::SynLog)
,_limit_level(LogLevel::values::Debug)
{}
void bulid_logtype(LoggerType logtype)
{
_logger_type=logtype;
}
void bulid_logname(const std::string& logname)
{
_logger_name=logname;
}
void bulid_level(LogLevel::values level)
{
_limit_level=level;
}
void bulid_format(const std::string& pattern)
{
_format=std::make_shared<Formatter>(pattern);
}
template<typename SinkType,typename ...Args>
void bulid_sinks(Args && ...args)
{
Sink::ptr psink=SinkFactory::create<SinkType>(std::forward<Args>(args)...);
_sinks.push_back(psink);
}
virtual Logger::ptr bulid()=0;
protected:
LoggerType _logger_type;
std::string _logger_name;
LogLevel::values _limit_level;
Formatter::ptr _format;
std::vector<Sink::ptr> _sinks;
AsynBufState _asyn_state;
};
class LocalLoggerBuild : public Bulid
{
public:
virtual Logger::ptr bulid() override
{
assert(!_logger_name.empty());//日志器名称必须有
if(_format.get() == nullptr)
_format=std::make_shared<Formatter>();
if(_sinks.empty())
bulid_sinks<StdoutSink>();
if(_logger_type == LoggerType::AsynLog)
return std::make_shared<ASyncLogger>(_logger_name,_limit_level,_format,_sinks,_asyn_state);
else
return std::make_shared<SyncLogger>(_logger_name,_limit_level,_format,_sinks);
}
};
上面我们使用了LocalLoggerBuild
创建的日志器是局部的,也就是当前创建的日志器只能在当前函数栈帧中使用,其他地方要使用就必须传参,这样其实是有点麻烦的,所以后面我们又会实现一种全局方式来创建日志器。
现在我们使用建造者模式来完成复杂对象的构建:
int main()
{
//使用建造者模式来一步一步将复杂过程具体化和简单化
std::shared_ptr<grmlog::Bulid> build(new grmlog::LocalLoggerBuild);
build->bulid_level(grmlog::LogLevel::values::Warnning);
build->bulid_format("%m%n");
build->bulid_logname("sync_logger");
build->bulid_sinks<grmlog::StdoutSink>();
build->bulid_sinks<grmlog::FileSink>("./mylog/test.log");
build->bulid_sinks<grmlog::RollFileSink>("./mylog/roll-");
grmlog::Logger::ptr sync_logger=build->bulid();
sync_logger->debug(__FILE__,__LINE__,"%s,","这是一条debug测试");
sync_logger->infor(__FILE__,__LINE__,"%s,","这是一条infor测试");
sync_logger->warnning(__FILE__,__LINE__,"%s,","这是一条warnning测试");
sync_logger->error(__FILE__,__LINE__,"%s,","这是一条error测试");
sync_logger->fatal(__FILE__,__LINE__,"%s,","这是一条fatal测试");
int sz = 0;
int cnt = 0;
std::string str="测试";
while (sz < 1024 * 1024 * 2)
{
std::string tmp = str + "-" + std::to_string(cnt++);
sync_logger->fatal(__FILE__,__LINE__,"测试日志%d,",cnt++);
sz += tmp.size();
}
return 0;
}
注意:为啥现在文件只有两个了呢?我们使用的格式化字符串只用了%m%n
,输出的内容是很少的。
设计思想:异步处理线程 + 数据池
使⽤者将需要完成的任务添加到任务池中,由异步线程来完成任务的实际执⾏操作。
任务池的设计思想:双缓冲区阻塞数据池
优势:避免了空间的频繁申请释放,且尽可能的减少了⽣产者与消费者之间锁冲突的概率,提⾼了任务处理效率。
在任务池的设计中,有很多备选⽅案,比如循环队列等等,但是不管是哪⼀种都会涉及到锁冲突的情况,因为在⽣产者与消费者模型中,任何两个⻆⾊之间都具有互斥关系,因此每⼀次的任务添加与取出都有可能涉及锁的冲突,⽽双缓冲区不同,双缓冲区是处理器将⼀个缓冲区中的任务全部处理完毕后,然后交换两个缓冲区,重新对新的缓冲区中的任务进⾏处理,虽然同时多线程写⼊也会冲突,但是冲突并不会像单缓冲区那样频繁(减少了生产者与消费者之间的锁冲突),且不涉及到空间的频繁申请释放所带来的消耗。
#pragma once
#include
#include
#include
namespace grmlog
{
#define DEFAULT_DILA_SIZE 1024*1024*1 //扩容大小
#define THRESHOLD_SIZE 1024*1024*20 //阈值大小,小于它就二倍扩容
#define INCREASE_SIZE 1024*1024*1 //大于阈值后就按照增长固定大小线性增长
class Buffer
{
public:
Buffer()
:_read_idx(0)
,_write_idx(0)
,_buffer(DEFAULT_DILA_SIZE)
{}
bool empty()
{
return _read_idx == _write_idx;
}
void push(const char* data, size_t len)
{
check_cap(len);
std::copy(data,data+len,&_buffer[_write_idx]);
write_move(len);
}
void pop(size_t len)
{
read_move(len);
}
void write_move(size_t len)
{
assert(len+_write_idx <= _buffer.size());
_write_idx += len;
}
void read_move(size_t len)
{
assert(_read_idx + len <= _write_idx);
_read_idx += len;
}
size_t write_use_maxsize()
{
return _buffer.size()-_write_idx;
}
size_t read_use_maxsize()
{
return _write_idx-_read_idx;
}
const char* begin()
{
return &_buffer[_read_idx];//注意
}
void reset()
{
_read_idx=_write_idx=0;
}
void swap(Buffer& buf)
{
_buffer.swap(buf._buffer);
std::swap(_write_idx,buf._write_idx);
std::swap(_read_idx,buf._read_idx);
}
private:
void check_cap(size_t len)
{
if(len<=write_use_maxsize()) return;
size_t newcap=_buffer.size()+len >= THRESHOLD_SIZE ? _buffer.size()+len+INCREASE_SIZE : ( _buffer.size()+len)*2;
_buffer.resize(newcap);
}
std::vector<char> _buffer;//这时使用vector而不使用string的原因是vector的扩展性更好
size_t _read_idx=0;
size_t _write_idx=0;
};
}
如何测试来验证单缓冲区的正确性呢?思路是这样的:我们先将test.log
文件中的数据读到单缓冲区中,然后再将缓冲区的数据写到另外一个新文件tmp.log
中,最后使用md5sum
来计算test.log和tmp.log的哈希值是否相等。
具体代码如下:
int main()
{
//1 将文件中的数据读到s中
std::ifstream ifs("./mylog/test.log",std::ios::binary);
if(ifs.is_open() == false)
{
std::cout<<"open file fail"<<std::endl;
return -1;
}
ifs.seekg(0,std::ios::end);//将指针置于末尾
size_t sz=ifs.tellg();//获取当前位置与起始位置的偏移量
ifs.seekg(0,std::ios::beg);//将指针置于开始
std::string s;
s.resize(sz);
ifs.read(&s[0],sz);
if(ifs.good() == false)
{
std::cout<<"read fail"<<std::endl;
}
ifs.close();
//2 将s放到缓冲区
grmlog::Buffer buff;
for(int i=0; i<s.size(); ++i)
buff.push(&s[i],1);
//3 将缓冲区的内容写到新文件tmp.log中
std::ofstream ofs("./mylog/tmp.log",std::ios::binary);
if(ofs.is_open() == false)
{
std::cout<<"open file fail"<<std::endl;
return -1;
}
//千万不能用下面这种方式,buff.read_use_maxsize()是会发生改变的
// for(int i=0; i
// {
// ofs.write(buff.begin(),1);
// buff.read_move(1);
// }
size_t len=buff.read_use_maxsize();
for(int i=0; i<len; ++i)
{
ofs.write(buff.begin(), 1);
if (ofs.good() == false)
{
std::cout << "write fail" << std::endl;
}
buff.read_move(1);
}
//可以使用md5sum来计算映射
return 0;
}
接下来我们再来设计双缓冲区的异步缓冲池在AsynLopper.hpp
中:
#pragma once
#include"Buffer.hpp"
#include
#include
#include
#include
#include
namespace grmlog
{
enum class AsynBufState
{
Safe,
Unsafe
};
class AsynBuf
{
public:
using ptr=std::shared_ptr<AsynBuf>;
using func = std::function<void(Buffer& buff)>;
AsynBuf(AsynBufState state, func cb)
:_state(state)
,_callback(cb)
,_stop(false)
,_thread(std::thread(&AsynBuf::thread_work,this))
{}
~AsynBuf()//一定要加上这个,否则会报错 terminate called without an active exception Aborted
{
stop();
}
void stop()
{
_stop=true;
_consumer_cond.notify_all();//唤醒消费者将生产缓冲区的数据给消费了
_thread.join();//回收工作线程
}
//push有两种策略:安全(没有扩容机制,达到了规定数量后便不能增加数据了)和非安全(存在扩容机制,方便用来测试一些极限条件)
void push(const char* data, size_t len)
{
std::unique_lock<std::mutex> lock(_mutex);
//如果使用非安全策略,则生产者可以无限制的生产,就没有必要等待了
if(_state == AsynBufState::Safe)
_producer_cond.wait(lock,[&]()
{return _producer_buf.write_use_maxsize() >= len;});
//不满足上面条件就要在上面等待
//走到这里说明满足条件
_producer_buf.push(data,len);
//唤醒消费者到生产缓冲区消费
_consumer_cond.notify_all();
}
void thread_work()
{
//注意工作线程是周而复始的消费数据,直到消费完所有的数据而等待
while(true)
{
//使用更小粒度的加锁策略使得执行回调时可以并发进行
{
std::unique_lock<std::mutex> lock(_mutex);
if(_stop && _producer_buf.empty())
break;
//当要退出的时候或者生产缓冲区没有数据的时候都应该要阻塞等待
_consumer_cond.wait(lock, [&]()
{ return _stop || !_producer_buf.empty(); });
// 交换生产缓冲区和消费缓冲区
_producer_buf.swap(_consumer_buf);
// 唤醒生产者生产,如果使用非安全策略则没有必要,因为并不会等待
if(_state == AsynBufState::Safe)
_producer_cond.notify_all();
}
//回调如何执行的消费方法,由上层传入
_callback(_consumer_buf);//消费数据
_consumer_buf.reset();//清零
}
}
private:
AsynBufState _state=AsynBufState::Safe;//表明是否为安全状态
Buffer _producer_buf;//生产缓冲区
Buffer _consumer_buf;//消费缓冲区
std::condition_variable _producer_cond;//生产者等待的条件变量
std::condition_variable _consumer_cond;//消费者等待的条件变量
std::mutex _mutex;
std::atomic<bool> _stop;//是否退出
func _callback;//执行回调
std::thread _thread;//工作线程,负责将缓冲区的内容输出
};
}
其中的注意点有:
AsynBufState
类中的Safe和Unsafe是什么意思?while
的条件可以改成!quit
,不要下面的break
语句吗?stop
函数退出,这时_stop
被置为true
,此时while
循环并没有进去,但是大家别忘了,生产缓冲区中可能还是有数据的,还没有被交换,那么这个数据不就丢失了吗,所以我们可以使用上面的方式来处理。其他注意点代码中都有着详细的注释。
异步日志器类继承⾃⽇志器类, 并在同步⽇志器类上拓展了异步消息处理器。当我们需要异步输出⽇志的时候, 需要创建异步⽇志器和消息处理器, 调⽤异步⽇志器的log
、error
、infor
、fatal
等函数输出不同级别日志。
log_it
函数为重写Logger类的函数, 主要实现将日志数据加入异步双缓冲区中;real_log
函数主要由异步线程进⾏调⽤(是为异步消息处理器设置的回调函数),完成⽇志的实际落地⼯作。代码实现:
class ASyncLogger: public Logger
{
public:
using ptr = std::shared_ptr<ASyncLogger>;
ASyncLogger(const std::string &logger_name,
LogLevel::values limit_level,
Formatter::ptr format,
std::vector<Sink::ptr> &sinks,
AsynBufState state)
: Logger(logger_name, limit_level, format, sinks)
,_looper(std::make_shared<AsynBuf>(state,std::bind(&ASyncLogger::real_log,this,std::placeholders::_1)))
{}
void real_log(Buffer & buff)
{
//由于异步日志器实际落地只有一个线程,所以在消费时只有一个线程在消费是串行化执行的
if(_sinks.empty())
return;
for(auto& sink:_sinks)
{
sink->log(buff.begin(),buff.read_use_maxsize());
}
}
virtual void log_it(const char* data,size_t len)override
{
_looper->push(data,len);
}
AsynBuf::ptr _looper;
};
enum LoggerType
{
SynLog=0,
AsynLog
};
日志的输出,我们希望能够在任意位置都可以进⾏,但是当我们创建了⼀个⽇志器之后,就会受到⽇志器所在作⽤域的访问属性限制。因此,为了突破访问区域的限制,我们创建⼀个⽇志器管理类,且这个类是⼀个单例类,这样的话,我们就可以在任意位置来通过管理器单例获取到指定的⽇志器来进⾏⽇志输出了。
基于单例⽇志器管理器的设计思想,我们对于⽇志器建造者类进⾏继承,继承出⼀个全局⽇志器建造者类,实现⼀个⽇志器在创建完毕后,直接将其添加到单例的⽇志器管理器中,以便于能够在任何位置通过⽇志器名称能够获取到指定的⽇志器进⾏⽇志输出。
class LoggerManager
{
public:
static LoggerManager& GetInstance()
{
static LoggerManager local_log;
return local_log;
}
bool exist(const std::string& loggername)
{
std::unique_lock<std::mutex> lock(_mutex);
auto it=_loggers.find(loggername);
if(it == _loggers.end())
return false;
return true;
}
void add_logger(const std::string& loggername, Logger::ptr logger)
{
std::unique_lock<std::mutex> lock(_mutex);
auto it=_loggers.find(loggername);
if(it == _loggers.end())
_loggers.insert({loggername,logger});
}
Logger::ptr get_logger(const std::string& loggername)
{
std::unique_lock<std::mutex> lock(_mutex);
auto it=_loggers.find(loggername);
if(it == _loggers.end())
return Logger::ptr();
return it->second;
}
Logger::ptr get_rootlogger()
{
std::unique_lock<std::mutex> lock(_mutex);
return _root_logger;
}
private:
LoggerManager()
{
std::shared_ptr<grmlog::Bulid> build(new grmlog::LocalLoggerBuild);
build->bulid_logname("root");
build->bulid_logtype(LoggerType::SynLog);
_root_logger=build->bulid();
_loggers.insert({"root",_root_logger});
}
LoggerManager(const LoggerManager& logger)=delete;
LoggerManager& operator=(const LoggerManager& logger)=delete;
std:: mutex _mutex;
Logger::ptr _root_logger;//默认的日志器
std::unordered_map<std::string,Logger::ptr> _loggers;
};
class PublicLoggerBuild : public Bulid
{
public:
virtual Logger::ptr bulid() override
{
assert(!_logger_name.empty());//日志器名称必须有
if(_format.get() == nullptr)
_format=std::make_shared<Formatter>();
if(_sinks.empty())
bulid_sinks<StdoutSink>();
Logger::ptr logger;
if(_logger_type == LoggerType::AsynLog)
logger=std::make_shared<ASyncLogger>(_logger_name,_limit_level,_format,_sinks,_asyn_state);
else
logger=std::make_shared<SyncLogger>(_logger_name,_limit_level,_format,_sinks);
LoggerManager::GetInstance().add_logger(_logger_name,logger);
return logger;
}
};
这样我们就可以使用全局日志器来访问了,写一个测试用例来测试正误:
void public_test()
{
grmlog::Logger::ptr async_logger=grmlog::LoggerManager::GetInstance().get_logger("async_logger");
assert(async_logger.get());
async_logger->debug(__FILE__,__LINE__,"%s,","这是一条debug测试");
async_logger->infor(__FILE__,__LINE__,"%s,","这是一条infor测试");
async_logger->warnning(__FILE__,__LINE__,"%s,","这是一条warnning测试");
async_logger->error(__FILE__,__LINE__,"%s,","这是一条error测试");
async_logger->fatal(__FILE__,__LINE__,"%s,","这是一条fatal测试");
int cnt = 0;
std::string str="测试";
while (cnt < 500000)
{
async_logger->fatal(__FILE__,__LINE__,"测试日志%d,",cnt++);
}
}
int main()
{
//异步日志器的测试
//使用建造者模式来一步一步将复杂过程具体化和简单化
std::cout<<__FILE__<<std::endl;
std::shared_ptr<grmlog::Bulid> pubuild(new grmlog::PublicLoggerBuild);
pubuild->bulid_logtype(grmlog::LoggerType::AsynLog);//设置为异步工作器
pubuild->bulid_level(grmlog::LogLevel::values::Warnning);
pubuild->bulid_format("[%f:%l]%m%n");
pubuild->bulid_logname("async_logger");
pubuild->bulid_sinks<grmlog::StdoutSink>();
pubuild->bulid_sinks<grmlog::FileSink>("./mylog/async.log");
pubuild->build_set_unsafe();
pubuild->bulid();
public_test();
return 0;
}
我们打开async.log
最后几行内容:
一共有500003行内容,是符合我们预期的。
提供全局的⽇志器获取接⼝。
使⽤代理模式通过全局函数或宏函数来代理Logger
类的debug、infor、error、fatal等接⼝,以便于控制源码⽂件名称和⾏号的输出控制,简化用户操作。
当仅需标准输出⽇志的时候可以通过主⽇志器来打印⽇志。 且操作时只需要通过宏函数直接进⾏输出即可。
我们将这些内容都设计到grmlog.hpp
中:
#pragma once
#include"Logger.hpp"
namespace grmlog
{
Logger::ptr get_logger(const std::string& name)
{
return LoggerManager::GetInstance().get_logger(name);
}
Logger::ptr get_root_logger(const std::string& name)
{
return LoggerManager::GetInstance().get_rootlogger();
}
#define debug(fmt, ...) debug(__FILE__, __LINE__, fmt, ##__VA_ARGS__)
#define infor(fmt, ...) infor(__FILE__, __LINE__, fmt, ##__VA_ARGS__)
#define warnning(fmt, ...) warnning(__FILE__, __LINE__, fmt, ##__VA_ARGS__)
#define error(fmt, ...) error(__FILE__, __LINE__, fmt, ##__VA_ARGS__)
#define fatal(fmt, ...) fatal(__FILE__, __LINE__, fmt, ##__VA_ARGS__)
#define LOG_DEBUG(logger, fmt, ...) (logger)->debug(fmt, ##__VA_ARGS__)
#define LOG_INFO(logger, fmt, ...) (logger)->infor(fmt, ##__VA_ARGS__)
#define LOG_WARN(logger, fmt, ...) (logger)->warnning(fmt, ##__VA_ARGS__)
#define LOG_ERROR(logger, fmt, ...) (logger)->error(fmt, ##__VA_ARGS__)
#define LOG_FATAL(logger, fmt, ...) (logger)->fatal(fmt, ##__VA_ARGS__)
#define Log_Debug(fmt, ...) LOG_DEBUG(grmlog::get_root_logger(), fmt, ##__VA_ARGS__)
#define Log_Infor(fmt, ...) LOG_INFO(grmlog::get_root_logger(), fmt, ##__VA_ARGS__)
#define Log_Warnning(fmt, ...) LOG_WARN(grmlog::get_root_logger(), fmt, ##__VA_ARGS__)
#define Log_Error(fmt, ...) LOG_ERROR(grmlog::get_root_logger(), fmt, ##__VA_ARGS__)
#define Log_Fatal(fmt, ...) LOG_FATAL(grmlog::get_root_logger(), fmt, ##__VA_ARGS__)
}
当我们使用该日志项目时其实只需要包含grmlog.hpp
头文件即可。
我们写个测试程序来验证:
void public_test()
{
grmlog::Logger::ptr async_logger=grmlog::LoggerManager::GetInstance().get_logger("async_logger");
assert(async_logger.get());
async_logger->debug("%s,","这是一条debug测试");
async_logger->infor("%s,","这是一条infor测试");
async_logger->warnning("%s,","这是一条warnning测试");
async_logger->error("%s,","这是一条error测试");
async_logger->fatal("%s,","这是一条fatal测试");
int cnt = 0;
std::string str="测试";
while (cnt < 100000)
{
async_logger->fatal("测试日志%d,",cnt++);
}
}
int main()
{
//异步日志器的测试
//使用建造者模式来一步一步将复杂过程具体化和简单化
std::cout<<__FILE__<<std::endl;
std::shared_ptr<grmlog::Bulid> pubuild(new grmlog::PublicLoggerBuild);
pubuild->bulid_logtype(grmlog::LoggerType::AsynLog);//设置为异步工作器
pubuild->bulid_level(grmlog::LogLevel::values::Warnning);
pubuild->bulid_format("[%f:%l]%m%n");
pubuild->bulid_logname("async_logger");
pubuild->bulid_sinks<grmlog::StdoutSink>();
pubuild->bulid_sinks<grmlog::FileSink>("./mylog/async.log");
pubuild->build_set_unsafe();
pubuild->bulid();
public_test();
return 0;
}
打开async.log
:
一般来说性能测试我们要从3个方面来准备:
我们可以使用lscpu
来查看cpu的配置:
Architecture: x86_64
CPU op-mode(s): 32-bit, 64-bit
Byte Order: Little Endian
CPU(s): 2
On-line CPU(s) list: 0,1
Thread(s) per core: 1
Core(s) per socket: 2
Socket(s): 1
NUMA node(s): 1
Vendor ID: GenuineIntel
CPU family: 6
Model: 85
Model name: Intel(R) Xeon(R) Platinum 8255C CPU @ 2.50GHz
Stepping: 5
CPU MHz: 2494.140
BogoMIPS: 4988.28
Hypervisor vendor: KVM
Virtualization type: full
L1d cache: 32K
L1i cache: 32K
L2 cache: 4096K
L3 cache: 36608K
NUMA node0 CPU(s): 0,1
我们可以通过手动创建输入线程的数量,日志器名称,总的消息条数,每条消息的长度。
使用多线程来进行输入时记录开始时间和结束时间,然后计算出每个线程的耗时以及每个线程平均每秒输出的消息个数,然后计算总共耗时以及总共平均每秒输出消息个数。
具体代码:
#include"../Log/grmlog.hpp"
#include
#include
#include
void bench (const std::string& loggername, size_t all_msg_nums, size_t msg_len, size_t thread_num)
{
grmlog::Logger::ptr pgr=grmlog::get_logger(loggername);
if(pgr.get() == nullptr) return;
size_t one_thread_msg=all_msg_nums/thread_num;
std::string msg('c',msg_len);
std::vector<std::thread> threads;
std::vector<double> times(thread_num);
std::cout<<"输出的总日志大小: "<<all_msg_nums*msg_len/1024/1024<<"Mb"<<std::endl;
std::cout<<"输出的总日志条数: "<<all_msg_nums<<"条"<<std::endl;
std::cout<<"输入的总线程数量: "<<thread_num<<"个"<<std::endl;
for (int i = 0; i < thread_num; ++i)
{
auto start = std::chrono::high_resolution_clock::now();
threads.emplace_back([&, i]()
{
for(int i=0; i<one_thread_msg; ++i)
{
pgr->fatal("%s",msg.c_str());
}
auto end = std::chrono::high_resolution_clock::now();
auto cost = std::chrono::duration_cast<std::chrono::duration<double>>(end - start);
times[i] = cost.count();//计算获得的秒数
auto avg = one_thread_msg / times[i];
std::cout << "线程" << i << "耗时: " << cost.count() << "s\t";
std::cout << " 平均1s输出消息个数: " << (size_t)avg << "个\n";
});
}
for (auto &th : threads)
th.join();
double max_time = times[0];
for (auto &t : times)
max_time = std::max(max_time, t);
std::cout << "总共耗时:" << max_time << "s" << std::endl;
std::cout << "平均每秒输出消息个数" << (size_t)all_msg_nums / max_time << std::endl;
}
void sync_bench()
{
std::shared_ptr<grmlog::Bulid> pubuild(new grmlog::PublicLoggerBuild);
pubuild->bulid_logtype(grmlog::LoggerType::SynLog);
pubuild->bulid_level(grmlog::LogLevel::values::Warnning);
pubuild->bulid_format("[%f:%l]%m%n");
pubuild->bulid_logname("sync_logger");
pubuild->bulid_sinks<grmlog::FileSink>("./log.txt/sync.log");
grmlog::Logger::ptr logger=pubuild->bulid();
//bench(logger->get_loggername(),1000000,100,5);//自行调整
}
void async_bench()
{
std::shared_ptr<grmlog::Bulid> pubuild(new grmlog::PublicLoggerBuild);
pubuild->bulid_logtype(grmlog::LoggerType::AsynLog);
pubuild->bulid_level(grmlog::LogLevel::values::Warnning);
pubuild->bulid_format("[%f:%l]%m%n");
pubuild->bulid_logname("async_logger");
pubuild->bulid_sinks<grmlog::FileSink>("./log.txt/async.log");
pubuild->build_set_unsafe();
grmlog::Logger::ptr logger=pubuild->bulid();
//bench(logger->get_loggername(),1000000,100,5);//自行调整
}
[grm@VM-8-12-centos Property]$ ./test
输出的总日志大小: 95Mb
输出的总日志条数: 1000000条
输入的总线程数量: 1个
线程0耗时: 2.04552s 平均1s输出消息个数: 488874个
总共耗时:2.04552s
平均每秒输出消息个数488874
[grm@VM-8-12-centos Property]$ ./test
输出的总日志大小: 95Mb
输出的总日志条数: 1000000条
输入的总线程数量: 5个
线程4耗时: 2.1405s 平均1s输出消息个数: 95083个
线程2耗时: 2.1878s 平均1s输出消息个数: 91873个
线程3耗时: 2.19586s 平均1s输出消息个数: 90885个
线程1耗时: 2.11844s 平均1s输出消息个数: 97625个
线程0耗时: 2.14576s 平均1s输出消息个数: 92586个
总共耗时:2.11844s
平均每秒输出消息个数468870
[grm@VM-8-12-centos Property]$ ./test
输出的总日志大小: 95Mb
输出的总日志条数: 1000000条
输入的总线程数量: 1个
线程0耗时: 2.34552s 平均1s输出消息个数: 434782个
总共耗时:2.34552s
平均每秒输出消息个数434782
[grm@VM-8-12-centos Property]$ ./test
输出的总日志大小: 95Mb
输出的总日志条数: 1000000条
输入的总线程数量: 5个
线程1耗时: 1.82806s 平均1s输出消息个数: 109405个
线程4耗时: 1.85411s 平均1s输出消息个数: 107868个
线程0耗时: 1.86217s 平均1s输出消息个数: 107401个
线程3耗时: 1.89818s 平均1s输出消息个数: 105364个
线程2耗时: 1.89986s 平均1s输出消息个数: 105270个
总共耗时:1.89986s
平均每秒输出消息个数526354
注意不同测试环境的CPU,内存,磁盘的性能是不一样的,要根据具体的环境具体分析。
在我的测试环境下:
在单线程情况下,异步效率看起来还没有同步高,这个是因为现在的IO操作在用户态都会有缓冲区进⾏缓冲,因此我们当前测试⽤例看起来的同步其实大多时候也是在操作内存,只有在缓冲区满了才会涉及到阻塞写磁盘操作,⽽异步单线程效率看起来低;也有⼀个很重要的原因就是单线程同步操作中不存在锁冲突,⽽单线程异步⽇志操作存在⼤量的锁冲突,因此性能也会有⼀定的降低。
但是,我们也要看到限制同步⽇志效率的最⼤原因是磁盘的性能,打⽇志的线程多少并⽆明显区别,线程多了反⽽会降低,因为增加了磁盘的读写争抢;⽽对于异步⽇志的限制,并⾮磁盘的性能,⽽是cpu的处理性能,打⽇志并不会因为落地⽽阻塞,因此在多线程打⽇志的情况下性能有了显著的提⾼。
当然如果你的测试环境中磁盘的性能较差,单线程同步日志的性能就不会很好;如果测试的CPU的处理性能很高,那么多线程异步日志的效率就会非常高。
【源码仓库】