[基于Epoll内置Leader-Follower服务端实现, 已可达50万echo qps(全新支持Lua啦)] - C/C++ - ChinaUnix.net -

[基于Epoll内置Leader-Follower服务端实现, 已可达50万echo qps(全新支持Lua啦)] - C/C++ - ChinaUnix.net -

[其他] [基于Epoll内置Leader-Follower服务端实现, 已可达50万echo qps(全新支持Lua啦)] [复制链接]
0   0

Rank: 8Rank: 8

帖子
2196
主题
21
精华
1
可用积分
21854
专家积分
0
在线时间
978 小时
注册时间
2012-07-28
最后登录
2013-03-26
论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-02-18 00:02:23 | 只看该作者 | 倒序浏览
本帖最后由 linux_c_py_php 于 2013-02-21 17:38 编辑

   程序在论坛众亲友的给力指导下, 在公司内核部门的指导之下, 长连接性能最终达到了50万qps, 短连接性能最终达到了7万qps, 测试机器CPU为12核心, 64MB内存, 测试环境为单机lo网口.

   程序基于epoll的EPOLLONESHOT选项, 充分利用了epoll的线程安全特性, 通过独立的监听线程最大化连接建立速率, 通过线程池配合epoll简易的实现了Leader-Follower的程序结构, 对于各类业务逻辑能够普遍适用.

   程序优化过程中, 主要是2个瓶颈点的化解:

   1, epoll线程安全, 所以内部的锁会造成多线程共享epoll fd的瓶颈, 通过创建多组epoll fd, 减小锁的竞争可以化解瓶颈, 充分利用硬件性能.
   2, 短连接建立能力差, 未经过优化网络参数, 只能达到3万/秒的建立能力, 经过参数优化, 可以达到8万/秒的建立能力, 具体参数参考代码里的Readme.


代码如下,最初的255行小代码, 有明显的瓶颈:(15万QPS)
server.tar.gz (1.85 KB, 下载次数: 89)

解决上述两个问题后的代码, 能够支撑50万qps:
lfepoll.tar.gz (2.69 KB, 下载次数: 106)

这是引入了lua的代码, 不支持yield, 因为考虑到需要把代码改成状态机的太费劲, 并且程序本身就是leader-folllower的, 所以提供一些异步connect等实用接口的必要性不大:
lfepoll.tar.gz (4.27 KB, 下载次数: 33)

测试lua版本性能, 发现luaL_loadstring频繁调用性能损耗严重, 所以做成了只加载一次, 然后保持一份引用在注册表里, 以便重复使用, 现在程序瓶颈已经转移到了lua_pcall, 目测已经无法优化了.(注意测试前修改logic.lua, 改为纯echo服务, 否则会导致test压力工具工作不正常)

lfepoll.tar.gz (4.38 KB, 下载次数: 36)

[基于Epoll内置Leader-Follower服务端实现, 已可达50万echo qps(全新支持Lua啦)] - C/C++ - ChinaUnix.net -_第2张图片

你可能感兴趣的:(c/c++)