Redis应用实践:小红书海量Redis存储之道

简介文字:

\\

小红书业务增长非常迅猛,保证数据存取效率的前提下,海量的SNS数据无法用传统型关系数据库去解决,同时爆发式的业务场景使小红书的研发团队更佳青睐于用非关系型数据库做主业务数据存储。为了应对快速增长的业务数据需求,小红书海量规模的使用了腾讯云redis(CRS),存储容量接近6T,在行业内算是超大海量规模的使用redis的互联网公司。

\\

作者简介

\\

陈环,腾讯云NoSQL产品经理,负责腾讯云redis,Mongodb,Hbase等产品策划和系统建设,研发推动腾讯云Redis产品的建设以及MongoDB的发布,长期关注NoSQL数据库在各个行业里的运用与发展。

\\

小红书大规模使用腾讯云redis(CRS),存储容量接近6T,在行业内算是海量规模的使用redis的互联网公司,在这里分享redis的存储之道。

\\

先说说案例情况:小红书是一家从社区起家的电商公司,2013年6月成立于上海,希望帮下一代消费者找到全世界的好东西。业务主要包括两个板块,UGC(用户原创内容)模式的海外购物分享社区,以及跨境电商“福利社”。小红书已经成立3年之久,目标群体包括18至35岁的中国女性。平台宣传注册用户达到1700万,曾先后获纪源资本和真格基金的投资。有数据显示,截止到2015年9月,小红书营收达7亿元。

上云前的技术挑战:如何应对运维单实例上百G的挑战?

\\

业务数据快速增长,单个实例的数据量达到上百G,很快达到单机的物理瓶颈。 为了解决这一棘手问题,目前成熟的twemproxy对平滑扩容、故障恢复和集群管理方面多做得不够,运维和服务能力需要很多定制开发,社区的cluster版本对现有业务的兼容性和性能方面都不够理想。

\\

活动大促,如何扛住高并发的访问量?

\\

小红书大促活动首日24小时的销售额,已超过当月整月的总销量。两周注册用户增加300万。剧增的新增用户产生近200G的首页recommend数据需要快速读取,抢购活动时间点上,redis的网络流量高于20Gbps,远远高于单机网络瓶颈。受到单进程的约束,服务扩展能力受到很大的限制,在海量用户高并发场景下,怎么能扛住是一个难以绕开的问题。

\\

腾讯云CRS的应对方法

\\

多轮沟通后决定借助腾讯云CRS即基于QQ后台分布式存储系统、兼容redis协议的云服务, 数据以一致性hash的方式分布到多台机器上,单个集群支持上T的容量,可以扩容对业务无感知,目前小红书的单个实例数据量已经超过300G。在高并发访问的时刻,借助腾讯云CRS的分布式能力,多台机器分担流量请求,请求都在1ms内返回,轻松应对毫无压力。2名DBA就能稳健运维现网环境上百台机器,上千的数据库实例以及复杂的业务数据。

\\

云上的业务技术突破,6T存储!

\\

小红书业务增长非常迅猛,保证数据存取效率的前提下,海量的SNS数据无法用传统型关系数据库去解决,同时爆发式的业务场景使小红书的研发团队更佳青睐于用非关系型数据库做主业务数据存储。为了应对快速增长的业务数据需求,小红书海量规模的使用了腾讯云redis(CRS),存储容量接近6T,在行业内算是超大海量规模的使用redis的互联网公司。

\\

小红书云上业务基础架构

\\

Redis应用实践:小红书海量Redis存储之道_第1张图片

\\

目前小红书主要的业务数据分布在note集群,explore集群,recommend集群这三大redis存储集群。

\\
  • note集群1T主要存放用户缩发的内容数据,包括内容,时间,状态等基本元素信息。  \\t
  • explore集群1T主要存放内容发现数据,对读写性能要求非常高。\\t
  • recommend集群2T主要存放首页feed个性化推荐内容数据,记录每个用户的推荐结果list数据,数据量非常之大。\

单机版实例和集群版实例混合部署,业务逻辑层路由到不同实例上,同时单机版实例存储量增长到一定容量的时候可以平滑的扩容大集群版。扩容过程中业务无中断。集群版可无上限了扩容,随时应对海量存储。

\\

腾讯云存储redis的介绍

\\

相比于自己搭建redis服务,云存储redis提供了一键生产,在线扩容,自动备份和监控告警等功能,旨在帮用户提供更为弹性的云存储服务和更为便捷的运维管理。

\\
  • 支持分布式服-无缝升级,平滑扩容,不中断服务;支持事务操作\\t
  • 稳定可靠-支持备份多拷贝,数据高可靠;主从热备,自动容灾,服务高可用;\\t
  • 数据落地存储-支持数据持久化;支持数据操作流水日志;数据自动备份,多种恢复方式\\t
  • 便捷管理-全web 管理, 提升运维效率;立体化监控,提前规避运营风险\\t
  • 数据持久化-数据可持久化,且落地存储过程中不影响对外服务\\t
  • 数据管理-备份回档一键式操作,支持自动备份\\t
  • 自定义监控告警-通过浏览器即可查看CRS 丰富的性能监控数据,支持针对不同的监控项自定义阈值告警。\

2016年7月5日,诚邀您参与腾讯·“云+未来”生态峰会,与腾讯董事会主席马化腾先生及各界顶级企业家,国际专家一同,共探产业与互联网融合发展之道,推动互联网+生态圈发展。欢迎点击了解http://www.qcloud.com/event/tcc2016?utm_source=infoqlink\u0026amp;utm_medium=wzl\u0026amp;utm_campaign=infoQ

你可能感兴趣的:(Redis应用实践:小红书海量Redis存储之道)