互联网架构，如何进行容量设计？流量峰值QPS

r囧r小猫 2023-02-17 03:15 21阅读 0赞

一、需求缘起  
互联网公司，这样的场景是否似曾相识：

场景一：pm要做一个很大的运营活动，技术老大杀过来，问了两个问题：

（1）机器能抗住么？

（2）如果扛不住，需要加多少台机器？

场景二：系统设计阶段，技术老大杀过来，又问了两个问题：

（1）数据库需要分库么？

（2）如果需要分库，需要分几个库？

技术上来说，这些都是系统容量预估的问题，容量设计是架构师必备的技能之一。常见的容量评估包括数据量、并发量、带宽、CPU/MEM/DISK等，今天分享的内容，就以【并发量】为例，看看如何回答好这两个问题。

二、容量评估的步骤与方法  
【步骤一：评估总访问量】

如何知道总访问量？对于一个运营活动的访问量评估，或者一个系统上线后PV的评估，有什么好的方法？

答案是：询问业务方，询问运营同学，询问产品同学，看对运营活动或者产品上线后的预期是什么。

举例：58要做一个APP-push的运营活动，计划在30分钟内完成5000w用户的push推送，预计push消息点击率10%，求push落地页系统的总访问量？

回答：5000w\*10% = 500w

【步骤二：评估平均访问量QPS】

如何知道平均访问量QPS？

答案是：有了总量，除以总时间即可，如果按照天评估，一天按照4w秒计算。

举例1：push落地页系统30分钟的总访问量是500w，求平均访问量QPS

回答：500w/(30\*60) = 2778，大概3000QPS

举例2：主站首页估计日均pv 8000w，求平均访问QPS

回答：一天按照4w秒算，8000w/4w=2000，大概2000QPS

提问：为什么一天按照4w秒计算？

回答：一天共24小时*60分钟*60秒=8w秒，一般假设所有请求都发生在白天，所以一般来说一天只按照4w秒评估

【步骤三：评估高峰QPS】

系统容量规划时，不能只考虑平均QPS，而是要抗住高峰的QPS，如何知道高峰QPS呢？

答案是：根据业务特性，通过业务访问曲线评估

举例：日均QPS为2000，业务访问趋势图如下图，求峰值QPS预估？

业务访问趋势

回答：从图中可以看出，峰值QPS大概是均值QPS的2.5倍，日均QPS为2000，于是评估出峰值QPS为5000。

说明：有一些业务例如“秒杀业务”比较难画出业务访问趋势图，这类业务的容量评估不在此列。

【步骤四：评估系统、单机极限QPS】

如何评估一个业务，一个服务单机能的极限QPS呢？

答案是：压力测试

在一个服务上线前，一般来说是需要进行压力测试的（很多创业型公司，业务迭代很快的系统可能没有这一步，那就悲剧了），以APP-push运营活动落地页为例（日均QPS2000，峰值QPS5000），这个系统的架构可能是这样的：

系统架构举例

1）访问端是APP

2）运营活动H5落地页是一个web站点

3）H5落地页由缓存cache、数据库db中的数据拼装而成

通过压力测试发现，web层是瓶颈，tomcat压测单机只能抗住1200的QPS（一般来说，1%的流量到数据库，数据库500QPS还是能轻松抗住的，cache的话QPS能抗住，需要评估cache的带宽，假设不是瓶颈），我们就得到了web单机极限的QPS是1200。一般来说，线上系统是不会跑满到极限的，打个8折，单机

线上允许跑到QPS1000。

【步骤五：根据线上冗余度回答两个问题】

好了，上述步骤1-4已经得到了峰值QPS是5000，单机QPS是1000，假设线上部署了2台服务，就能自信自如的回答技术老大提出的问题了：

（1）机器能抗住么？ -> 峰值5000，单机1000，线上2台，扛不住

（2）如果扛不住，需要加多少台机器？ ->需要额外3台，提前预留1台更好，给4台更稳

除了并发量的容量预估，数据量、带宽、CPU/MEM/DISK等评估亦可遵循类似的步骤。

发表评论取消回复

表情：

评论列表（有 0 条评论，21人围观）

还没有评论，来说两句吧...

相关阅读

相关电商峰值系统架构设计--转载

1.1 系统架构设计目录摘要：双11来临之际，《程序员》以“电商峰值系统架构设计”为主题，力邀京东、当当、小米、1号店、海尔商城、唯品会、蘑菇街、麦包包等电商企业，及商

痛定思痛。/ 2023年10月18日 18:37/ 0 赞/ 54 阅读

相关如何进行内存容量测试？

随着计算机发展的不断推进，内存容量对于计算机的运行速度和效率变得更为重要。而在实际使用中，我们需要确定计算机内存的真正容量，从而更好地掌握系统性能和运行状态。本文将详细介绍如何

超、凢脫俗/ 2023年10月12日 14:30/ 0 赞/ 61 阅读

相关请求过程——>架构如何随流量进行变化

请求过程： ![请求过程][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZ

落日映苍穹つ/ 2023年06月06日 03:43/ 0 赞/ 8 阅读

相关互联网架构，如何进行容量设计？流量峰值QPS

一、需求缘起互联网公司，这样的场景是否似曾相识：场景一：pm要做一个很大的运营活动，技术老大杀过来，问了两个问题：（1）机器能抗住么？（2）如果扛不住，需要加

r囧r小猫/ 2023年02月17日 03:15/ 0 赞/ 22 阅读

相关 Java性能优化：架构设计-流量控制设计

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ub

约定不等于承诺〃/ 2022年12月04日 03:25/ 0 赞/ 202 阅读

相关架构思维成长系列教程（三）- “缓存”如何应对亿级流量峰值

背景 > 许多大型互联网系统，如：电商、社交、新闻等 App 或网站，动辄日活千万甚至上亿，每分钟的峰值流量也在数十万以上，架构上如何应对如此高的流量峰值？可以通过使用“

柔光的暖阳◎/ 2022年10月22日 12:54/ 0 赞/ 216 阅读

相关如何合理的设计系统容量？

作者：翁智华出处：[https://www.cnblogs.com/wzh2010/][https_www.cnblogs.com_wzh2010] 背景单位每

刺骨的言语ヽ痛彻心扉/ 2022年10月12日 01:03/ 0 赞/ 134 阅读

相关无限容量数据库架构设计

[https://mp.weixin.qq.com/s/ad4tpM6cdi9r6vgfbaTzxg][https_mp.weixin.qq.com_s_ad4tpM6cdi9

布满荆棘的人生/ 2022年06月09日 11:36/ 0 赞/ 238 阅读

相关如何实现高容量大并发数据库服务 | 数据库分布式架构设计？

摘要数据库拆分要根据业务现状、模式，选择合适的拆分方式，紧密结合业务及应用架构设计，谨慎拆分，防止过度设计。正文一、为什么要做分布式数据库架构改造？

墨蓝/ 2022年01月13日 01:25/ 0 赞/ 257 阅读

相关互联网总体架构设计篇

文章目录序言 01 互联网发展三阶段 02 互联网架构演进之路 03 单体架构设计与实践 04 水平分层架构设计与实践 05 面向服

小鱼儿/ 2021年12月16日 09:01/ 0 赞/ 442 阅读