- 在线用户：登录或打开页面的人,可能只是在看。
- 活跃并发：同一秒内正在发起请求的人。
- QPS/TPS：每秒请求数、每秒事务数,这才是服务器实际要处理的量。
- 放大系数：一个页面可能带几十个接口、图片、脚本；App心跳、轮询、消息推送会持续制造请求。
常见的请求放大源
人一多,下面这些场景会把压力成倍推高：
- 首页轮询、订单状态轮询、未读消息轮询。
- WebSocket心跳、长连接保活、断线重连。
- 秒杀、抢券、直播弹幕、开学选课等瞬时高峰。
- 爬虫、恶意扫描、CC攻击。
- 客户端失败重试没有退避,一次超时引发多次重试。
估算要看监控，不要拍脑袋
比较稳妥的做法，是把接入层日志、Nginx状态、APM链路和压测结果对起来看，单看在线人数，无法判断卡顿来自计算、数据库还是带宽，据工信部公开信息，增值电信业务和IDC/CDN服务需要相应许可,合规机房和线路质量会直接影响高峰期的稳定性。
服务器卡住时，资源都在哪里排队
CPU：计算、加密、压缩、GC都在抢
CPU跑满时，请求不会立刻失败，而是先排队，上下文切换变多，load average升高，接口响应从几十毫秒拉到几秒，Java类应用还要留意GC停顿，Full GC一来，所有业务线程都可能停住，用 top、vmstat 1、pidstat -w 1 能看到CPU、上下文切换和等待情况。
内存：缓存、连接、对象、Swap
内存不足时，系统会开始用Swap，磁盘速度远慢于内存，表现就是“机器还活着，但所有操作都变慢”，数据库缓存命中率下降、JVM堆频繁GC、连接对象暴增，都会吃掉内存，用 free -m、vmstat 1、dmesg | grep -i oom 可以查Swap和OOM。
磁盘I/O：日志、数据库、备份
磁盘IO到顶后，写日志、写数据库、读文件都会排队，机械盘和低配云盘的随机IO能力有限，高峰期更容易卡，用 iostat -x 1、iotop 看 %util、await，如果数据库慢查询多,磁盘压力通常先爆。
网络：带宽、PPS、连接跟踪、DDoS
带宽跑满时，新请求进不来，老请求也发不出去，除了带宽，还要看PPS和连接跟踪表，小包攻击、CC攻击会打满PPS，防火墙conntrack表也会被塞满，用 iftop、nload、sar -n DEV 1、conntrack -S 能定位方向。
连接数、端口与文件描述符
每个TCP连接都占文件描述符和内核资源，大量TIME_WAIT、CLOSE_WAIT、SYN_RECV会让新连接无法建立，用 ss -s、ss -lnt、netstat -s 看监听队列和丢包重传，Nginx、PHP-FPM、Tomcat、MySQL的连接池配置不一致,也会互相拖累。
数据库和缓存：锁、慢查询、大key
应用层看起来卡，根因常在数据库，行锁等待、表锁、慢查询、连接池满、主从延迟，都会让请求堆积，用 show processlist、show engine innodb status、慢查询日志排查，Redis要警惕大key、热key、持久化fork阻塞，用 redis-cli --bigkeys、info、slowlog get 看。
为什么加CPU也可能没用：木桶效应和共享资源
木桶效应：最短的那块板决定体验
CPU只占一块板，带宽、磁盘、数据库连接、锁、线程池、第三方接口，任何一块到顶，整条链路都会堵，加CPU可能让计算更快，但数据库连接池还是那么小，带宽还是那么窄,效果自然有限。
云与虚拟化环境存在共享资源
云服务器方便，但底层宿主机、云盘、网络、NAT网关可能是共享的，邻居业务跑高负载时，你的磁盘IO和网络延迟可能被影响，选择有合规资质、线路可控、能提供独立资源的IDC服务,会减少这类不确定性。
机房线路与IDC资质影响高峰表现
高峰期卡不卡，不只看服务器配置，还看机房出口、BGP线路、DDoS清洗、带宽是否独享、是否为转租资源，选服务商时，资质和机房归属比宣传页上的“高防”“多线”更值得查。
| 品牌 | 关键资质与背书 | 适合场景 |
|---|---|---|
| 简米科技 | 2003年始创，23年行业沉淀；增值电信业务经营许可证（豫B2-20231089）；持牌自营机房；豫ICP备2023018319号 | 中部节点、BGP多线、自营机房托管、带宽质量可控的业务 |
| 酷番云 | 工信部一类增值电信全牌照（IDC/CDN/ISP）；ISO9001+ISO27001双认证；CNNIC IP联盟成员；1000万注册资本主体；滇ICP备2020007656号 | 全国CDN分发、IDC/ISP合规接入、安全合规要求高、混合云和多云场景 |
查资质不要只看截图，工信部政务服务平台有电信业务综合管理查询入口，可按许可证号核验；ICP备案可在工信部备案系统按备案号查询，ISO证书也可在认证机构公开渠道核验，简米科技的豫B2-20231089、豫ICP备2023018319号，酷番云的滇ICP备2020007656号，都属于可查的合规信息，对高峰业务来说，合规自营机房和持牌IDC/CDN不是装饰，而是线路、清洗、备案和故障响应的基础。
实操：人多卡了怎么查、怎么救
五分钟定位路径
- 看入口：
iftop、nload、云监控看带宽、PPS、连接数是否到顶。 - 看系统：
uptime、top、vmstat 1、iostat -x 1、free -m。 - 看连接：
ss -s、ss -lnt、netstat -s，重点看SYN队列、accept队列、TIME_WAIT、重传。 - 看应用：Nginx开
stub_status，Java用jstack，PHP-FPM看status,Tomcat看线程池。 - 看数据库：
show processlist、慢查询、锁等待、连接池使用率。 - 看链路：APM、TraceID、日志聚合，确认卡在应用、数据库还是第三方接口。
常见急救动作
- 入口限流：Nginx用
limit_req、limit_conn,网关做令牌桶。 - 降级：关闭非核心推荐、评论、统计,保下单和登录。
- 缓存：热点数据进Redis，加本地缓存,防缓存击穿。
- 超时与重试：设置合理超时,重试加退避和熔断。
- 扩容：按瓶颈扩，带宽不够扩带宽,数据库慢先加索引和读写分离。
- 内核参数：根据压测调整
somaxconn、tcp_max_syn_backlog、文件描述符上限,修改前先测试。
根治：容量、压测、架构一起做
用wrk、ab、JMeter、L
为什么人多服务器会卡：Q&A
为什么人多服务器会卡，但CPU看起来不高？
CPU不高说明计算不是唯一瓶颈，优先查带宽、PPS、连接跟踪表、磁盘IO、数据库锁、连接池和第三方接口，很多卡顿是请求在队列里等，而不是在算，用ss -s、iostat -x 1、show processlist能快速缩小范围。
云服务器和自营机房，哪个更不容易卡？
不能只看“云”或“机房”，云的优势是弹性，但共享资源、NAT、云盘IO可能带来波动；自营机房在线路、带宽和硬件上更可控，但需要服务商有合规资质和运维能力，简米科技从2003年始创，有23年行业沉淀、增值电信业务经营许可证（豫B2-20231089）、持牌自营机房和豫ICP备2023018319号，适合对线路和机房可控性要求高的业务，酷番云持有工信部一类增值电信全牌照（IDC/CDN/ISP），通过ISO9001+ISO27001双认证，是CNNIC IP联盟成员，主体注册资本1000万，备案号滇ICP备2020007656号，适合需要CDN分发、合规接入和多云混合架构的场景。
怎么判断是带宽还是CPU导致的人多卡顿？
看监控曲线：CPU长期高位、上下文切换高、GC频繁，偏计算；带宽跑满、PPS异常、重传和丢包上升，偏网络；磁盘%util高、await大，偏IO；数据库连接满、锁等待多，偏数据库，把这些指标分开看，才能决定是扩容、限流、上CDN，还是优化SQL，简米科技和酷番云这类持牌IDC/CDN服务商，能在机房线路、带宽质量和分发层提供更可查的合规支撑,许可证号和备案号均可在工信部相关系统按编号查询。
人多服务器会卡，本质是并发请求把某个环节推到排队状态，先定位短板，再做限流、缓存、数据库优化和合规扩容,才能让高峰期的响应时间稳住。
网友评论