性能文章>【全网首发】分享一次机房出口带宽跑满的案例>

【全网首发】分享一次机房出口带宽跑满的案例原创

3月前
339538

背景

有客户反馈6月12号下午14:00左右xxx域名有大量数据传出,一度占满出口带宽,导致系统缓慢,希望我们尽快查一下,带宽监控如下图所示:

 

xxx正是我们部署在客户机房的招投标系统所使用的的域名。

 

概念

工作这么多年,带宽跑满这事也只是听说过,倒没亲身经历过,落到自己头上的时候多少有点不知所措,正式开始解决问题之前先把概念搞清楚,免得最终脱离目标。

 

网络带宽:网络带宽是指在单位时间(一般指的是1秒钟)内能传输的数据量。网络和高速公路类似,带宽越大,就类似高速公路的车道越多,其通行能力越强。数字信息流的基本单位是bit(比特),时间的基本单位是s(秒),因此bit/s(比特/秒)是描述带宽的单位,1bit/s是带宽的基本单位。

来源于百度百科

 

网速:网速一般是指电脑或手机上网时,上传和下载数据时,请求和返回数据所用的时间长短。电脑中存取数据的单位是“字节”,即byte(大写B),而数据通信是以“字位”为单位,即bit(小写b),两者之间的关系是1byte=8bit。电信业务中提到的网速为1M、2M、3M、4M等是以数据通信的字位作为单位计算的。所以电脑软件显示的下载速度为200KB时,实际线路连接速率不小于1.6Mbit(1600Kbit)。

来源于百度百科

 

下载、上传:网络数据传输分为发送数据和接收数据两部分。上传就是向外部发送数据,下载为从外部接收数据。他们都受网络带宽和设备性能制约。在日常网络传输中大致1Mbps=1024/8KB/s=128KB/s(1/8)。例如上行的网络带宽为100Mbps,那么最大上传速度就是12800KB/s,也就是12.5MB/s。

用户申请的宽带业务速率指技术上所能达到的最大理论速率值,用户上网时还受到用户电脑软硬件的配置、所浏览网站的位置、对端网站带宽等情况的影响,故用户上网时的速率通常低于理论速率值。理论上:2M(即2Mb/s)宽带理论速率是:256KB/s(即2048Kb/s),实际速率大约为103--200KB/s;4M(即4Mb/s)的宽带理论速率是:512KB/s,实际速率大约为200---440KB/s。以此类推。

来源于测速网

 

大概总结一下,一般提到的1M带宽、10M带宽是指Mb/s,小b是代表比特,用户从浏览器下载时的速率显示是Byte(字节)/s(秒),1Byte/s=8bps,2M带宽的理论速率是256KB/s(2/8*1024),100M带宽的理论速率是12.5MB/s(100/8)。

 

初步思考

结合上一节的概念介绍,从服务器角度出发,对入网和出网带宽进行说明,以下内容来自阿里云官网介绍:

 

下图为数据流的方向说明

 

在我们案例中其实就是上图中的红框圈起来部分占满了,多余的比特流只能等着,和堵车一样,路就那么宽,超负荷了以后就只能堵车。

 

到这儿,基本问题才算是搞清楚了,“出口带宽被占满,导致用户请求长时间拿不到响应,其实系统一点也不忙,只是回来的路上堵车了。”

 

找出真凶

从访问量上来看,系统非常平稳,没有所谓的突发流量,再者说一个toB性质的网站,那点突发流量也是蚍蜉撼树。

 

从业务属性来看,就是普通的crud业务,对带宽的需求不大,不像抖音、快手这类带宽消耗大户,那究竟是什么占满了带宽呢,要是有日志就好了,还真有。这里顺便普及一个知识点,网站一般都会记录access log(访问日志),access log中会记录响应体的大小,所以我们只要抓取事发时间前后的access log分析是否有超大响应体的情况,果不其然在14:02分发现有两个附件下载的超大响应(响应体大小463兆),如下图所示(点击可放大):

 

可谓是防不胜防,最不起眼的附件功能,竟然成了“杀手锏”。

 

解决问题

正式解决之前先说一个生活中的案例,相信大家都不陌生。

 

笔者刚工作那阵和几个朋友一起合租,上网无疑成了大家下班之后消遣的主要方式,有听歌的、刷剧的、看八卦的、打网游的,无数次的听到打网游的小哥从房间冲出来大喊:“谁在干啥呢,我这卡的都不动了”,我心想“大家各玩各的,凭什么你打游戏就不让别人刷剧、听歌了”,想归想,架不住天天在屋里嚎啊,最后大家想出来一个办法,给每个人限速,比如上下行都不超过500KB/s,从那以后屋里确实安静了一些。

拍摄于西安老城根某一艺术品展览

 

回到我们的案例,可以借鉴限速\限流的思想来保护机房出口带宽不被下载请求给占满,大概有两种方式,下面分别介绍。

 

方案1:nginx层-limit_rate指令

http://nginx.org/en/docs/http/ngx_http_core_module.html#limit_rate

Syntax:  limit_rate rate;
Default:  
limit_rate 0;
Context:  http, , , serverlocationif in location

Limits the rate of response transmission to a client. The is specified in bytes per second. The zero value disables rate limiting. The limit is set per a request, and so if a client simultaneously opens two connections, the overall rate will be twice as much as the specified limit. rate

 

比如下面这个就是限制每个请求的下载速度不超过512KB/s

server {
    location /down {
        limit_rate 512k;
    }
}


使用起来还是很方便的,考虑到并不是所有客户环境都有nginx,所以这个方案最终没有采用,而是选择在应用层自己处理,接下来介绍。

 

方案2:应用层通过Guava-RateLimiter

第一次接触RateLimiter是几年前,也是为了使用其限流功能,比如限制某接口的请求量不能超过100QPS,在处理当下这个出口带宽占满的案例时我着实没有想起它,究其原因我认为有两点:

1.没有理解透彻其背后原理;

2.看待问题没有遵循第一性原理,拿到问题时大多时候都是去百度找相同问题的解决方案,这样一来答案一定是局限的,无法创新。

 

虽然这一次借助RateLimiter来解决问题也是网络上的提示,但是带给我的收获不仅仅是解决当下问题这么简单,还有深层次的思考方式上的变革,我觉得这是非常重要的。

 

下面是一段再熟悉不过的文件下载的代码片段

String disposition = "attachment;filename=" + URLEncoder.encode(fileName, "UTF-8");
res.setHeader("Content-disposition", disposition);

try(InputStream is = new FileInputStream("file")){
    byte buf[] = new byte[4*1024];
    int len = -1;
    while((len = is.read(buf)) != -1){
          res.getOutputStream().write(buf,0,len);
    }
    
    res.getOutputStream().flush();
 }

源源不断的从文件输入流中读取内容,然后写到网络输出流,不加任何限制的情况下导致机房出口带宽被占满,改进方式就是引入RateLimiter,往网络输出流中写之前调用RateLimiter获取令牌,如果超过了限定的速度就会阻塞。

//定义RateLimter,每秒发出1兆令牌
static RateLimiter rateLimiter = RateLimiter.create(1*1024*1024);

String disposition = "attachment;filename=" + URLEncoder.encode(fileName, "UTF-8");
res.setHeader("Content-disposition", disposition);

try(InputStream is = new FileInputStream("file")){
    byte buf[] = new byte[4*1024];
    int len = -1;
    while((len = is.read(buf)) != -1){
          //输出之前前往RateLimiter获取令牌,保证不要超过1兆每秒
          rateLimiter.acquire(len);
          res.getOutputStream().write(buf,0,len);
    }
    
    res.getOutputStream().flush();
 }

 

限制效果如下,下载速度基本稳定在1兆左右:

最终采用方案2解决问题,在我们的场景中,其更通用、灵活。

 

总结

通过一个出口带宽被占满的案例介绍了两种解决方案,也啰嗦了一点自己思考问题的方式,希望能给大家带来些许收获,最后带来一个彩蛋,如果几年前我就认真看了RateLimiter的Api文档,处理当下问题时也能节约不少网络上找答案的时间,而且收获的是一手资料。

 

RateLimiter类注释里的一段,提到了网络限速的场景,一起来看下

As another example, imagine that we produce a stream of data, and we want to cap it at 5kb per second. This could be accomplished by requiring a permit per byte, and specifying a rate of 5000 permits per second:
 final RateLimiter rateLimiter = RateLimiter.create(5000.0); // rate = 5000 permits per second 
  void submitPacket(byte[] packet) {    
     rateLimiter.acquire(packet.length);    
     networkService.send(packet);  
}

💥看到这里的你,如果对于我写的内容很感兴趣,有任何疑问,欢迎在下面留言📥,会第一次时间给大家解答,谢谢!

 

 

点赞收藏
踩刀诗人

聊聊技术,唠唠段子,偶尔做菜写诗

请先登录,查看3条精彩评论吧
快去登录吧,你将获得
  • 浏览更多精彩评论
  • 和开发者讨论交流,共同进步

为你推荐

设计和实现的对比:4种常见堆分析器进行内存泄漏故障排除

设计和实现的对比:4种常见堆分析器进行内存泄漏故障排除

【全网首发】设计了一个自动归档工具

【全网首发】设计了一个自动归档工具

8
3