liwen01 2019.06.15
前言:
在linux系统关于流量统计,已经有开源的工具,比如nethogs,nload和iptraf。它们适合我们在PC上直接监控某台设备的流量情况,但并不适合我们应用到自己的程序中去。
如果要在自己代码中实现流量的统计,可以有下面几种方法:统计应用层流量;使用tcpdump抓取每一包数据进行统计;使用Iptables命令来实现。下面就这几种方法进行对比:
(1)应用层计算流量
该方法也就是在自己程序中的每个end和recv函数中去实现,统计自己每次进行网络通信时候数据的接收和发送长度,进而统计出总的数据流量。这种方法是一种粗略的计算,实际上是非常不准确的,它比实际的数据流量统计少了。因为我们的send和recv函数是在应用层。
应用层的数据,到链路层,中间需要经过传输层和网络层,他们会对数据进程封装,加上数据包头,校验等等信息之后才会到链路层,所以实际链路层发送的数据比应用层的数据要多一些额外的数据,接收数据的时候其实也是一样,只是整个流程反过来了。
另外,在网络传输的过程中,还可能出现数据的丢失,这个在有线传输中出现比较少,但是在无线传输并且网络状态不是很好的情况下,出现数据丢失数据重传的概率是非常高的,而在应用层的send和recv函数并不能感知到数据的丢失和重传,所以在应用层统计的流量是不准确的,它会比实际的数据流量统计少了,实际少多少,这个跟网络状态和传输方式有关。
实际网络运营商统计的数据流量,是链路层的数据流量,而不是应用层的网络流量。
(2)tcpdump抓数据
tcpdump是与Windows系统的wireshark类似的一个网络抓包工具。它可以感知链路层数据的丢失和重传等等信息,但是它是基于数据截取的方式来获取信息,这样的方式比较比较影响网络的性能,同时也是比较消耗系统的资源,可以用来做网络调试,但不是非常适合网络流量的统计。
(3)使用iptables统计流量
iptables命令 是Linux上常用的防火墙软件,是netfilter项目的一部分。它可以根据不同的规则对数据进行过滤,转发和统计。它可以针对某一个IP或是多个IP进程处理,也可以针对某一个端口进行处理。当它做数据统计的时候,它的数值统计的是链路层的数据。也就是包括了IP包信息和数据重传等额外数据的长度。通过这种方式,可以实现流量的精准统计。
设计思路:
基本设计方法是这样:
在一个进程(进程A)中循环检测有那些Ip和端口需要添加进Iptable的统计规则中,如果有收到一个添加规则的请求,则判断该规则是否已经添加进Iptable中,如果没有则添加,如果有则放弃此次规则的添加。在其他的进程中,比如进程B,C,D,E...,在进程网络连接的时候,根据需求将需要统计的IP或是端口信息,发送给进程A,让进程A去进行iptables规则的添加。
另外,在进程A中,可以循环的去获取Iptables统计的流量,还可以实时的去获取网卡实际收发的数据,实现网络流量的实时更新。进程A,B,C,D,E之间,可以使用进程间通信的任意一种,这里为了方便扩展,使用了命名管道进程通信。为了方便数据检验传递和处理,在进程间传递的IP地址可以转换为数值二不是字符串,实际在connet函数建立网络连接的时候,使用的也是一个32位的int类型数据来表示IP地址。
功能实现:
(1)iptables规则添加
这里只统计IP,不进行端口的统计,使用一个数组来记录需要添加进iptables的规则,规则命令如下:
可以使用iptables --list 查看实际添加的规则:
(2)Iptable的流量查看:
可以使用命令:iptables -n -v -L -t filter -x 查看iptables的流量统计情况:
(3)网卡流量查看:
在linux系统中,我们可以通过proc虚拟文件系统获取linux系统的一些信息,其中就包括网卡信息,在Ubuntu16.04系统中/sys/class/net/ens33/statistics/目录下的文件就记录了网卡的收发数据量,所发数据包数等等信息。 查看本次开机网卡总共发送的数据量:
查看本次开机网卡总共接收的数据量:
(4)进程间通行
这里使用的是命名管道,在使用命名管道的时候,需要注意管道的阻塞和非阻塞模式,这里接收和发送都是采用的非阻塞模式,另外,还需要注意管道的收发数据规则。
在接收进程从,非阻塞方式打开,可以正常打开,接收数据也会立即返回。在发送端非阻塞方式打开,如果这条管道,没有一个进程在接收,那么在发送端打开管道会返回失败。
如果有多个进程进程进行数据写入,但是只有一个进程在进行读操作的时候,要注意读写数据的原子性操作。
我们这里是针对特定IP进程流量的统计,在不同进程之间,我们需要把Ip地址信息发送给进程A进程Iptable规则的添加,这里我们使用的是重新封装connet函数,在connet函数中,我们可以获取到需要建立网络链接的IP地址的一个32位10进制数值,我们可以直接将该值传递给进程A,进程A再将该10进制的数值装换为字符串类型的Ip地址。
(5)代码实现:
(a)进程A中iptable规则添加,流量获取实现:
(b)重新封装connet 函数
(c)测试进程代码:
工程下载:
完整工程文件结构:
liwen01网络编程NetTrafficStatis.tar.gz
---------------------------End---------------------------
更多内容,请关注公众号 liwen01
【公众号liwen01】嵌入式开发,团队管理,学习分享,理财小白