im通讯用什么协议(详细解析im通讯协议)

2022-07-17,,,,

本文要谈的im通信协议指的是应用层通信“语言”,并非指传输层协议(如tcp、udp)。im通信协议的制定是im开发中起点,也是贯穿设计、开发、运维始终的核心所在,通信协议设计的好坏,直接影响后绪环节的用户体验(数据流量、耗电量、通信速度)、兼容性(新老版本的无缝融合)、扩展性(后绪的版本升级怎么办)等,是个基础且极其重要的工作之一。
本文将以理论联系实际的方式,详细讲解一套典型im的通信协议设计的方方面面。
本文原作者是58同城网的沈剑:58同城技术委员会主席、高级架构师、优秀讲师。前百度hi团队成员,负责过58同城im系统的架构设计。

im通信协议的分层设计

所谓“协议”是双方共同遵守的规则,例如:离婚协议,停战协议。
协议有语法、语义、时序三要素:

  • (1)语法:即数据与控制信息的结构或格式
  • (2)语义:即需要发出何种控制信息,完成何种动作以及做出何种响应
  • (3)时序:即事件实现顺序的详细说明

一套典型的im通信协议设计分为三层:应用层、安全层、传输层。

im应用层协议设计

应用层协议选型,常见的有三种:文本协议、二进制协议、流式xml协议。

1、文本协议

文本协议是指 “贴近人类书面语言表达”的通讯传输协议,典型的协议是http协议。一个http协议大致长成这样:

1234get / http/1.1user-agent: curlhost: musicml.netaccept: */*

文本协议的特点是:

  • a. 可读性好,便于调试
  • b. 扩展性也好(通过key:value扩展)
  • c. 解析效率一般(一行一行读入,按照冒号分割,解析key和value)
  • d. 对二进制的支持不好 ,比如语音/视频

im中,msn使用的是文本协议。

2、二进制协议

二进制协议是指binary协议,典型是ip协议,以下是ip协议的一个图示:

二进制协议一般定长包头和可扩展变长包体 ,每个字段固定了含义 ,例如ip协议的前4个bit表示协议版本号 (version)(详情请参见《tcp/ip详解》第3章)。
二进制协议有这样一些特点:

  • a. 可读性差,难于调试
  • b. 扩展性不好 ,如果要扩展字段,旧版协议就不兼容了,所以一般设计时会有一个version字段
  • c. 解析效率超高(几乎没有解析代价)
  • d. 对二进制的支持不好 ,比如语音/视频

im中,qq使用的时二进制协议。

3、流式xml协议

im的准标准协议xmpp就是使用流式xml,像gtalk,校内通这些im都是基于xmpp的。让我们来看一个xmpp协议的例子:

1234567<messageto=’[url=mailto:romeo@example.net]romeo@example.net[/url]’from=’[url=mailto:juliet@example.com]juliet@example.com[/url]’type=’chat’xml : lang=’en’><body>wherefore art thou, romeo?</body></message>

从xml标签中大致可以判断这是一个romeo发给juliet的聊天消息。xmpp协议可以实现跨域的互通。例如gtalk和校内通用户聊天。只要服务端实现了s2s服务(server to server) ,不过现在的im基本没有互通需求 ,所以这个服务基本没有人实现。
xmpp协议有几个特点:

  • a.它是准标准协议,可以跨域互通
  • b.xml的优点,可读性好,扩展性好
  • c.解析代价超高(dom解析)
  • d.有效数据传输率超低(大量的标签)

个人旗帜鲜明的强烈不建议使用xmpp,特别是无线端im,如果要用,一定要自己做压缩 ,减少网络流量(用过xmpp的同学都清楚,发一个登录包需要多少交互,要浪费多少流量)。

4、实际的例子

下面来看一个im协议的实际例子 。一般常见的做法是:定长二进制包头,可扩展变长包体。包体可以使用用文本、xml等扩展性好的协议。包头负责传输和解析效率,与业务无关。包体保证扩展性,与业务相关。
这是一个实际的16字节im二进制定长包头:

123456789//sizeof(cs_essay-header)=16struct cs_essay-header{ uint32_t version; uint32_t magic_num; uint32_t cmd; uint32_t len; uint8_t data[];}__attribute__((packed));

a. 前4个字节是version;
b. 接下来的4个字节是个“魔法数字(magic_num)“,用来保证数据错位或丢包问题,常见的做法是,包头放几个约定好的特殊字符,包尾放几个约定好的特殊字符 约定好,发给你的协议,某几个字节位置,是0x 01020304 ,才是正常报文;
c. 接下来是command(命令号),用来区分是keepalive报文、业务报文、密钥交换报文等;
d. len(包体长度),告知服务端要接收多长的包体。
这是一个实际的可扩展im变长包体:

123456789message cuserloginreq{ optional string username = 1; optional string passwd = 2;}message cuserloginresp{ optional uint64 uid =1;}

使用的是google的protobuf协议(玩过的人都懂),可以看到,登录请求包传入的是用户名与密码,登录响应包返回的是用户的uid。当然,除了protobuf,可选择的可扩展包体协议还有xml、json、mcpack(大家懂?)等。
个人旗帜鲜明的推荐使用protobuf,主要有几个原因:

  • a. 现成的解析库种类多,可以生成c++、java、php等10余种语言代码(详见请点
  • b. 自带压缩功能
  • c. 在工业界已广泛应用
  • d. google制造

im安全层协议设计

im协议,消息的保密性非常重要 ,谁都不希望自己聊天内容被看到,所以安全层是必不可少的。

1使用ssl
证书管理微微复杂,代价有点高。

2自行加解密
自己来搞加解密,核心在于密钥的生成与管理,密钥管理方式有多种,主要有这么三种:(1)固定密钥
服务端和客户端约定好一个密钥,同时约定好一个加密算法(eg:aes ),每次客户端im在发送前,就用约定好的算法,以及约定好的密钥加密再传输,服务端收到报文后,用约定好的算法,约定好的密钥再解密。这种方式,密钥和算法对程序员都是透明的。(2)一人一密钥
简单说来就是每个人的密钥是固定的,但是每个人之间又不同,其实就是在固定密钥的算法中包含用户的某一特殊属性,比如用户uid、手机号、qq号等。(3)动态密钥(一session一密钥)
动态密钥,一session一密钥的安全性更高,每次会话前协商密钥。密钥协商的过程要经过2次非对称密钥的随机生成,1次对称加密密钥的随机生成,具体详情这里不展开,有兴趣的同学可以看下ssl密钥协商额过程。

im传输层协议设计

可选的协议有tcp和udp。现在的im传输层基本都是使用tcp,有了epoll等技术后,多连接就不是瓶颈了,单机几十万链接没什么问题。58同城现在线上单机连接好像是10w?(可能单机性能测试可以到百万,线上一般跑到几十万)
关于qq使用udp的问题。个人不清楚qq使用upd作为传输层协议的初衷,但猜测是因为10多年前client 10k问题没有得到很好解决,一台服务器支撑不了1w个tcp连接 ,腾讯的同时在线量高,没办法,只有用udp了,但udp又不可靠,故只能在udp上实现tcp的超时/重传/确认等机制啦。

结语

关于qq使用udp协议,在讨论的过程中,有同学提出了一个非常好的问题“无线环境下,udp更好,可以做到状态无关,而tcp不稳定,进出电梯就要断线,用户体验不好”。
其实吧,“用户状态可以设计的与连接状态无关”,如果大家感兴趣,后续我可以撰文和大家聊一聊,传输层使用tcp,怎么做到在线状态与底层连接无关。

《im通讯用什么协议(详细解析im通讯协议).doc》

下载本文的Word格式文档,以方便收藏与打印。