本文转载自微信公众号「Java极客技术」,面试作者鸭血粉丝 。官提转载本文请联系Java极客技术公众号。问说 关于消息队列,说对断断续续的消息看了很多资料,一直想抽个时间把这些知识整理记录下来,队列的理但是面试没腾出时间来写,正好所在的官提项目在实际业务中使用到了消息队列,索性就将这方面的问说知识整理一下,可能有理解不到位的说对地方,望网友批评指出! 一、消息消息队列由来 可能在你没了解消息队列之前,队列的理已经听过很多概念了,面试例如 JMS,官提AMQP,问说ActiveMQ,RabbitMQ,RocketMQ,Kafka 等等。 一个消息中间件,咋搞出这么多概念? 别慌,我们先从历史角度来理清这些 MQ 和协议之间的关系! 消息中间件其实诞生的很早,在互联网应用还是一片荒芜的年代,服务器托管有个在美国的印度小哥 Vivek Ranadive 就设想了一种通用软件总线,采用发布订阅的模式,类似于电脑主板上的总线,新的设备或者程序如果想和电脑上其他的设备软件通信,只需要按照协议对接总线就可以完成接入和通信! 在 1983 年,26岁的印度小哥 Vivek Ranadive 创办了一家公司 Teknekron,实现了世界上第一个消息中间件The Information Bus(TIB)。 很快 TIB 软件受到了企业的欢迎,最初被高盛集团用于解决金融交易,Teknekron 的业务发展速度甚至引起了当时最牛逼的 IT 公司 IBM 的注意。 于是 IBM 也开始组建团队来研发自己的消息队列软件,这才有了后来的wesphere mq,不久微软也加入了战团。 由于商业壁垒,每个软件厂商都按照自己的标准来实现软件通信,导致企业客户不能随便更换 MQ 平台。 为了打破这个壁垒,同时为了能够让消息在各个消息队列平台间互融互通, JMS (Java Message Service) 应运而生 。云南idc服务商 JMS 试图通过提供公共 Java API 的方式,隐藏单独 MQ 产品供应商提供的实现接口,从而跨越了壁垒,已解决互通问题。 从技术上讲, Java 应用程序只需针对 JMS API 进行编程,选择合适的 MQ 驱动即可, JMS 会打理好其他部分,就好比类似于 JDBC,对于开发者来说,只需要编写好 sql,具体是使用 oracle 还是 mysql 或者 sqlserver,由具体的厂商来提供驱动包文件即可,开发者无需关心具体的数据库厂商,从而大大的提升了开发效率、降低了开发难度。 ActiveMQ 就是 JMS 的 一种具体实现。 JMS - 点对点模型 JMS - 发布订阅模型 尽管使用标准化接口能有效的融合众多不同的 MQ 产品,但是也暴露出很多问题,例如有些 MQ 产品提供了非常高级的亿华云功能,但由于标准化接口的限制,导致用户无法使用,所以急需一种新的消息通信标准化方案。 在 2006 年 6 月,由 Cisco 、 Redhat 、iMatix 等人联合制定了 AMQP 的公开标准,由此 AMQP 登上了历史的舞台。 AMQP 是应用层协议的一个开放标准,以解决众多消息中间件的需求和拓扑结构问题,它为面向消息的中间件设计,基于此协议的客户端与消息中间件可传递消息,同时并不受产品、开发语言等条件的限制。 JMS vs AMQP RabbitMQ 就是 AMQP 的一种具体实现。 AMQP - 模型 随着时间的推进,虽然 AMQP 规范能适用的业务场景很多,但是 LinkedIn(领英) 在实现消息队列的时候觉得 AMQP 规范并不适合自己,于是在设计 Kafka 的时候,并不支持 AMQP 所有的特性。 同时阿里巴巴的 RocketMQ 在实现上也借鉴了 Kakfa 的思想,也不支持 AMQP 协议,并且你会发现在 Kafka 和 RocketMQ 中都有类似 Topic 和 Consumer Group 的概念,而这些概念在 AMQP 协议中并不存在。 二、为什么要使用消息队列 消息中间件虽然发展了很多年,但是不是每个项目都有机会能接触到消息队列,对于初次接触 MQ 的同学,难免会发出一些疑问! 什么是消息队列?为什么要使用消息队列?使用消息队列有哪些弊端? 对于传统的应用程序,如果需要向另一个应用程序发送信息,只需要向其发出请求即可! 这种方式虽然简单直接,但是如果应用程序2突然挂了,应用程序1可能会因为服务异常,而无法继续提供服务! 设想一下,在应用程序1和应用程序2之间,插入一个消息服务,主要用于接受消息和发送消息,这样应用程序1和应用程序2之间的依赖关系就解耦了,同时也不会因为任何一方当服务不可用时,无法继续提供服务! 其中插入的消息服务被称为消息队列! 由此可见,引入消息队列带来的优势很明显: 同时,基于异步处理特性,在某些业务场景下,例如商品秒杀活动,引入消息队列之后,当客户端请求量很大的时候,可以有效的进行流量削峰! 如果没有中间层做缓冲,当进行商品秒杀时,一下突然大量请求涌入,很可能造成系统直接瘫痪,甚至宕机! 在大型网站系统中,如何通过日志快速实时定位系统异常的代码,可以说至关重要! LinkedIn 开发的消息队列 Kafka,可以说是日志采集方面的王者,在中、大型系统开发中,将消息队列 Kafka 用在日志处理中,可以有效的解决大量日志传输的问题。 当然,引入消息队列也会带来很明显的弊端: 引入消息队列虽然会带来一些问题,俗话说,兵来将挡、水来土掩,这句话同样适用于 IT 开发者,有坑填坑! 对于系统可用性降低方面,通常常用的解决方案就是搭建消息服务集群,具体技术实现上可以是主从架构或者分布式架构,即时一台消息队列服务机器挂了,也不会影响消息队列无法提供服务! 对于系统复杂性提高方面,常用的解决方案也很多,例如接受者接受到消息之后,可以先将消息写入数据库,即时没有被正确处理,还可以走人工处理,或者消息消费失败,将消息重新入队等待下一次消费等等。 三、常见的消息队列对比 目前比较主流的 MQ 产品,有 ActiveMQ,RabbitMQ,RocketMQ,Kafka,并且他们都是开源的,他们各自也有各自的特点。 总结内容如下 四、总结 本文主要对消息队列的历史和基础知识进行梳理和初步介绍,如果有理解不对的地方,望网友批评指出! 五、参考 1、Java工程师面试突击第1季-中华石杉老师 2、消息中间件的发展史 3、JavaGuide - 消息队列