訊息佇列概念和使用場景 及ActiveMQ詳細入門使用教程
一、訊息佇列
訊息即是資訊的載體。為了讓訊息傳送者和訊息接收者都能夠明白訊息所承載的資訊(訊息傳送者需要知道如何構造訊息;訊息接收者需要知道如何解析訊息),它們就需要按照一種統一的格式描述訊息,這種統一的格式稱之為訊息協議。所以,有效的訊息一定具有某一種格式;而沒有格式的訊息是沒有意義的。
而訊息從傳送者到接收者的方式也有兩種。一種我們可以稱為即時訊息通訊,也就是說訊息從一端發出後(訊息傳送者)立即就可以達到另一端(訊息接收者),這種方式的具體實現就是我們已經介紹過的RPC(當然單純的http通訊也滿足這個定義);另一種方式稱為延遲訊息通訊,即訊息從某一端發出後,首先進入一個容器進行臨時儲存,當達到某種條件後,再由這個容器傳送給另一端。 這個容器的一種具體實現就是訊息佇列。 二、訊息佇列的應用場景
以下介紹訊息佇列在實際應用中常用的使用場景。非同步處理,應用解耦,流量削鋒和訊息通訊四個場景。 2.1非同步處理
場景說明:使用者註冊後,需要發註冊郵件和註冊簡訊。傳統的做法有兩種1.序列的方式;2.並行方式。
**(1)序列方式:**將註冊資訊寫入資料庫成功後,傳送註冊郵件,再發送註冊簡訊。以上三個任務全部完成後,返回給客戶端。
**(2)並行方式:**將註冊資訊寫入資料庫成功後,傳送註冊郵件的同時,傳送註冊簡訊。以上三個任務完成後,返回給客戶端。與序列的差別是,並行的方式可以提高處理的時間。
假設三個業務節點每個使用50毫秒鐘,不考慮網路等其他開銷,則序列方式的時間是150毫秒,並行的時間可能是100毫秒。
因為CPU在單位時間內處理的請求數是一定的,假設CPU1秒內吞吐量是100次。則序列方式1秒內CPU可處理的請求量是7次(1000/150)。並行方式處理的請求量是10次(1000/100)。
小結:如以上案例描述,傳統的方式系統的效能(併發量,吞吐量,響應時間)會有瓶頸。如何解決這個問題呢?
引入訊息佇列,將不是必須的業務邏輯,非同步處理。改造後的架構如下:
按照以上約定,使用者的響應時間相當於是註冊資訊寫入資料庫的時間,也就是50毫秒。註冊郵件,傳送簡訊寫入訊息佇列後,直接返回,因此寫入訊息佇列的速度很快,基本可以忽略,因此使用者的響應時間可能是50毫秒。因此架構改變後,系統的吞吐量提高到每秒20 QPS。比序列提高了3倍,比並行提高了兩倍。 2.2應用解耦
場景說明:使用者下單後,訂單系統需要通知庫存系統。傳統的做法是,訂單系統呼叫庫存系統的介面。如下圖:
傳統模式的缺點:
1) 假如庫存系統無法訪問,則訂單減庫存將失敗,從而導致訂單失敗;
2) 訂單系統與庫存系統耦合;
如何解決以上問題呢?引入應用訊息佇列後的方案,如下圖:
訂單系統:使用者下單後,訂單系統完成持久化處理,將訊息寫入訊息佇列,返回使用者訂單下單成功。
庫存系統:訂閱下單的訊息,採用拉/推的方式,獲取下單資訊,庫存系統根據下單資訊,進行庫存操作。
假如:在下單時庫存系統不能正常使用。也不影響正常下單,因為下單後,訂單系統寫入訊息佇列就不再關心其他的後續操作了。實現訂單系統與庫存系統的應用解耦。
2.3流量削鋒
流量削鋒也是訊息佇列中的常用場景,一般在秒殺或團搶活動中使用廣泛。
應用場景:秒殺活動,一般會因為流量過大,導致流量暴增,應用掛掉。為解決這個問題,一般需要在應用前端加入訊息佇列。
可以控制活動的人數;
可以緩解短時間內高流量壓垮應用;
使用者的請求,伺服器接收後,首先寫入訊息佇列。假如訊息佇列長度超過最大數量,則直接拋棄使用者請求或跳轉到錯誤頁面;
秒殺業務根據訊息佇列中的請求資訊,再做後續處理。
2.4日誌處理
日誌處理是指將訊息佇列用在日誌處理中,比如Kafka的應用,解決大量日誌傳輸的問題。架構簡化如下:
日誌採集客戶端,負責日誌資料採集,定時寫受寫入Kafka佇列;
Kafka訊息佇列,負責日誌資料的接收,儲存和轉發;
日誌處理應用:訂閱並消費kafka佇列中的日誌資料;
以下是新浪kafka日誌處理應用案例:轉自(新浪技術分享:我們如何扛下32億條實時日誌的分析處理)
(1)Kafka:接收使用者日誌的訊息佇列。
(2)Logstash:做日誌解析,統一成JSON輸出給Elasticsearch。
(3)Elasticsearch:實時日誌分析服務的核心技術,一個schemaless,實時的資料儲存服務,通過index組織資料,兼具強大的搜尋和統計功能。
(4)Kibana:基於Elasticsearch的資料視覺化元件,超強的資料視覺化能力是眾多公司選擇ELK stack的重要原因。 2.5訊息通訊
訊息通訊是指,訊息佇列一般都內建了高效的通訊機制,因此也可以用在純的訊息通訊。比如實現點對點訊息佇列,或者聊天室等。
點對點通訊:
客戶端A和客戶端B使用同一佇列,進行訊息通訊。
聊天室通訊:
客戶端A,客戶端B,客戶端N訂閱同一主題,進行訊息釋出和接收。實現類似聊天室效果。
以上實際是訊息佇列的兩種訊息模式,點對點或釋出訂閱模式。
三、訊息模式 1. 點對點模式和釋出訂閱模式:是否可以重複消費
P2P模式:
P2P模式包含三個角色:訊息佇列(Queue),傳送者(Sender),接收者(Receiver)。每個訊息都被髮送到一個特定的佇列,接收者從佇列中獲取訊息。佇列保留著訊息,直到他們被消費或超時。 P2P的特點
每個訊息只有一個消費者(Consumer)(即一旦被消費,訊息就不再在訊息佇列中)
傳送者和接收者之間在時間上沒有依賴性,也就是說當傳送者傳送了訊息之後,不管接收者有沒有正在執行,它不會影響到訊息被髮送到佇列
接收者在成功接收訊息之後需向佇列應答成功
如果希望傳送的每個訊息都會被成功處理的話,那麼需要P2P模式。、
Pub/sub模式:
包含三個角色:主題(Topic),釋出者(Publisher),訂閱者(Subscriber) 。多個釋出者將訊息傳送到Topic,系統將這些訊息傳遞給多個訂閱者。 Pub/Sub的特點
每個訊息可以有多個消費者
釋出者和訂閱者之間有時間上的依賴性。針對某個主題(Topic)的訂閱者,它必須建立一個訂閱者之後,才能消費釋出者的訊息。
為了消費訊息,訂閱者必須保持執行的狀態。
為了緩和這樣嚴格的時間相關性,JMS允許訂閱者建立一個可持久化的訂閱。這樣,即使訂閱者沒有被啟用(執行),它也能接收到釋出者的訊息。 如果希望傳送的訊息可以不被做任何處理、或者只被一個訊息者處理、或者可以被多個消費者處理的話,那麼可以採用Pub/Sub模型。 2. 推模式和拉模式:訊息的更新者
推(push)模式是一種基於C/S機制、由伺服器主動將資訊送到客戶器的技術。
-
在push模式應用中,伺服器把資訊送給客戶器之前,並沒有明顯的客戶請求。push事務由伺服器發起。push模式可以讓資訊主動、快速地尋找使用者/客戶器,資訊的主動性和實時性比較好。但精確性較差,可能推送的資訊並不一定滿足客戶的需求。
-
推送模式不能保證能把資訊送到客戶器,因為推模式採用了廣播機制,如果客戶器正好聯網並且和伺服器在同一個頻道上,推送模式才是有效的。
-
push模式無法跟蹤狀態,採用了開環控制模式,沒有使用者反饋資訊。在實際應用中,由客戶器向伺服器傳送一個申請,並把自己的地址(如IP、port)告知伺服器,然後伺服器就源源不斷地把資訊推送到指定地址。在多媒體資訊廣播中也採用了推模式。
拉(pull)模式與推模式相反,是由客戶器主動發起的事務。
伺服器把自己所擁有的資訊放在指定地址(如IP、port),客戶器向指定地址傳送請求,把自己需要的資源“拉”回來。不僅可以準確獲取自己需要的資源,還可以及時把客戶端的狀態反饋給伺服器。
ActiveMQ介紹
MQ是訊息中介軟體,是一種在分散式系統中應用程式藉以傳遞訊息的媒介,常用的有ActiveMQ,RabbitMQ,kafka。ActiveMQ是Apache下的開源專案,完全支援JMS1.1和J2EE1.4規範的JMS Provider實現。
特點: 1、支援多種語言編寫客戶端 2、對spring的支援,很容易和spring整合 3、支援多種傳輸協議:TCP,SSL,NIO,UDP等 4、支援AJAX 訊息形式: 1、點對點(queue) 2、一對多(topic)
ActiveMQ安裝 ActiveMQ測試
編寫一個測試類對ActiveMQ進行測試,首先得向pom檔案中新增ActiveMQ相關的jar包:
<dependency>
<groupId>org.apache.activemq</groupId>
<artifactId>activemq-all</artifactId>
</dependency>
queue的傳送程式碼如下:
public void testMQProducerQueue() throws Exception{
//1、建立工廠連線物件,需要制定ip和埠號
ConnectionFactory connectionFactory = new ActiveMQConnectionFactory("tcp://192.168.156.44:61616");
//2、使用連線工廠建立一個連線物件
Connection connection = connectionFactory.createConnection();
//3、開啟連線
connection.start();
//4、使用連線物件建立會話(session)物件
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//5、使用會話物件建立目標物件,包含queue和topic(一對一和一對多)
Queue queue = session.createQueue("test-queue");
//6、使用會話物件建立生產者物件
MessageProducer producer = session.createProducer(queue);
//7、使用會話物件建立一個訊息物件
TextMessage textMessage = session.createTextMessage("hello!test-queue");
//8、傳送訊息
producer.send(textMessage);
//9、關閉資源
producer.close();
session.close();
connection.close();
}
接收程式碼:
public void TestMQConsumerQueue() throws Exception{
//1、建立工廠連線物件,需要制定ip和埠號
ConnectionFactory connectionFactory = new ActiveMQConnectionFactory("tcp://192.168.156.44:61616");
//2、使用連線工廠建立一個連線物件
Connection connection = connectionFactory.createConnection();
//3、開啟連線
connection.start();
//4、使用連線物件建立會話(session)物件
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//5、使用會話物件建立目標物件,包含queue和topic(一對一和一對多)
Queue queue = session.createQueue("test-queue");
//6、使用會話物件建立生產者物件
MessageConsumer consumer = session.createConsumer(queue);
//7、向consumer物件中設定一個messageListener物件,用來接收訊息
consumer.setMessageListener(new MessageListener() {
@Override
public void onMessage(Message message) {
// TODO Auto-generated method stub
if(message instanceof TextMessage){
TextMessage textMessage = (TextMessage)message;
try {
System.out.println(textMessage.getText());
} catch (JMSException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
});
//8、程式等待接收使用者訊息
System.in.read();
//9、關閉資源
consumer.close();
session.close();
connection.close();
}
接著對topic進行測試,傳送程式碼如下:
public void TestTopicProducer() throws Exception{
//1、建立工廠連線物件,需要制定ip和埠號
ConnectionFactory connectionFactory = new ActiveMQConnectionFactory("tcp://192.168.156.44:61616");
//2、使用連線工廠建立一個連線物件
Connection connection = connectionFactory.createConnection();
//3、開啟連線
connection.start();
//4、使用連線物件建立會話(session)物件
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//5、使用會話物件建立目標物件,包含queue和topic(一對一和一對多)
Topic topic = session.createTopic("test-topic");
//6、使用會話物件建立生產者物件
MessageProducer producer = session.createProducer(topic);
//7、使用會話物件建立一個訊息物件
TextMessage textMessage = session.createTextMessage("hello!test-topic");
//8、傳送訊息
producer.send(textMessage);
//9、關閉資源
producer.close();
session.close();
connection.close();
}
接收程式碼:
public void TestTopicConsumer() throws Exception{
//1、建立工廠連線物件,需要制定ip和埠號
ConnectionFactory connectionFactory = new ActiveMQConnectionFactory("tcp://192.168.156.44:61616");
//2、使用連線工廠建立一個連線物件
Connection connection = connectionFactory.createConnection();
//3、開啟連線
connection.start();
//4、使用連線物件建立會話(session)物件
Session session = connection.createSession(false, Session.AUTO_ACKNOWLEDGE);
//5、使用會話物件建立目標物件,包含queue和topic(一對一和一對多)
Topic topic = session.createTopic("test-topic");
//6、使用會話物件建立生產者物件
MessageConsumer consumer = session.createConsumer(topic);
//7、向consumer物件中設定一個messageListener物件,用來接收訊息
consumer.setMessageListener(new MessageListener() {
@Override
public void onMessage(Message message) {
// TODO Auto-generated method stub
if(message instanceof TextMessage){
TextMessage textMessage = (TextMessage)message;
try {
System.out.println(textMessage.getText());
} catch (JMSException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
});
//8、程式等待接收使用者訊息
System.in.read();
//9、關閉資源
consumer.close();
session.close();
connection.close();
}
ActiveMQ整合spring及專案中運用
activeMQ與spring看一整合到一起使用,除了新增ActiveMQ相關的jar包外,還需要新增spring的jar包:
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-context</artifactId>
</dependency>
然後編寫applicationContext-activemq.xml檔案, 程式碼如下:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
xmlns:dubbo="http://code.alibabatech.com/schema/dubbo"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.2.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.2.xsd
http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.2.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.2.xsd
http://code.alibabatech.com/schema/dubbo http://code.alibabatech.com/schema/dubbo/dubbo.xsd
http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.2.xsd">
<!-- 配置能夠產生connection的connectionfactory,由JMS對應的服務廠商提供 -->
<bean id="tagertConnectionFactory" class="org.apache.activemq.ActiveMQConnectionFactory">
<constructor-arg name="brokerURL" value="tcp://192.168.156.44:61616"/>
</bean>
<!-- 配置spring管理真正connectionfactory的connectionfactory,相當於spring對connectionfactory的一層封裝 -->
<bean id="connectionFactory" class="org.springframework.jms.connection.SingleConnectionFactory">
<property name="targetConnectionFactory" ref="tagertConnectionFactory"/>
</bean>
<!-- 配置生產者 -->
<!-- Spring使用JMS工具類,可以用來發送和接收訊息 -->
<bean id="jmsTemplate" class="org.springframework.jms.core.JmsTemplate">
<!-- 這裡是配置的spring用來管理connectionfactory的connectionfactory -->
<property name="connectionFactory" ref="connectionFactory"/>
</bean>
<!-- 配置destination -->
<!-- 佇列目的地 -->
<bean id="queueDestination" class="org.apache.activemq.command.ActiveMQQueue">
<constructor-arg value="spring-queue"/>
</bean>
<!-- 話題目的地 -->
<bean id="itemAddTopic" class="org.apache.activemq.command.ActiveMQTopic">
<constructor-arg value="item-add-topic"/>
</bean>
</beans>
然後在我們淘淘商城中,商品新增到資料庫的時候,對應也要新增資料到我們的solr索引中,所以生產者應該在插入資料後建立: 當然,在xml檔案中配置好的jmstemplate和destination也要注入進來:
@Autowired
private JmsTemplate jmsTemplate;
@Resource(name="itemAddTopic")
private Destination destination;
然後消費者應該寫在我們的搜尋工程中,首先新增spring和activeMQ的jar包,然後配置xml檔案,再編寫一個監聽器,當接收到訊息時,就講資料存入索引庫,xml檔案程式碼如下:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
xmlns:dubbo="http://code.alibabatech.com/schema/dubbo"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.2.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.2.xsd
http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.2.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.2.xsd
http://code.alibabatech.com/schema/dubbo http://code.alibabatech.com/schema/dubbo/dubbo.xsd
http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.2.xsd">
<!-- 配置能夠產生connection的connectionfactory,由JMS對應的服務廠商提供 -->
<bean id="tagertConnectionFactory" class="org.apache.activemq.ActiveMQConnectionFactory">
<constructor-arg name="brokerURL" value="tcp://192.168.156.44:61616"/>
</bean>
<!-- 配置spring管理真正connectionfactory的connectionfactory,相當於spring對connectionfactory的一層封裝 -->
<bean id="connectionFactory" class="org.springframework.jms.connection.SingleConnectionFactory">
<property name="targetConnectionFactory" ref="tagertConnectionFactory"/>
</bean>
<!-- 配置destination -->
<!-- 佇列目的地 -->
<bean id="queueDestination" class="org.apache.activemq.command.ActiveMQQueue">
<constructor-arg value="spring-queue"/>
</bean>
<!-- 話題目的地 -->
<bean id="itemAddTopic" class="org.apache.activemq.command.ActiveMQTopic">
<constructor-arg value="item-add-topic"/>
</bean>
<!-- 配置監聽器 -->
<bean id="myListener" class="com.taotao.search.listener.MyListener"/>
<bean id="itemAddListener" class="com.taotao.search.listener.ItemAddListener"/>
<!-- 系統監聽器 -->
<!-- <bean class="org.springframework.jms.listener.DefaultMessageListenerContainer">
<property name="connectionFactory" ref="connectionFactory"/>
<property name="destination" ref="queueDestination"/>
<property name="messageListener" ref="myListener"/>
</bean> -->
<bean class="org.springframework.jms.listener.DefaultMessageListenerContainer">
<property name="connectionFactory" ref="connectionFactory"/>
<property name="destination" ref="itemAddTopic"/>
<property name="messageListener" ref="itemAddListener"/>
</bean>
</beans>
接收訊息程式碼: