基於Redis 的高併發搶紅包程式是如何實現的
阿新 • • 發佈:2018-12-22
下面介紹一種基於redis的搶紅包方案。
把原始的紅包稱為大紅包,拆分後的紅包稱為小紅包。
1.小紅包預先生成,插到資料庫裡,紅包對應的使用者ID是null,紅包生成演算法如下:
預先生成所有的紅包還是一個請求隨機生成一個紅包
簡單來說,就是把一個大整數m分解(直接以“分為單位,如1元即100)分解成n個小整數的過程,小整數的範圍是[min, max]。
最簡單的思路,先保底,每個小紅包保證有min,然後每個請求都隨機生成一個0到(max-min)範圍的整數,再加上min就是紅包的錢數。
這個演算法雖然簡單,但是有一個弊端:最後生成的紅包可能都是min錢數的。也就是說可能最後的紅包都是0.01元的。
另一種方式是預先生成所有紅包,這樣就比較容易控制了。我選擇的是預先生成所有的紅包。
理想的紅包生成演算法:
理想的紅包生成結果是平均值附近的紅包比較多,大紅包和小紅包的數量比較少。
可以想像下,生成紅包的數量的分佈有點像正態分佈。
那麼如何實現這種平均線附近值比較多的要求呢?
就是要找到一種演算法,可以提高平均值附近的概率。那麼利用一種”膨脹“再”收縮“的方式來達到這種效果。
先平方,再生成平方範圍內的隨機數,再開方,那麼概率就不再是平均的了。
2.每個大紅包對應兩個redis佇列,一個是未消費紅包佇列,另一個是已消費紅包佇列。開始時,把未搶的小紅包全放到未消費紅包佇列裡。
未消費紅包佇列裡是json字串,如{userId:’789′, money:’300′}。
3.在redis中用一個map來過濾已搶到紅包的使用者。
4.搶紅包時,先判斷使用者是否搶過紅包,如果沒有,則從未消費紅包佇列中取出一個小紅包,再push到另一個已消費佇列中,最後把使用者ID放入去重的map中。
5.用一個單執行緒批量把已消費佇列裡的紅包取出來,再批量update紅包的使用者ID到資料庫裡。
上面的流程是很清楚的,但是在第4步時,如果是使用者快速點了兩次,或者開了兩個瀏覽器來搶紅包,會不會有可能使用者搶到了兩個紅包?
為了解決這個問題,採用了lua指令碼方式,讓第4步整個過程是原子性地執行。
下面是在redis上執行的Lua指令碼:
-- 函式:嘗試獲得紅包,如果成功,則返回json字串,如果不成功,則返回空
-- 引數:紅包佇列名, 已消費的佇列名,去重的Map名,使用者ID
-- 返回值:nil 或者 json字串,包含使用者ID:userId,紅包ID:id,紅包金額:money
-- 如果使用者已搶過紅包,則返回nil
if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
return nil
else
-- 先取出一個小紅包
local hongBao = redis.call('rpop', KEYS[1]);
if hongBao then
local x = cjson.decode(hongBao);
-- 加入使用者ID資訊
x['userId'] = KEYS[4];
local re = cjson.encode(x);
-- 把使用者ID放到去重的set裡
redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
-- 把紅包放到已消費佇列裡
redis.call('lpush', KEYS[2], re);
return re;
end
end
return nil
下面是測試程式碼:
public class TestEval {
static String host = "localhost";
static int honBaoCount = 1_0_0000;
static int threadCount = 20;
static String hongBaoList = "hongBaoList";
static String hongBaoConsumedList = "hongBaoConsumedList";
static String hongBaoConsumedMap = "hongBaoConsumedMap";
static Random random = new Random();
// -- 函式:嘗試獲得紅包,如果成功,則返回json字串,如果不成功,則返回空
// -- 引數:紅包佇列名, 已消費的佇列名,去重的Map名,使用者ID
// -- 返回值:nil 或者 json字串,包含使用者ID:userId,紅包ID:id,紅包金額:money
static String tryGetHongBaoscript =
// "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n"
// + "print('bConsumed:' ,bConsumed);\n"
"if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n"
+ "return nil\n"
+ "else\n"
+ "local hongBao = redis.call('rpop', KEYS[1]);\n"
// + "print('hongBao:', hongBao);\n"
+ "if hongBao then\n"
+ "local x = cjson.decode(hongBao);\n"
+ "x['userId'] = KEYS[4];\n"
+ "local re = cjson.encode(x);\n"
+ "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n"
+ "redis.call('lpush', KEYS[2], re);\n"
+ "return re;\n"
+ "end\n"
+ "end\n"
+ "return nil";
static StopWatch watch = new StopWatch();
public static void main(String[] args) throws InterruptedException {
// testEval();
generateTestData();
testTryGetHongBao();
}
static public void generateTestData() throws InterruptedException {
Jedis jedis = new Jedis(host);
jedis.flushAll();
final CountDownLatch latch = new CountDownLatch(threadCount);
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
int per = honBaoCount/threadCount;
JSONObject object = new JSONObject();
for(int j = temp * per; j < (temp+1) * per; j++) {
object.put("id", j);
object.put("money", j);
jedis.lpush(hongBaoList, object.toJSONString());
}
latch.countDown();
}
};
thread.start();
}
latch.await();
}
static public void testTryGetHongBao() throws InterruptedException {
final CountDownLatch latch = new CountDownLatch(threadCount);
System.err.println("start:" + System.currentTimeMillis()/1000);
watch.start();
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
String sha = jedis.scriptLoad(tryGetHongBaoscript);
int j = honBaoCount/threadCount * temp;
while(true) {
Object object = jedis.eval(tryGetHongBaoscript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);
j++;
if (object != null) {
// System.out.println("get hongBao:" + object);
}else {
//已經取完了
if(jedis.llen(hongBaoList) == 0)
break;
}
}
latch.countDown();
}
};
thread.start();
}
latch.await();
watch.stop();
System.err.println("time:" + watch.getTotalTimeSeconds());
System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());
System.err.println("end:" + System.currentTimeMillis()/1000);
}
}
測試結果20個執行緒,每秒可以搶2.5萬個,足以應付絕大部分的搶紅包場景。
如果是真的應付不了,拆分到幾個redis叢集裡,或者改為批量搶紅包,也足夠應付。
redis的搶紅包方案,雖然在極端情況下(即redis掛掉)會丟失一秒的資料,但是卻是一個擴充套件性很強,足以應付高併發的搶紅包方案。
把原始的紅包稱為大紅包,拆分後的紅包稱為小紅包。
1.小紅包預先生成,插到資料庫裡,紅包對應的使用者ID是null,紅包生成演算法如下:
預先生成所有的紅包還是一個請求隨機生成一個紅包
簡單來說,就是把一個大整數m分解(直接以“分為單位,如1元即100)分解成n個小整數的過程,小整數的範圍是[min, max]。
最簡單的思路,先保底,每個小紅包保證有min,然後每個請求都隨機生成一個0到(max-min)範圍的整數,再加上min就是紅包的錢數。
這個演算法雖然簡單,但是有一個弊端:最後生成的紅包可能都是min錢數的。也就是說可能最後的紅包都是0.01元的。
另一種方式是預先生成所有紅包,這樣就比較容易控制了。我選擇的是預先生成所有的紅包。
理想的紅包生成演算法:
理想的紅包生成結果是平均值附近的紅包比較多,大紅包和小紅包的數量比較少。
可以想像下,生成紅包的數量的分佈有點像正態分佈。
那麼如何實現這種平均線附近值比較多的要求呢?
就是要找到一種演算法,可以提高平均值附近的概率。那麼利用一種”膨脹“再”收縮“的方式來達到這種效果。
先平方,再生成平方範圍內的隨機數,再開方,那麼概率就不再是平均的了。
2.每個大紅包對應兩個redis佇列,一個是未消費紅包佇列,另一個是已消費紅包佇列。開始時,把未搶的小紅包全放到未消費紅包佇列裡。
未消費紅包佇列裡是json字串,如{userId:’789′, money:’300′}。
3.在redis中用一個map來過濾已搶到紅包的使用者。
4.搶紅包時,先判斷使用者是否搶過紅包,如果沒有,則從未消費紅包佇列中取出一個小紅包,再push到另一個已消費佇列中,最後把使用者ID放入去重的map中。
5.用一個單執行緒批量把已消費佇列裡的紅包取出來,再批量update紅包的使用者ID到資料庫裡。
上面的流程是很清楚的,但是在第4步時,如果是使用者快速點了兩次,或者開了兩個瀏覽器來搶紅包,會不會有可能使用者搶到了兩個紅包?
為了解決這個問題,採用了lua指令碼方式,讓第4步整個過程是原子性地執行。
下面是在redis上執行的Lua指令碼:
-- 函式:嘗試獲得紅包,如果成功,則返回json字串,如果不成功,則返回空
-- 引數:紅包佇列名, 已消費的佇列名,去重的Map名,使用者ID
-- 返回值:nil 或者 json字串,包含使用者ID:userId,紅包ID:id,紅包金額:money
-- 如果使用者已搶過紅包,則返回nil
if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
return nil
else
-- 先取出一個小紅包
local hongBao = redis.call('rpop', KEYS[1]);
if hongBao then
local x = cjson.decode(hongBao);
-- 加入使用者ID資訊
x['userId'] = KEYS[4];
local re = cjson.encode(x);
-- 把使用者ID放到去重的set裡
redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
-- 把紅包放到已消費佇列裡
redis.call('lpush', KEYS[2], re);
return re;
end
end
return nil
下面是測試程式碼:
public class TestEval {
static String host = "localhost";
static int honBaoCount = 1_0_0000;
static int threadCount = 20;
static String hongBaoList = "hongBaoList";
static String hongBaoConsumedList = "hongBaoConsumedList";
static String hongBaoConsumedMap = "hongBaoConsumedMap";
static Random random = new Random();
// -- 函式:嘗試獲得紅包,如果成功,則返回json字串,如果不成功,則返回空
// -- 引數:紅包佇列名, 已消費的佇列名,去重的Map名,使用者ID
// -- 返回值:nil 或者 json字串,包含使用者ID:userId,紅包ID:id,紅包金額:money
static String tryGetHongBaoscript =
// "local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);\n"
// + "print('bConsumed:' ,bConsumed);\n"
"if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then\n"
+ "return nil\n"
+ "else\n"
+ "local hongBao = redis.call('rpop', KEYS[1]);\n"
// + "print('hongBao:', hongBao);\n"
+ "if hongBao then\n"
+ "local x = cjson.decode(hongBao);\n"
+ "x['userId'] = KEYS[4];\n"
+ "local re = cjson.encode(x);\n"
+ "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);\n"
+ "redis.call('lpush', KEYS[2], re);\n"
+ "return re;\n"
+ "end\n"
+ "end\n"
+ "return nil";
static StopWatch watch = new StopWatch();
public static void main(String[] args) throws InterruptedException {
// testEval();
generateTestData();
testTryGetHongBao();
}
static public void generateTestData() throws InterruptedException {
Jedis jedis = new Jedis(host);
jedis.flushAll();
final CountDownLatch latch = new CountDownLatch(threadCount);
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
int per = honBaoCount/threadCount;
JSONObject object = new JSONObject();
for(int j = temp * per; j < (temp+1) * per; j++) {
object.put("id", j);
object.put("money", j);
jedis.lpush(hongBaoList, object.toJSONString());
}
latch.countDown();
}
};
thread.start();
}
latch.await();
}
static public void testTryGetHongBao() throws InterruptedException {
final CountDownLatch latch = new CountDownLatch(threadCount);
System.err.println("start:" + System.currentTimeMillis()/1000);
watch.start();
for(int i = 0; i < threadCount; ++i) {
final int temp = i;
Thread thread = new Thread() {
public void run() {
Jedis jedis = new Jedis(host);
String sha = jedis.scriptLoad(tryGetHongBaoscript);
int j = honBaoCount/threadCount * temp;
while(true) {
Object object = jedis.eval(tryGetHongBaoscript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);
j++;
if (object != null) {
// System.out.println("get hongBao:" + object);
}else {
//已經取完了
if(jedis.llen(hongBaoList) == 0)
break;
}
}
latch.countDown();
}
};
thread.start();
}
latch.await();
watch.stop();
System.err.println("time:" + watch.getTotalTimeSeconds());
System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());
System.err.println("end:" + System.currentTimeMillis()/1000);
}
}
測試結果20個執行緒,每秒可以搶2.5萬個,足以應付絕大部分的搶紅包場景。
如果是真的應付不了,拆分到幾個redis叢集裡,或者改為批量搶紅包,也足夠應付。
redis的搶紅包方案,雖然在極端情況下(即redis掛掉)會丟失一秒的資料,但是卻是一個擴充套件性很強,足以應付高併發的搶紅包方案。