成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

使用Redis實(shí)現(xiàn)一個(gè)輕量級(jí)的搜索引擎,牛逼啊!

開(kāi)發(fā) 后端 Redis
大家如果是做后端開(kāi)發(fā)的,想必都實(shí)現(xiàn)過(guò)列表查詢的接口,當(dāng)然有的查詢條件很簡(jiǎn)單,一條 SQL 就搞定了,但有的查詢條件極其復(fù)雜,再加上庫(kù)表中設(shè)計(jì)的各種不合理,導(dǎo)致查詢接口特別難寫(xiě),然后加班什么的就不用說(shuō)了。

 場(chǎng)景

大家如果是做后端開(kāi)發(fā)的,想必都實(shí)現(xiàn)過(guò)列表查詢的接口,當(dāng)然有的查詢條件很簡(jiǎn)單,一條 SQL 就搞定了,但有的查詢條件極其復(fù)雜,再加上庫(kù)表中設(shè)計(jì)的各種不合理,導(dǎo)致查詢接口特別難寫(xiě),然后加班什么的就不用說(shuō)了(不知各位有沒(méi)有這種感受呢~)。

下面以一個(gè)例子開(kāi)始,這是某購(gòu)物網(wǎng)站的搜索條件,如果讓你實(shí)現(xiàn)這樣的一個(gè)搜索接口,你會(huì)如何實(shí)現(xiàn)?(當(dāng)然你說(shuō)借助搜索引擎,像 Elasticsearch 之類的,你完全可以實(shí)現(xiàn)。但我這里想說(shuō)的是,如果要你自己實(shí)現(xiàn)呢?)

從上圖中可以看出,搜索總共分為6大類,每大類中又分了各個(gè)子類。這中間,各大類條件之間是取的交集,各子類中有單選、多選、以及自定義的情況,最終輸出符合條件的結(jié)果集。

好了,既然需求很明確了,我們就開(kāi)始來(lái)實(shí)現(xiàn)。關(guān)注公眾號(hào)Java技術(shù)棧回復(fù)面試,可以獲取整理的 Redis 系列面試題及全部答案。

實(shí)現(xiàn)1

率先登場(chǎng)是小A同學(xué),他是寫(xiě) SQL 方面的“專家”。小A信心滿滿的說(shuō):“不就是一個(gè)查詢接口嗎?看著條件很多,但憑著我豐富的 SQL 經(jīng)驗(yàn),這點(diǎn)還是難不倒我的。”

于是乎就寫(xiě)出了下面這段代碼(這里以 MYSQL 為例): 

  1. select ... from table_1  
  2. left join table_2  
  3. left join table_3  
  4. left join (select ... from table_x where ...) tmp_1 
  5. ...  
  6. where ...  
  7. order by ...  
  8. limit m,n 

代碼在測(cè)試環(huán)境跑了一把,結(jié)果好像都匹配上了,于是準(zhǔn)備上預(yù)發(fā)。這一上預(yù)發(fā),問(wèn)題就開(kāi)始暴露出來(lái)。

預(yù)發(fā)為了盡可能的逼真線上環(huán)境,所以數(shù)據(jù)量自然而然要比測(cè)試大的多。所以這么一個(gè)復(fù)雜的 SQL,它的執(zhí)行效率可想而知。測(cè)試同學(xué)果斷把小A的代碼給打了回來(lái)。

實(shí)現(xiàn)2

總結(jié)了小A失敗的教訓(xùn),小B開(kāi)始對(duì)SQL進(jìn)行了優(yōu)化,先是通過(guò)了explain關(guān)鍵字進(jìn)行SQL性能分析,對(duì)該加索引的地方都加上了索引。同時(shí)將一條復(fù)雜SQL拆分成了多條SQL,計(jì)算結(jié)果在程序內(nèi)存中進(jìn)行計(jì)算。這篇Explain 最完整總結(jié),推薦看下。

偽代碼如下: 

  1. $result_1 = query('select ... from table_1 where ...');  
  2. $result_2 = query('select ... from table_2 where ...');  
  3. $result_3 = query('select ... from table_3 where ...');  
  4. ... 
  5. $result = array_intersect($result_1, $result_2, $result_3, ...); 

這種方案從性能上明顯比第一種要好很多,可是在功能驗(yàn)收的時(shí)候,產(chǎn)品經(jīng)理還是覺(jué)得查詢速度不夠快。MySQL 實(shí)現(xiàn)一個(gè)簡(jiǎn)單版搜索引擎,這篇推薦看下。

小B自己也知道,每次查詢都會(huì)向數(shù)據(jù)庫(kù)查詢多次,而且有些歷史原因,部分條件是做不到單表查詢的,所以查詢等待的時(shí)間是避免不了的。

實(shí)現(xiàn)3

小C從上面的方案中看到了優(yōu)化的空間。他發(fā)現(xiàn)小B在思路上是沒(méi)問(wèn)題的,將復(fù)雜條件拆分,計(jì)算各個(gè)子維度的結(jié)果集,最后將所有的子結(jié)果集進(jìn)行一個(gè)匯總合并,得到最終想要的結(jié)果。

于是他突發(fā)奇想,能否事先將各個(gè)子維度的結(jié)果集給緩存起來(lái),這要查詢的時(shí)候直接去取想要的子集,而不用每次去查庫(kù)計(jì)算。

這里小C采用 Redis 來(lái)存儲(chǔ)緩存數(shù)據(jù),用它的主要原因是,它提供了多種數(shù)據(jù)結(jié)構(gòu),并且在 Redis 中進(jìn)行集合的交并集操作是一件很容易的事情。

具體方案,如圖所示:

這里每個(gè)條件都事先將計(jì)算好的結(jié)果集ID存入對(duì)應(yīng)的key中,選用的數(shù)據(jù)結(jié)構(gòu)是集合(Set)。查詢操作包括:

  •  子類單選:直接根據(jù)條件 key,獲取對(duì)應(yīng)結(jié)果集;
  •  子類多選:根據(jù)多個(gè)條件 Key,進(jìn)行并集操作,獲取對(duì)應(yīng)結(jié)果集;
  •  最終結(jié)果:將獲取的所有子類結(jié)果集進(jìn)行交集操作,得到最終結(jié)果;

這其實(shí)就是所謂的反向索引。

這里會(huì)發(fā)現(xiàn),漏了一個(gè)價(jià)格的條件。從需求中可知,價(jià)格條件是個(gè)區(qū)間,并且是無(wú)窮舉的。所以上述的這種窮舉條件的 Key-Value 方式是做不到的。這里我們采用 Redis 的另一種數(shù)據(jù)結(jié)構(gòu)進(jìn)行實(shí)現(xiàn),有序集合(Sorted Set):

將所有商品加入 Key 為價(jià)格的有序集合中,值為商品ID,每個(gè)值對(duì)應(yīng)的分?jǐn)?shù)為商品價(jià)格的數(shù)值。這樣在 Redis 的有序集合中就可以通過(guò)ZRANGEBYSCORE命令,根據(jù)分?jǐn)?shù)(價(jià)格)區(qū)間,獲取相應(yīng)結(jié)果集。

至此,方案三的優(yōu)化已全部結(jié)束,將數(shù)據(jù)的查詢與計(jì)算通過(guò)緩存的手段,進(jìn)行了分離。在每次查找時(shí),只需要簡(jiǎn)單的查找 Redis 幾次就能得出結(jié)果。查詢速度上符合了驗(yàn)收的要求。

擴(kuò)展

分頁(yè)

這里你或許發(fā)現(xiàn)了一個(gè)嚴(yán)重的功能缺陷,列表查詢?cè)趺茨軟](méi)有分頁(yè)。是的,我們馬上來(lái)看 Redis 是如何實(shí)現(xiàn)分頁(yè)的。關(guān)注公眾號(hào)Java技術(shù)棧回復(fù)面試,可以獲取整理的 Redis 系列面試題及全部答案。

分頁(yè)主要涉及排序,這里簡(jiǎn)單起見(jiàn),就以創(chuàng)建時(shí)間為例。

如圖所示:

圖中藍(lán)色部分是以創(chuàng)建時(shí)間為分值的商品有序集合,藍(lán)色下方的結(jié)果集即為條件計(jì)算而得的結(jié)果,通過(guò)ZINTERSTORE命令,賦結(jié)果集權(quán)重為0,商品時(shí)間結(jié)果為1,取交集而得的結(jié)果集賦予創(chuàng)建時(shí)間分值的新有序集合。對(duì)新結(jié)果集的操作即能得到分頁(yè)所需的各個(gè)數(shù)據(jù):

  •  頁(yè)面總數(shù)為:ZCOUNT命令
  •  當(dāng)前頁(yè)內(nèi)容:ZRANGE命令
  •  若以倒序排列:ZREVRANGE命令

數(shù)據(jù)更新

關(guān)于索引數(shù)據(jù)更新的問(wèn)題,有兩種方式來(lái)進(jìn)行。一種是通過(guò)商品數(shù)據(jù)的修改,來(lái)即時(shí)觸發(fā)更新操作,一種是通過(guò)定時(shí)腳本來(lái)進(jìn)行批量更新。

這里要注意的是,關(guān)于索引內(nèi)容的更新,如果暴力的刪除 Key,再重新設(shè)置 Key。因?yàn)?Redis 中兩個(gè)操作不會(huì)是原子性進(jìn)行的,所以中間可能存在空白間隙,建議采用僅移除集合中失效元素,添加新元素的方式進(jìn)行。

性能優(yōu)化

Redis 是內(nèi)存級(jí)操作,所以單次的查詢會(huì)很快。但是如果我們的實(shí)現(xiàn)中會(huì)進(jìn)行多次的 Redis 操作,Redis 的多次連接時(shí)間可能是不必要時(shí)間消耗。通過(guò)使用MULTI命令,開(kāi)啟一個(gè)事務(wù),將 Redis 的多次操作放在一個(gè)事務(wù)中,最后通過(guò)EXEC來(lái)進(jìn)行原子性執(zhí)行(注意:這里所謂的事務(wù),只是將多個(gè)操作在一次連接中執(zhí)行,如果執(zhí)行過(guò)程中遇到失敗,是不會(huì)回滾的)。

總結(jié)

這里只是一個(gè)采用 Redis 優(yōu)化查詢搜索的一個(gè)簡(jiǎn)單 Demo,和現(xiàn)有的開(kāi)源搜索引擎相比,它更輕量,學(xué)習(xí)成本頁(yè)相應(yīng)低些。其次,它的一些思想與開(kāi)源搜索引擎是類似的,如果再加上詞語(yǔ)解析,也可以實(shí)現(xiàn)類似全文檢索的功能。 

 

責(zé)任編輯:龐桂玉 來(lái)源: Java技術(shù)棧
相關(guān)推薦

2020-12-31 09:20:51

Redis搜索引擎

2017-03-22 13:59:19

搜索分析

2021-09-13 06:03:42

CSS 技巧搜索引擎

2017-11-27 13:39:29

Python大數(shù)據(jù)搜索引擎

2020-10-28 11:40:08

MySQL索引數(shù)據(jù)庫(kù)

2024-02-27 07:33:32

搜索引擎Rust模型

2020-06-10 08:23:44

JavaScript開(kāi)發(fā)Web

2011-06-20 18:23:06

SEO

2020-02-24 08:52:08

開(kāi)源索引YaCy

2023-01-03 15:42:29

機(jī)器學(xué)習(xí)視頻搜索

2009-02-19 09:41:36

搜索引擎搜狐百度

2009-09-22 16:23:52

搜索引擎

2022-10-11 09:27:45

搜索引擎es索引

2017-08-07 08:15:31

搜索引擎倒排

2020-03-20 10:14:49

搜索引擎倒排索引

2021-08-09 10:36:49

Python搜索引擎命令

2010-06-13 16:27:28

搜索引擎

2016-12-26 13:41:19

大數(shù)據(jù)搜索引擎工作原理

2019-12-13 19:00:26

PekwmLinux桌面

2022-10-08 09:13:18

搜索引擎?站
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 国产乱码精品一品二品 | 日本在线播放一区二区 | 青青久在线视频 | 免费久久久| 在线观看免费观看在线91 | 人人干天天干 | 日本久久一区二区三区 | 国产精品久久久久久高潮 | 亚洲欧美一区二区三区视频 | 日本午夜免费福利视频 | 天天干com | 中文精品视频 | 亚洲精品 在线播放 | 日韩成人国产 | 成人在线免费网站 | 一级高清免费毛片 | 人人鲁人人莫人人爱精品 | 日韩中文字幕在线视频 | 91精品国产91久久久久久吃药 | 九九导航 | 成人av免费网站 | 99视频免费在线观看 | 国产精品久久久久久久久久免费看 | 国产精品免费一区二区三区四区 | 欧美三级久久久 | 久久99精品久久久久久国产越南 | 亚洲va国产日韩欧美精品色婷婷 | 欧美在线a| 日产精品久久久一区二区福利 | 韩三级在线观看 | 久久精品免费观看 | 欧美精品久久久 | 欧美日韩在线观看一区二区三区 | 国产精品看片 | 中文字幕一区二区不卡 | 中文字幕成人免费视频 | 中文字幕观看 | 中文字幕人成乱码在线观看 | 美女久久久久久久久 | 国产福利在线免费观看 | 日韩www|