成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

我用Redis實現了一個輕量級的搜索引擎!

存儲 存儲軟件 開發工具 Redis
大家如果是做后端開發的,想必都實現過列表查詢的接口,當然有的查詢條件很簡單,一條 SQL 就搞定了。

 [[361320]]

圖片來自 Pexels

但有的查詢條件極其復雜,再加上庫表中設計的各種不合理,導致查詢接口特別難寫,然后加班什么的就不用說了(不知各位有沒有這種感受呢~)。

下面以一個例子開始,這是某購物網站的搜索條件,如果讓你實現這樣的一個搜索接口,你會如何實現?

當然你說借助搜索引擎,像 Elasticsearch 之類的,你完全可以實現。但我這里想說的是,如果要你自己實現呢?

 

從上圖中可以看出,搜索總共分為 6 大類,每大類中又分了各個子類。

這中間,各大類條件之間是取的交集,各子類中有單選、多選、以及自定義的情況,最終輸出符合條件的結果集。

好了,既然需求很明確了,我們就開始來實現。

實現 1

率先登場是小 A 同學,他是寫 SQL 方面的“專家”。小 A 信心滿滿的說:“不就是一個查詢接口嗎?看著條件很多,但憑著我豐富的 SQL 經驗,這點還是難不倒我的。”

于是乎就寫出了下面這段代碼(這里以 MySQL 為例):

  1. select ... from table_1 
  2. left join table_2 
  3. left join table_3 
  4. left join (select ... from table_x where ...) tmp_1 
  5. ... 
  6. where ... 
  7. order by ... 
  8. limit m,n 

代碼在測試環境跑了一把,結果好像都匹配上了,于是準備上預發。這一上預發,問題就開始暴露出來。

預發為了盡可能的逼真線上環境,所以數據量自然而然要比測試大的多。所以這么一個復雜的 SQL,它的執行效率可想而知。測試同學果斷把小 A 的代碼給打了回來。

實現 2

總結了小 A 失敗的教訓,小 B 開始對 SQL 進行了優化,先是通過了 explain 關鍵字進行 SQL 性能分析,對該加索引的地方都加上了索引。

同時將一條復雜 SQL 拆分成了多條 SQL,計算結果在程序內存中進行計算。

偽代碼如下:

  1. $result_1 = query('select ... from table_1 where ...'); 
  2. $result_2 = query('select ... from table_2 where ...'); 
  3. $result_3 = query('select ... from table_3 where ...'); 
  4. ... 
  5.  
  6. $result = array_intersect($result_1, $result_2, $result_3, ...); 

這種方案從性能上明顯比第一種要好很多,可是在功能驗收的時候,產品經理還是覺得查詢速度不夠快。

小 B 自己也知道,每次查詢都會向數據庫查詢多次,而且有些歷史原因,部分條件是做不到單表查詢的,所以查詢等待的時間是避免不了的。

實現 3

小 C 從上面的方案中看到了優化的空間。他發現小 B 在思路上是沒問題的,將復雜條件拆分,計算各個子維度的結果集,最后將所有的子結果集進行一個匯總合并,得到最終想要的結果。

于是他突發奇想,能否事先將各個子維度的結果集給緩存起來,這要查詢的時候直接去取想要的子集,而不用每次去查庫計算。

這里小 C 采用 Redis 來存儲緩存數據,用它的主要原因是,它提供了多種數據結構,并且在 Redis 中進行集合的交并集操作是一件很容易的事情。

具體方案,如圖所示:

 

這里每個條件都事先將計算好的結果集 ID 存入對應的 Key 中,選用的數據結構是集合(Set)。

查詢操作包括:

  • 子類單選:直接根據條件 Key,獲取對應結果集。
  • 子類多選:根據多個條件 Key,進行并集操作,獲取對應結果集。
  • 最終結果:將獲取的所有子類結果集進行交集操作,得到最終結果。

這其實就是所謂的反向索引。這里會發現,漏了一個價格的條件。從需求中可知,價格條件是個區間,并且是無窮舉的。

所以上述的這種窮舉條件的 Key-Value 方式是做不到的。這里我們采用 Redis 的另一種數據結構進行實現,有序集合(Sorted Set):

 

將所有商品加入 Key 為價格的有序集合中,值為商品 ID,每個值對應的分數為商品價格的數值。

這樣在 Redis 的有序集合中就可以通過 ZRANGEBYSCORE 命令,根據分數(價格)區間,獲取相應結果集。

至此,方案三的優化已全部結束,將數據的查詢與計算通過緩存的手段,進行了分離。

在每次查找時,只需要簡單的查找 Redis 幾次就能得出結果。查詢速度上符合了驗收的要求。

擴展

①分頁

這里你或許發現了一個嚴重的功能缺陷,列表查詢怎么能沒有分頁。是的,我們馬上來看 Redis 是如何實現分頁的。

分頁主要涉及排序,這里簡單起見,就以創建時間為例。如圖所示:

 

圖中藍色部分是以創建時間為分值的商品有序集合,藍色下方的結果集即為條件計算而得的結果,通過 ZINTERSTORE 命令,賦結果集權重為 0,商品時間結果為 1,取交集而得的結果集賦予創建時間分值的新有序集合。

對新結果集的操作即能得到分頁所需的各個數據:

  • 頁面總數為:ZCOUNT 命令。
  • 當前頁內容:ZRANGE 命令。
  • 若以倒序排列:ZREVRANGE命令。

②數據更新

關于索引數據更新的問題,有兩種方式來進行。一種是通過商品數據的修改,來即時觸發更新操作,一種是通過定時腳本來進行批量更新。

這里要注意的是,關于索引內容的更新,如果暴力的刪除 Key,再重新設置 Key。

因為 Redis 中兩個操作不會是原子性進行的,所以中間可能存在空白間隙,建議采用僅移除集合中失效元素,添加新元素的方式進行。

③性能優化

Redis 是內存級操作,所以單次的查詢會很快。但是如果我們的實現中會進行多次的 Redis 操作,Redis 的多次連接時間可能是不必要時間消耗。

通過使用 MULTI 命令,開啟一個事務,將 Redis 的多次操作放在一個事務中,最后通過 EXEC 來進行原子性執行。

注意:這里所謂的事務,只是將多個操作在一次連接中執行,如果執行過程中遇到失敗,是不會回滾的。

總結

這里只是一個采用 Redis 優化查詢搜索的一個簡單 Demo,和現有的開源搜索引擎相比,它更輕量,學習成本頁相應低些。

其次,它的一些思想與開源搜索引擎是類似的,如果再加上詞語解析,也可以實現類似全文檢索的功能。

作者:jasonGeng88

編輯:陶家龍

出處:https://github.com/jasonGeng88/blog

 

責任編輯:武曉燕 來源: Github
相關推薦

2020-12-10 11:18:47

Redis搜索引擎Java

2017-11-27 13:39:29

Python大數據搜索引擎

2024-02-27 07:33:32

搜索引擎Rust模型

2021-09-13 06:03:42

CSS 技巧搜索引擎

2020-10-28 11:40:08

MySQL索引數據庫

2011-06-20 18:23:06

SEO

2020-06-10 08:23:44

JavaScript開發Web

2025-06-27 10:41:04

Redis數據庫集群

2022-02-25 09:41:05

python搜索引擎

2021-08-24 10:02:21

JavaScript網頁搜索 前端

2024-11-05 16:40:24

JavaScript搜索引擎

2016-08-18 00:54:59

Python圖片處理搜索引擎

2009-02-19 09:41:36

搜索引擎搜狐百度

2009-09-22 16:23:52

搜索引擎

2025-04-25 09:00:00

2025-02-28 01:00:00

2020-08-27 11:39:05

JavaRESTful Web編程語言

2011-05-17 16:54:09

搜索引擎

2020-03-20 10:14:49

搜索引擎倒排索引

2017-08-07 08:15:31

搜索引擎倒排
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 在线观看黄色电影 | 亚洲精品视频免费观看 | 精品国产一区二区三区久久久蜜月 | 精精国产xxxx视频在线播放 | 日韩精品一区二区久久 | 综合国产 | 欧美午夜精品久久久久久浪潮 | 日韩有码一区 | 成人在线播放网站 | 日韩在线视频一区二区三区 | 婷婷在线视频 | 在线中文字幕亚洲 | av免费网| 日本在线视频一区二区 | 草比网站 | 毛片在线看片 | 国产片侵犯亲女视频播放 | 波多野结衣精品 | 欧美成年人网站 | 青青草在线播放 | 97超在线视频 | 三级免费网 | 资源首页二三区 | 欧美成人a∨高清免费观看 老司机午夜性大片 | 国产精品国产三级国产aⅴ浪潮 | 一级毛片网 | 视频在线亚洲 | 成人在线视频网址 | 欧美精品久久久久 | 国产精品亚洲欧美日韩一区在线 | 国产高清一区二区三区 | 国产日韩欧美精品一区二区 | 色欧美日韩| 亚洲精品中文在线 | 成人在线观 | 中文字幕一区在线观看视频 | 午夜精品一区二区三区在线视 | 人人澡人人射 | 男人天堂色 | 久久国产婷婷国产香蕉 | 91av在线免费观看 |