Java程序員不缺對象,缺的是對象存儲
1. 前言
文件服務器是一個應用必要的組件之一。最早我搞過FTP,然后又用過FastDFS,接私活的時候我用MongoDB也湊合湊合。現如今時代不同了,開始流行起了OSS。
Gitee: https://gitee.com/felord/kono day06 分支 歡迎 Star
GitHub: https://github.com/NotFound403/kono day06 分支 歡迎 Star
2. 什么是 OSS
全稱為Object Storage Service,也叫對象存儲服務,是一種解決和處理離散單元的方法,可提供基于分布式系統之上的對象形式的數據存儲服務,具有可拓展、可管理、低成本等特點,支持中心和邊緣存儲,能夠實現存儲需求的彈性伸縮,主要應用于海量數據管理的各類場景。
這概念真是夠難以理解的。簡單說點我知道的吧,平常我們的文件地址都是 /User/felord/video/xxx.mp4的目錄樹結構,系統先要找到User,然后一級一級往下找一直到目標為止,這是一種結構化的存儲方式。對象存儲就不一樣了,所有的文件都放在一個特定的池子里,只不過文件的攜帶有它自己的元信息,通過元信息去檢索文件。這里舉一個形象的例子:
- {"oss":[
- {"file":"xxxxx","meta":{"id":"1111"},"type":""},
- {"content":"xxxxx","meta":{"id":"1211"},"type":"","created":"","name":""},
- ]}
上圖的oss就是一個對象存儲,它里面存了攜帶信息不一樣、甚至結構都不一樣的東西,我們可以根據其元信息meta檢索它們。OSS具有以下特點:
- 效率更高。不受復雜目錄系統對性能的影響。
- 可擴展性更強。分布式架構,更便于進行水平擴展,從而容納進任意大規模的數據。
- 可用性更強。數據一般都會有多個位于不同機器的復制,確保數據不丟失。
- 平臺無關,可以通過Restful接口進行操作對象。
OSS通常被用來存儲圖片、音視頻等文件,以及對這些文件的處理。
3. 哪些 OSS 可以使用
通常我們有兩種選擇,花錢買或者自己搞。
充錢才能變得更強
這句話這里也是很實用的,目前幾乎所有的云廠商都有自己的對象存儲產品,你可以對比一下花錢購買它們,通過配合CDN能達到非常好的用戶體驗,胖哥的felord.cn就使用了云廠商的對象存儲。購買他們的服務
- 可靠性強,數據丟失可能性低。
- 免維護,不需要自行維護。
- 可配合其它一些特色功能,比如縮略圖、CDN 等等。
自己動手豐衣足食
不想花錢就只能自己動手了,目前我知道的開源方案有兩種。
一種是Ceph,一個分布式存儲系統,高可用,高擴展性。但是一般人玩不轉,就連開源中國的紅薯都被坑慘了 。
大半年后紅薯被Ceph玩壞了
另一種是Minio,用Golang寫的。我目前還沒發現有什么坑,文檔居然還有中文文檔!我用Docker不到三分鐘就玩起來了,居然還自帶控制臺!其它功能也挺齊全,各種客戶端SDK齊全。
Minio Logo
因為安裝過于簡單就不演示了。
4. 整合到 Spring Boot
無論你花錢還是自己搞都可以,這兩種方式各有各的好處。所以我要把這兩種方式整合到kono Spring Boot腳手架項目中。這種組件封裝成為Spring Boot Starter再好不過了。在日常開發中這種基礎組件都建議做成Starter。參考我的 最強自定義 Spring Boot Starter 教程里的方式,我將aliyun的OSS SDK和Minio SDK封裝成Starter了。
達到了開箱即用。而且非常靈活,你配置哪種使用哪種,可以二選一,也可以全都要,還可以全都不要。
獲取到項目后通過Maven命令mvn install安裝到本地依賴庫,或者你發布到你的遠程私有Maven倉庫。然后再引用Starter,切記先后步驟:
- <!-- 一定要先拉取項目通過 mvn install 安裝到本地 -->
- <dependency>
- <groupId>cn.felord</groupId>
- <artifactId>oss-spring-boot-starter</artifactId>
- <version>1.0.0.RELEASE</version>
- </dependency>
Minio 配置流程(可選)
接著就是使用了,先在你Minio的控制臺上創建一個bucket,可以理解為一個對象池。
創建 bucket
然后把策略設置為可讀寫。
編輯名稱為img的bucket的策略
可讀寫策略
搞完開始在項目中配置,application.yaml中:
- @Autowired
- @Qualifier("minioStorage")
- Storage storage;
- @Test
- public void testOss() throws Exception {
- File file = new File("./456.jpg");
- InputStream inputStream = new FileInputStream(file);
- storage.putObject("img","pic_122",inputStream, MimeTypeUtils.IMAGE_JPEG_VALUE);
- }
aliyun OSS 配置流程(可選)
額外引入依賴:
- <dependency>
- <groupId>com.aliyun.oss</groupId>
- <artifactId>aliyun-sdk-oss</artifactId>
- <version>2.5.0</version>
- </dependency>
- <dependency>
- <groupId>com.aliyun</groupId>
- <artifactId>aliyun-java-sdk-core</artifactId>
- <version>4.3.8</version>
- </dependency>
這是必須的步驟。
去ali OSS 控制臺申請跟Minio差不多的幾樣東西用來配置:
- oss:
- aliyun:
- active: true
- access-key-id: LTAI4GH4EQXtKEbJDrADvWNH
- access-key-secret: XjDpNn5JqHAHPDXGL6xIebyUkyFAZ7
- endpoint: oss-cn-beijing.aliyuncs.com
Starter 的使用
以下是我對OSS操作的抽象接口:
- package cn.felord.oss;
- import java.io.InputStream;
- /**
- * The interface Storage.
- *
- * @author felord.cn
- * @since 2020 /8/24 19:54
- */
- public interface Storage {
- /**
- * 存放對象
- *
- * @param bucketName bucket 名稱
- * @param objectName 自定義對象名稱
- * @param inputStream 對象的輸入流
- * @param contentType 參考http 的 MimeType 值
- * @throws Exception the exception
- */
- void putObject(String bucketName, String objectName, InputStream inputStream, String contentType) throws Exception;
- /**
- * 獲取對象
- *
- * @param bucketName the bucket name
- * @param objectName the object name
- * @return the object
- */
- InputStream getObject(String bucketName, String objectName) throws Exception;
- /**
- * 獲取對象的URL
- *
- * @param bucketName the bucket name
- * @param objectName the object name
- * @return the object url
- */
- String getObjectUrl(String bucketName, String objectName) throws Exception;
- /**
- * 刪除對象
- *
- * @param bucketName the bucket name
- * @param objectName the object name
- */
- void removeObject(String bucketName, String objectName) throws Exception;
- }
然后分別使用了以上兩種OSS進行了實現。
對應的兩種實現
并分別以aliyunStorage、minioStorage為名稱將AliyunStorage和MinioStorage注入Spring IoC。
使用起來非常簡單:
- @Autowired
- @Qualifier("minioStorage")
- Storage storage;
- @Test
- public void testOss() throws Exception {
- File file = new File("./456.jpg");
- InputStream inputStream = new FileInputStream(file);
- storage.putObject("img","pic_122",inputStream, MimeTypeUtils.IMAGE_JPEG_VALUE);
- }
5. 總結
今天的整合與往常不太一樣,主要是一些通用功能的組件化封裝的實際演示,另外簡單描述了對象存儲的功能和使用場景,希望對你有用。多多關注:碼農小胖哥,跟我一起整合腳手架。
本文轉載自微信公眾號「碼農小胖哥」,可以通過以下二維碼關注。轉載本文請聯系碼農小胖哥公眾號。