8月28日，華為云中國行2018走進天府之國成都。在活動現(xiàn)場，華為云一連發(fā)布兩款創(chuàng)新產(chǎn)品，讓華為云全棧服務能力再上一級臺階。據(jù)華為EBG中國區(qū)行業(yè)云拓展部部長胡維琦介紹，兩款新品分別是國內(nèi)首家Istio服務網(wǎng)格產(chǎn)品和全球首家GPU共享型高性能AI容器。在會后，記者采訪了這兩款新品的技術(shù)專家，請專家更為詳細地介紹了產(chǎn)品的相關(guān)性能，以及對用戶的價值。

GPU共享型高性能AI容器：讓AI用得起，用得好，用的放心

記者還記得，在2017年11月，華為云發(fā)布了裸金屬容器服務，集成了穩(wěn)定性、靈活性、安全性、高性能多重功能。而此次發(fā)布的GPU共享型高性能AI容器，則是疊加在裸金屬服務器之上，增加了一些專門針對AI領(lǐng)域的技術(shù)，性能更高，算力更強。

華為容器技術(shù)專家告訴記者，之所以會研發(fā)推出GPU共享AI容器，最重要的出發(fā)點就是考慮到***程度滿足用戶需求。眾所周知，GPU成本昂貴，一般的企業(yè)如果想用AI技術(shù)去做人工智能應用，成本無疑是攔路虎之一。而華為云推出GPU共享AI容器，就能夠大幅度降低AI計算的成本，同時提升性能。

華為容器技術(shù)專家舉了一個例子：深度學習的模型訓練非常耗GPU資源，如果GPU性能沒有充分發(fā)揮，那訓練效率是非常低的，可能花很長時間才能訓練出一個模型。而如果使用AI容器，采用NUMA架構(gòu)，加上高速的100GB的IB網(wǎng)卡，再配合高性能GPU，就可以獲得一個非常高的AI計算性能。“我們的口號就是能夠讓大家都能用得起，用得好，也用的放心。”

記者采訪得知，GPU共享型高性能AI容器的主要受眾群體就是做人工智能的企業(yè)，滿足他們在人工智能方面的開發(fā)需求，并提供一些典型的應用，例如深度學習訓練、深度學習推理、圖像人臉識別、文字識別等。記者了解到，這款新品在市場上其實已經(jīng)有了一些實踐，在城市安防領(lǐng)域、智能交通領(lǐng)域都大有用武之地。

說易行難，GPU優(yōu)化的門道原來這么多！

目前市場上常見的模式是，用戶把GPU掛載到某一個容器上，成為它的一個資源，然后就可以使用了。但在AI場景中，尤其是推理計算，并不需要用到整塊或多塊CPU，只需要使用其中一部分，因此華為做了兩點優(yōu)化工作：一是把同一塊GPU掛給不同容器，并且與容器自身的CPU、Mem、網(wǎng)絡(luò)做配合；另一點是在調(diào)度方面做修改，通過K8S做資源的共享控制。如此一來，就能夠?qū)崿F(xiàn)一塊GPU共享給多個容器。

“這個產(chǎn)品還是有一定技術(shù)門檻的，最關(guān)鍵的技術(shù)難度就在于對K8S的調(diào)度以及對OS內(nèi)核的改動。” 華為容器技術(shù)專家表示，首先需要精通K8S的調(diào)度引擎，才能對調(diào)度引擎進行修改和優(yōu)化，其次還需要對OS操作系統(tǒng)層面有非常深入的積累。總體而言，需要對K8S調(diào)度機制、操作系統(tǒng)、GPU驅(qū)動以及裸金屬NUMA架構(gòu)、IB網(wǎng)卡等技術(shù)有一個綜合的理解和積累，并將其融合起來。“華為在這兩塊是有長期的深厚積累，而且華為的優(yōu)勢在于技術(shù)的全面性，能夠?qū)⑸鲜黾夹g(shù)整合在一起，提供一個端到端的容器全棧解決方案。”

Istio服務網(wǎng)格：因客戶需求催生，共同走向成熟

本次華為發(fā)布另外一個新品是Istio服務網(wǎng)格產(chǎn)品，這款產(chǎn)品可以與CCE容器引擎深度整合，提供非侵入、智能流量治理的應用全生命周期管理方案，增強了華為云容器服務全棧能力。

服務網(wǎng)絡(luò)（Service Mesh）在美國已有兩年左右的發(fā)展時間，而在國內(nèi)則是從2017年下半年才開始關(guān)注，的確是一個比較新的熱點，可能會有人質(zhì)疑國內(nèi)Service Mesh新產(chǎn)品的成熟度。對此華為容器技術(shù)專家表示，華為之所以會快速推出這個產(chǎn)品，主要是因為華為云的容器客戶在把應用大規(guī)模搬遷到容器上時會遇到了一些問題，例如如何做應用運行時的治理，包括限流、流控等，如何保障業(yè)務不被外部流量沖垮，而這些問題通過Istio服務網(wǎng)格可以得到非常好的解決。

“Istio服務網(wǎng)格最核心的理念是它完全基于業(yè)務屬性，能夠讓容器上的業(yè)務更穩(wěn)定。” 華為容器技術(shù)專家表示，華為云的很多客戶已經(jīng)在嘗試使用Istio，自己也已經(jīng)在安裝Istio，而客戶經(jīng)常會因為Istio的問題來詢問華為云，因此華為干脆就推出了Istio服務，更好地服務用戶。“我相信隨著應用的擴大和深入，華為云會和客戶一起催動Istio慢慢成熟。”

華為Istio不僅好用，而且安全

在華為容器技術(shù)專家看來，Istio服務的優(yōu)勢是十分明顯的，首先它對應用的代碼是無侵入式的，不需要修改代碼，使用起來很方便；其次它能夠?qū)崿F(xiàn)應用服務之間的流量治理限流，治理功能比較全面；***，它與K8S的整合性比較好，能夠提供端到端的灰度發(fā)布流程。對于華為云Istio而言，華為云力求做到讓客戶直接啟用，不再需要繁瑣的安裝部署、監(jiān)控運維。當談及Istio安全性時，華為容器技術(shù)專家認為，安全性的確是需要重點考慮的因素，目前Istio也在著力解決，華為會持續(xù)深入研究這個領(lǐng)域的技術(shù)并落地到產(chǎn)品中。

目前Istio與華為云上的容器全棧服務，包括CCE云容器引擎、CCI云容器實例，同時也與APM應用性能管理、AOM運維管理服務都可以無縫整合。

Istio服務網(wǎng)格和AI容器現(xiàn)已在華為云開放公測，公測期間用戶可以直接在CCE里啟用Istio，享受一站式體驗。感興趣的同學可以訪問以下地址申請試用噢：

https://www.huaweicloud.com/product/cce.html

HUAWEI CONNECT 2018作為華為自辦的面向ICT產(chǎn)業(yè)的全球性年度旗艦大會，將于2018年10月10日-12日在上海隆重舉行。本屆大會以“+智能，見未來”為主題，旨在搭建一個開放、合作、共享的平臺，與客戶伙伴一起共同探討如何把握新機遇創(chuàng)造智能未來。

欲了解更多詳情，請參閱：

https://www.huawei.com/cn/press-events/events/huaweiconnect2018