隨著技術(shù)的不斷發(fā)展，自主式AI正逐漸成為企業(yè)數(shù)字化轉(zhuǎn)型的重要推手。然而，如何確保AI的安全、有效應(yīng)用，卻成為了眾多CIO面臨的難題。本文將圍繞五大關(guān)鍵問題，為CIO提供一份自主式AI落地指南。

每晚，當(dāng)紐約大學(xué)格羅斯曼醫(yī)學(xué)院(NYU Grossman School of Medicine)和紐約大學(xué)格羅斯曼長島醫(yī)學(xué)院(NYU Grossman Long Island School of Medicine)的大多數(shù)醫(yī)學(xué)生都在睡覺時(shí)，AI正在為他們忙碌地工作。

一款A(yù)I應(yīng)用會(huì)從紐約大學(xué)朗格尼健康系統(tǒng)(NYU Langone Health system)下屬6家住院醫(yī)院和300多家門診地點(diǎn)獲取匿名診斷代碼，將它們與相關(guān)研究和診斷信息相匹配，并及時(shí)將結(jié)果通過電子郵件發(fā)送給醫(yī)學(xué)生，供他們晨起時(shí)查閱。

該平臺是自主式AI的一個(gè)例子，即能夠自主決策和行動(dòng)的AI系統(tǒng)。

“這實(shí)際上并不是改變AI本身，而是改變其周邊組件，以便讓該AI能夠做出更相關(guān)的決策。”英國網(wǎng)絡(luò)安全咨詢和托管服務(wù)提供商N(yùn)CC集團(tuán)的技術(shù)總監(jiān)大衛(wèi)·布勞克勒(David Brauchler)說道。

但自主式AI只有在安全、維護(hù)良好且應(yīng)用于合適的用例時(shí)才能發(fā)揮作用。以下是CIO在部署該技術(shù)之前應(yīng)該提出的五個(gè)問題。

自主式AI將解決什么問題?

紐約大學(xué)朗格尼健康系統(tǒng)的高級副總裁、副院長兼首席數(shù)字信息官納德·默哈比(Nader Mherabi)表示，當(dāng)公司開始部署AI時(shí)，應(yīng)該制定一個(gè)戰(zhàn)略計(jì)劃，以確保將正確的技術(shù)應(yīng)用于正確的用例。“AI不能脫離工作流程，否則人們不會(huì)使用它。”

紐約大學(xué)朗格尼健康系統(tǒng)有一系列使用不同模型的AI相關(guān)項(xiàng)目。對于將病例與研究相匹配而言，智能體是一個(gè)合理的選擇，因?yàn)樗且粋€(gè)相對直接的用例，能夠產(chǎn)生高度有益的結(jié)果，默哈比說道。

“它訪問和編譯數(shù)據(jù)的方式非常強(qiáng)大，能夠從中得出醫(yī)學(xué)知識，然后為學(xué)生提供個(gè)性化的學(xué)習(xí)資料，”默哈比說道。“它幾乎可以自主運(yùn)行，”默哈比表示。

該代理不會(huì)接觸高度敏感且受到嚴(yán)格監(jiān)管的患者數(shù)據(jù)，這使得AI的使用風(fēng)險(xiǎn)較低。信息與患者就診情況斷開連接，并在紐約大學(xué)朗格尼健康系統(tǒng)的安全網(wǎng)絡(luò)中運(yùn)行。

我們是否有讓其發(fā)揮作用的數(shù)據(jù)?

Gartner的高級總監(jiān)分析師湯姆·考紹(Tom Coshow)表示，只有當(dāng)AI擁有正確的數(shù)據(jù)，且這些數(shù)據(jù)得到妥善處理時(shí)，智能體才會(huì)有效。

數(shù)據(jù)還必須與確切的用例對齊。否則，智能體將從不該提取AI的地方提取，這可能會(huì)導(dǎo)致錯(cuò)誤答案，或者在最壞的情況下，讓員工訪問到他們不該看到的數(shù)據(jù)。

數(shù)據(jù)也需要維護(hù)，這需要合適的人才，考紹表示。“數(shù)據(jù)專家這一新興領(lǐng)域?qū)⑸瞄L以智能體友好的方式維護(hù)數(shù)據(jù)，”考紹說道。

數(shù)據(jù)是否安全?

除了確保員工不會(huì)訪問到他們不該獲取的信息外，組織還應(yīng)考慮自主式AI可能帶來的安全風(fēng)險(xiǎn)。

“您在應(yīng)用程序環(huán)境或網(wǎng)絡(luò)中添加的所有內(nèi)容都是必須管理的額外攻擊面。”NCC集團(tuán)的布勞克勒說道。

在考慮將AI添加到未考慮AI或AI相關(guān)風(fēng)險(xiǎn)的系統(tǒng)和平臺時(shí)，公司應(yīng)進(jìn)行安全測試。NCC集團(tuán)最近測試了一個(gè)平臺，發(fā)現(xiàn)它可以通過添加隱藏文本來操縱系統(tǒng)。

“由于該平臺并非為AI而設(shè)計(jì)，因此在其系統(tǒng)中創(chuàng)建了一個(gè)以前不存在的漏洞。”布勞克勒說道。

安全采用需要擁有經(jīng)過AI培訓(xùn)的工程師，他們可以準(zhǔn)備和管理風(fēng)險(xiǎn)。否則，“您實(shí)際上是在增加攻擊面，而沒有擁有解決AI特定風(fēng)險(xiǎn)的經(jīng)驗(yàn)的工程師，”他補(bǔ)充道。

自主式AI在公司技術(shù)戰(zhàn)略中處于什么位置?

并非所有自主式AI都是相同的，因此CIO需要詢問哪些平臺在整體技術(shù)戰(zhàn)略的背景下是合適的。

“我是只在我的云服務(wù)提供商中構(gòu)建，還是要尋找擁有特殊行業(yè)技能的初創(chuàng)公司?”考紹問道。

CIO還應(yīng)詢問他們能接受多少個(gè)自主式AI系統(tǒng)，以及如果他們在不同的平臺上運(yùn)行，他們是否有能力監(jiān)控所有代理。

紐約大學(xué)朗格尼健康系統(tǒng)是分階段開展AI相關(guān)項(xiàng)目的。這可能意味著創(chuàng)建較小的自主式智能體，這些代理可以像樂高積木一樣連接成一個(gè)更大的整體。默哈比表示，這樣，如果一個(gè)代理不工作，就可以將其拔出并修復(fù)，而不必拆除整個(gè)操作。

如何監(jiān)控自主式AI?

自主式AI不是一種設(shè)置好后就可以忘記的應(yīng)用程序。相反，它需要持續(xù)監(jiān)控，以確保數(shù)據(jù)的準(zhǔn)確性、使用恰當(dāng)性以及最終用戶的利益。

默哈比表示，使用自主式AI的應(yīng)用程序“需要持續(xù)維護(hù)”。

自去年部署以來，通過密切監(jiān)控，該衛(wèi)生系統(tǒng)的自主式AI應(yīng)用程序能夠繼續(xù)為醫(yī)學(xué)生提供定制信息。它實(shí)現(xiàn)了用例目標(biāo)，并繼續(xù)發(fā)揮作用。

“我想，孩子們早上起床，登錄門戶，就能看到相關(guān)材料，這很不錯(cuò)。”默哈比說道。“誰不喜歡呢?”