問題到底出現在了哪里?有什么辦法來避免這些錯誤嗎?

如今，人工智能(AI)、機器學習(ML)和其他新興技術具有巨大的潛力已成社會共識，它們有望為個人、企業乃至政府解決眾多復雜的問題。

然而，盡管在過去的兩年里人工智能的應用越來越多，但只有一小部分公司承認人工智能技術的引進為他們的業務進展貢獻了重大的價值。

那么，問題到底出現在了哪里?企業在應用人工智能技術的時候會犯哪些錯誤?有什么辦法來避免這些錯誤嗎?

不要解決錯誤的問題

當決定在哪里應用人工智能來解決問題時，要通過正確的視角來看待情況，并讓企業的商業部門和IT部門雙方都參與到設計過程中來。

因為無論是商業部門還是IT部門都沒有辦法給出全部的意見。商業部門領導人知道可以拉動哪些杠桿來獲得競爭優勢，而技術部門領導人知道如何使用技術來實現這些目標。

兩方結合可以幫助創建一個關于問題、要求和期望結果的完整圖景，并且可以優先考慮哪些變化會產生最大的運營和財務影響。

舉例來說，一家消費品零售公司的平均發票處理時間為36小時，在降本增效的情況下，它希望幫助其加快處理速度。根據預估，應用AI/ML解決方案可以將發票處理時間減少到30分鐘，效率提高了720%。

從紙面上看，這種改進很好，但該公司的每周結算流程意味著處理時間的改善并不重要，這也就導致該解決方案從未投入應用。

當看到要解決的問題時，重要的是將其與三個關鍵的底線業務驅動因素聯系起來——增加收入、提高利潤率或減少風險。而在上面的案例中，節省時間并不一定意味著增加收入或減少成本。

數據質量是成功的關鍵

如今，大多數人應該都不會質疑數據在人工智能項目中的關鍵性和重要性。干凈、可靠、可訪問的數據是實現準確結果的關鍵。

對于一個人工智能系統，算法優良，模型有效，但是如果數據質量差或者不容易收集、不可行，那么就意味著整體的失敗。

所以，企業必須確定他們需要收集哪些數據，他們是否能夠實際收集這些數據，收集這些數據的難度和成本有多大，以及這些數據是否能夠提供所需的信息。

例如，一家金融機構希望使用AI/ML來自動處理貸款，但源記錄中缺失的數據元素造成了高錯誤率，就會導致解決方案失敗。

為此，就需要創建出第二個ML模型來審查每條記錄。那些符合要求的置信區間的記錄在自動化流程中被向前推進，那些不符合要求的記錄被拉出來進行人工干預以解決數據質量問題。

這個多階段的過程大大減少了所需的人力互動，使該機構的效率提高了85%。如果沒有額外的ML模型來解決數據質量問題，該機構即便有了自動化解決方案也永遠不會取得有意義的結果。

部搭建的還是請求第三方?

在搭建人工智能系統的時候，企業往往會面臨是自主開發還是引入第三方的矛盾選擇。一般而言，內部自主搭建的解決方案具有高度“可控性”，因為所有開發算法、清理數據以及測試和驗證模型的工作都是掌握在自己手里。

但是，建立自己的人工智能解決方案是很復雜的，除非你使用開源代碼，否則你將面臨圍繞所使用的工具的許可費用以及與前期解決方案開發和維護有關的費用。

那么引入第三方解決方案就萬事大吉了嗎?也不盡然，第三方解決方案同樣有其自身的挑戰，包括：無法接觸到模型或其工作方式;無法知道模型是否在做它應該做的事情;如果解決方案是基于SaaS的，則無法接觸到數據;無法進行回歸測試或了解錯誤接受度或錯誤率。

在監管嚴格的行業，這些問題變得更加具有挑戰性，因為監管機構會就這些問題提出質詢。

例如，一家金融服務公司正在驗證一種 SaaS 解決方案，該方案使用人工智能來識別可疑活動。因為引入了第三方，該公司無法接觸到基礎模型或數據，也沒有關于該模型如何確定哪些活動是可疑的細節。這樣一來，該公司如何進行盡職調查并核實該工具是否有效?

在這種情況下，該公司發現其唯一的選擇就是對其試圖檢測的可疑或惡劣的活動進行模擬。但即使這種驗證方法也有挑戰，例如確保測試不會產生負面影響、創建拒絕服務條件，或影響服務的可用性。

該公司決定在測試環境中進行模擬，以盡量減少對生產影響的風險。如果公司選擇利用這種驗證方法，他們應該審查服務協議，以驗證他們是否有權進行這種類型的測試，并應考慮是否需要獲得其他可能受影響的第三方的許可。

收集所有的相關聲音

在考慮開發一個人工智能解決方案時，重要的是在前期聚攏所有相關的決策者，包括業務利益相關者、IT、合規性和內部審計。這可以確保在規劃和工作開始前收集所有關于需求的關鍵信息。

例如，一家酒店管理公司希望按照歐洲嚴格的數據保護法《通用數據保護條例》(GDPR)的要求，將其響應數據主體訪問請求(DSAR)的過程自動化。DSAR要求企業應要求提供該公司為請求者持有的任何個人數據的副本，以及使用這些數據的目的。

為此，該公司聘請了一個外部供應商來開發一個人工智能解決方案，以實現DSAR流程要素的自動化，但在這個過程中沒有涉及IT部門。

由此產生的需求定義未能與該公司支持的技術解決方案相一致。雖然概念驗證證實了該解決方案會使速度和效率提高200%以上，但該解決方案沒有進入生產階段，因為IT部門擔心維護這個新解決方案的長期成本會超過節省的成本。

在一個類似的例子中，一家金融服務機構沒有讓其合規團隊參與制定需求定義。這導致正在開發的人工智能解決方案不符合該企業的合規標準，證明過程沒有被記錄下來，而且該解決方案沒有使用該公司要求的相同的身份和訪問管理(IAM)標準。當解決方案只是部分通過了概念驗證階段時，合規性也“廢掉”了該解決方案。

重要的是，在開發或實施人工智能/ML解決方案時，所有相關的聲音都要盡早提出。這將確保需求定義是正確和完整的，解決方案符合所需的標準，并實現預期的業務目標。

結語

在考慮人工智能或其他新興技術時，企業需要在過程的早期采取正確的行動，以確保成功。最重要的是，他們必須確保：1)他們追求的解決方案符合三個關鍵目標中的一個——增加收入、提高盈利能力或降低風險;2)他們有獲得必要數據的流程;3)他們的構建與購買決策是有根據的;4)他們有所有的利益相關者都在早期參與。