軍事智能就像戰爭一樣，是一團迷霧，存在著大量的不確定性，是不可預知、不可預測的。從當前人工智能的發展趨勢來看，可預見的未來戰爭中，存在著許多人機融合隱患仍未能解決，具體有：

（1）在復雜的信息環境中，人類和機器在特定的時間內吸收、消化和運用有限的信息，對人而言，人的壓力越大，誤解的信息越多，也就越容易導致困惑、迷茫和意外。對機器而言，對于跨領域非結構化數據的學習理解預測，依然是非常困難的事。

（2）戰爭中決策所需要的信息在時間和空間上的廣泛分布，決定了一些關鍵信息仍然很難獲取。而且機器采集到的重要的客觀物理性數據與人類獲得的主觀加工后的信息和知識很難協調融合。

（3）未來的戰爭中，存在著大量的非線性特征和出乎意料的多變性，常常會導致作戰過程和結果諸多不可預見性，基于公理的形式化邏輯推理已遠遠不能滿足復雜多變戰況決策的需求。鑒于核武器的不斷蔓延和擴散，國家無論大小，國與國之間的未來戰爭成本將會越來越高。無論人工智能怎么發展，未來是屬于人類的，應該由人類共同定義未來戰爭的游戲規則并決定人工智能的命運，而不是由人工智能決定人類的命運，究其因，人工智能是邏輯的，而未來戰爭不僅僅是邏輯的，還存在著大量的非邏輯因素。

（4）鑒于各國對自主裝備分類不同，對于強人工智能或叫通用人工智能類武器概念的定義和理解差距都很大，所以當前最重要的工作不時具體的技術問題如何解決（技術迭代更新的非常快），而是有關人工智能應用基本概念和定義如何達成共識，如：：①什么是AI？②什么是自主？③自動化與智能化區別是？④機器計算與人算計的區別是？⑤人機功能/能力分配的邊界是？⑥數據、AI與風險責任的關系如何？⑦可計算性與可判定性區別等等。

有的定義還很粗略，需要進一步細化，如從人類安全角度看，禁止“人在回路外”的自主武器是符合普世價值且減少失控風險必要之舉，但是什么樣的人在系統回路中往往就被忽略，一些不負責任的人在防疫系統中可能會更糟糕；

（5）對于世界上自主技術的發展情況，建議設立聯合評估小組，定期對自主技術發展情況進行細致的評估與預警，對技術發展關口進行把關，對技術發展進行預測分析，對進行敏感技術開發的重點機構和研發人員進行定向監督，設立一定程度的學術開放要求。

（6）AI軍用化發展所面臨的安全風險和挑戰主要有：

①人工智能和自主系統可能會導致事態意外升級和危機不穩定；

②人工智能和自主系統將會降低對手之間的戰略穩定性（如中美、美俄之間戰略關系將更加緊張）；

③人和自主系統的不同組合（包括人判斷+人決策、人判斷+機決策、機判斷+人決策、機判斷+機決策）會影響雙方的態勢升級；

④機器理解人發出的威懾信號（尤其是降級信號）較差；

⑤ 自主系統無意攻擊友軍或平民的事故將引起更多質疑；

⑥ 人工智能和自主系統可能會導致軍備競賽的不穩定性；

⑦ 自主系統的擴散可能引發人們認真尋找對策，這些對策將加劇不確定性，且各國將擔憂安全問題。

計算應對“復”，算計處理“雜”，寫作文就是一種計算計過程，只不過不是用數字圖形，而是用文字符號。

人類不可能完全掌握世界，但可以嘗試理解世界，這種智能會催生出更新的哲學范疇和思考。

在馮·諾伊曼生前出版的最后一本關于大腦和計算機之間關系的著作，《計算機與人腦》（The Computer and the Brain）中，馮·諾伊曼總結了自己以上觀點，并且承認大腦不僅遠比機器復雜，而且大腦似乎沿著他最初設想的不同路線來實現其功能。幾乎蓋棺論定般地，他認為使用二進制的計算機完全不適合用來模擬大腦。這是因為他已經幾乎可以論定，大腦的邏輯結構，和邏輯學、數學的邏輯結構完全不同，那么，“從評估中樞神經系統真正使用的數學或邏輯語音的角度來看，我們使用的數學的外在形式完全不適合做這樣的工作。”?

最近的科學研究也證實了這一點。法國神經科學家羅曼·布雷特（RomainBrette）的發現從根本上質疑了大腦和計算機底層架構上的一致性，即神經編碼。科學家們受到大腦和計算機之間隱喻的影響，將技術意義層面上的刺激和神經元之間的聯系，轉移到了表征意義上神經元編碼徹底代表了刺激。事實上，神經網絡是如何以一種最佳的解碼方式將信號傳遞給腦中的理想化觀察者的“下游結構”（downstreamstructure），至今是未知的，甚至在簡單的模型中也沒有明確的假說。那么，這種隱喻會導致科學家們只關注感覺和神經元之間的聯系，而忽視動物的行為真正對神經元的影響。

匈牙利神經科學家蓋伊爾吉·布薩基的研究結果更為激進。在他的《由內而外的腦》一書中，布薩基指出，大腦事實上并不是在通過編碼表征信息，而是構建了信息。在他看來，腦并不是簡單被動地接受刺激，然后通過神經編碼來表征他們，而是通過積極地搜索各種可能性來測試各種可能的選擇。這無疑是對于用計算機來比喻大腦的隱喻的全盤推翻。

無論是從腦科學，還是計算機科學的角度，這種將大腦比作計算機的隱喻壽命或許都將不再延續。科布敏銳地指出，這種隱喻被作用到人們對于計算機的研究之中，讓人們盲覺，縮小了真正該研究的范圍。