近年來，公眾對人工智能的倫理問題討論得如火如荼，前不久剛結束的中國計算機大會(CNCC)分論壇上也開設了“人工智能開發的道德邊界”相關主題討論。

[[285165]]

一時之間，各種言論甚囂塵上。

大家充滿了各種擔憂：“機器人會占據人類的工作”、“電腦系統和人類一樣充滿偏見”……

我們為什么不思考一下，為什么機器學習或者人工智能比其他技術更危險呢?

的確，目前公眾對于人工智能倫理問題的討論至關重要，且非常合乎時宜，因此有必要繼續探討下去。但是熱心市民小芯唯一希望的是，在討論技術倫理問題時切忌隨意冠上“人工智能”的頭銜，因為有時某些問題與人工智能根本不沾邊。

目前有關人工智能倫理問題的討論并未抓住要領

最近，小芯從世界經濟論壇(World Economic Forum)上讀到一篇文章，題為《人工智能九大倫理問題》。以下基于此文，小芯將進行一項實驗。(在此需要聲明一下，小芯對于此論壇并沒有任何批評或諷刺的意思，反而非常喜愛)

公眾在探討人工智能的倫理問題時，涉及的大多數問題并非人工智能所獨有。實際上，廣義上的技術都存在這樣的問題，因此并不稀奇。

在這篇文章中，選取其小標題，然后把其中出現的“人工智能”、“機器人”、“機器”、“智能系統”和“人工”之類的詞語全部換成“技術”一詞，再看看能發現什么。

在這“九大倫理問題”中，有多少是人工智能所特有的?

1. 未來人類找不到工作怎么辦?

2. 技術創造的財富該如何分配?

3. 技術將如何影響人類的行為與交流?

4. 如何降低技術的失誤率?

5. 如何消除技術偏見?

6. 如何避免技術用于非正當目的?

7. 如何防止技術帶來預料之外的后果?

8. 人類如何掌控好復雜技術?

9. 如何界定技術的“人權”問題?

很明顯，問題1至8只涉及廣義上的技術，當然也包括普通軟件。此文之所以使用“人工智能”一詞，其實是為了引起公眾的閱讀興趣;這也讓小芯想起了地質學家常用的一種教學工具——寵物石(Pet Rocks)。如果寵物石只是為了增加課堂的趣味性，那么當然可以接受。但是，如果地質課成了“寵物石心理學”，那就完全變味了(問題9)。

[[285166]]

在某個物體上畫一張臉，很快又開始與其談話。實際上，這是人類“功能失常”的一種表現，因為僅有一張臉并不意味著它就有頭腦。

如果想要人類遭受更多的不公平待遇、不斷推出無效的解決方案、擾亂勞動市場的秩序、改變人類的交流方式、將后患無窮的事物交由惡人之手，并且創造出一個人類自己都無法掌控和擺脫的復雜系統，想要完成這些其實根本不需要機器學習或者是人工智能(但是請不要這樣做)。并且，如果想要探討以上行為對人類世界所產生的影響，我們也沒必要求助于“大數據”或者“神經網絡”之類的高深概念。

技術奇點?(這一觀點還有待考證，因此給其頒發星云獎有點操之過急)

那有什么特點是機器學習或者人工智能所獨有的呢?的確有!是《技術奇點》(The Singularity)理論嗎?切莫操之過急，別這么快給《技術奇點》頒發星云獎。目前所謂的機器學習或者人工智能其實還有許多其它的重要特點，而這些特點更加需要及時澄清。

[[285167]]

如圖所示，這其實就是另一個“寵物石”的例子。這一模擬的確更加真實，但是盡管如此，它也不過是一個畫著人臉、卻沒有生命的物體而已。

人工智能 V.S. 機器人

人工智能到底好在哪里?

答案很簡單，即人工智能能夠自動處理無法用語言表述的任務。

換言之，人類不再需要親自去尋找某一問題的解決方案，只需要使用數據中的模式即可。

你們知道這一方法有多么強大嗎?

這意味著人類不再需要寫出各種指令，也能夠讓電腦自動完成任務。除此之外還能別有所求?想讓人工智能有“人性”?完全取代人類?技術奇點?

別想太多，人工智能其實與這些沒什么關系。目前，人工智能被包裝成一個“全副武裝”的人形機器人，這完全是利用了公眾的無知，擾亂公眾視線，使其忽視真正的危險所在。

機器人不過是又一種“寵物石”而已。比如，可以試試在自家的吸塵器上貼兩個大眼睛貼紙(我知道你挺想這么做的)，效果其實是一樣的。

因此，如果大家還在杞人憂天，為沒必要的事情發愁，那么我們將忽略掉真正值得擔憂的地方。千萬別被技術詩人騙了。

神經網絡不等同于人類大腦。

目前所謂的人工智能，并不是為了開發出具有人格的人形實體來取代人類(其實這類機器人有一個更加貼切的術語來描述，即HLI人形智能)。實際上，人工智能只是一系列的編程工具，只不過它用了一種不同的編寫方式，即使用實例(數據)而非明確指令進行編程。

“人工智能是使用實例(數據)，而非明確指令進行編程的工具。”

想要了解人工智能的發展前景如何嗎?人工智能的潛在風險又有哪些呢?再仔細揣摩一下上一句引言，其實這兩個問題在其中皆有體現。

專注度的轉變

假設需要對一項含有10000個步驟的任務進行自動化處理。如果使用傳統的編程方式，人類必須絞盡腦汁地寫出每一步指令。

在傳統的編程過程中，每一步解決方案都必須由人類明確編寫出來。

為此，可以把這一過程比作成人類用雙手拼裝一萬塊樂高積木。由于開發者自己也沒什么耐心，因此他們會把一些部分打包在一起，如此一來下次使用時就無需重復組裝了。

于是，人們也不再需要單獨處理這一萬個積木塊，而是從網上下載已創建好的安裝包。這時，人們就可以更加專心地進行下一步工作，即再將50個分別由200個小方塊組成的構件繼續拼裝在一起。如果人們充分信任已經由別人提前拼裝好的樂高組件，那么就不必再費心去檢查每一個積木塊的細節。

因此，人們只需將屋頂與墻體整個拼在一起，而無需再仔細考慮一磚一瓦。再說了，又有誰有這么多閑工夫來干這些瑣事呢?(或許在拼裝結束之后，也可以把這個由一萬塊積木搭建起來的杰作打包起來，等到有人要完成十萬塊積木搭建的創舉時，他們也可以隨時復制這一安裝包，從而大大地節省時間。毋庸置疑，這一切都應該歸功于GitHub平臺)

[[285168]]

但是問題又來了：即使人們再也不用親自去完成每一步，但是要知道，這10000步中的每一個指令都曾是由人類千辛萬苦編寫出來的……機器學習或者人工智能的區別就在這里。

機器學習把人類從高度專注的狀態帶到疏忽的狀態。

在機器學習和人工智能工程領域需要處理各種各樣的問題，但主要還是整合處理各種工具。人們可能需要為某個項目編寫一萬行的代碼，并且大部分代碼都是為了誘導這些笨拙的工具接受指令。隨著工具的逐步改良，最終在機器學習或者人工智能里將只有兩個真正的指令，即：

1. 優化目標……

2. ……基于數據集。

僅此而已。現今，人類不再需要編寫成千上萬行的代碼，而只需使用兩個語句就足以自動完成任務。這聽起來的確很美好，實際上卻危機四伏。

人工智能會取代哪些人的工作?

在現實生活中，有一些任務非常瑣碎，因此完全可以用機器來完成它們，再不必人類費心。于是，人類做事的效率也會顯著提高。雖然人類自己不知道怎么做，但在機器的幫助下他們可以高效完成任務。正是因為如此，那些沒有被科幻電影中的場景蒙蔽雙眼的人，才會愈加推崇機器學習和人工智能。

此后，人類將不再需要為編寫數萬步解決方案而殫精竭慮。通過從開發者提供的實例中找出解決方案，機器學習和人工智能將能夠自動生成這一萬行代碼(或者與之類似的事物)。

基本區別在于專注度的不同。

如果你從未想過機器學習或者人工智能會取代哪些人的工作，那么接下來最好扶好下巴，準備迎接這一事實：

開發者會自動化/加速其他人的工作。

機器學習和人工智能會自動化/加速開發者的工作。

因此，以后再也不必費力編寫各種指令，比如“首先這個，然后這個，然后這個，然后……”;現在只需說一句：“基于這些數據，獲得一個最優分數。”說的更通俗一點，“這是我喜歡的東西，如果你們這些打字機上的猴子(代指開發者)拿到了這個東西，立馬告訴我。”

[[285169]]

(不必擔心，算法在處理某些數據集之前，這些數據集還需要經過大量的整合工作，因此軟件工程師們也不必為失業而擔憂。唯一改變的是他們的工作方式，因為之前是通過指令來告訴計算機如何做，現在則需要輸入數據。)

不可避免的人類疏忽

現在，有必要引出機器學習和人工智能獨有且最緊迫的問題：人類不可避免的疏忽。

當危及到人類的生死安危時，人工智能的疏忽將是一個巨大的風險。到時候，機器學習和人工智能將會變成一個“疏忽放大器”。

在這時，雖然決策者的選擇事關緊要，但是管理這一項目的人真的會像編寫那5000個指令一樣認真仔細地組織這兩行語句嗎?真的會嗎?

還有哪方面沒有考慮到呢?

實例的選擇

機器學習和人工智能用實例來表達自己的意圖，因此需要將數據集輸入系統。然而，如果人們沒有提前對這些數據進行核實和處理，沒有分清楚哪些是有關的，哪些是存在偏見的，哪些又是高質量的實例，那么后果將不堪設想。

人工智能的偏見：不合適的實例，未經核實。

[[285170]]

目標的選擇

此外，人們也可能隨意選擇一個目標，這個目標聽起來挺好，實際上卻糟糕透頂。例如，一個領導對他的開發人員說：“幫我攔截盡可能多的垃圾郵件，”并且期待他能夠開發出一個靈敏可靠的過濾器。然而，如果把同樣的指令對人工智能算法說一遍，領導可能很快就會發現，最近怎么都沒有收到新郵件呢?(原來是，根據給定的目標，標記每一封郵件都為垃圾郵件才能獲得最高分數)

傻子都能隨口說出一個目標。然而不幸的是，學習系統會堅持完成這一目標。

“頭腦”和“數學”這兩個詞非常模糊而隱晦，而這或將給人類帶來更大的風險。因為小芯認為，這種模糊感會使人們在選擇目標和實例時變得過于大意和草率。最后，不過是人類自己的頭腦在掌控一切。所謂的數學，也就淪為了一塊三明治，人類的主觀意識是那兩塊面包，而真正客觀的數學不過是夾在中間那薄薄的一層黃油。

數學就像一塊三明治，主觀之間夾著一點點客觀。

隨著人工智能這種工具變得越來越先進，進入的門檻也逐漸降低;然而即使門檻再低，人類也不可避免地會栽一個大跟頭。技術的改善對于小型的私人項目來說當然是好事，但是如果某一人工智能項目的進行將會影響到其他人，那么在這個時候，項目管理者必須花費更多的心思來進行管理。此時，必須要有一位卓越的領導者站出來，對一系列問題作出明智的決策。比如，我們真的準備好迎接風險和挑戰了嗎?

[[285171]]

“給我一個支點，我能翹起整個地球。”——阿基米德(Archimedes)

科技——一根偉大的杠桿

科技能讓世界變得更美好，開闊人類的視野，延長人類的壽命，并且即使在人口爆炸的時代，科技也能讓人類豐衣足食。

然而，科技同樣會給人類帶來恐慌、動蕩與混亂。某一技術的影響力越大，其潛在的破壞性也越大。科技如同一根杠桿，它能大大提高人類的潛能。

但切記，在利用科技造福人類時，必須要小心!因為自己在享受某一技術時，很容易就會影響到周圍別人。

在利用某一技術(包括人工智能)時，最好把它看作是人類的輔助工具，而非獨立自主的個體。在享受科技帶來的便利時，千萬不要影響到其他人。

當我們在享受科技帶來的便利時，很容易就會影響到其他人。

雖然許多圍繞人工智能倫理的問題都不是人工智能所特有的，但是人工智能也可能會往傷口上撒鹽。因此，目前關于這些問題的討論仍然熱度不減。

人類的疏忽將被無限放大

如果有人問我：“你害怕人工智能嗎?”我真正聽到的其實是“你害怕人類的疏忽嗎?”對我來說，這才是問題的根本所在，因為我不相信科幻故事中的機器人，也不會去與寵物石談話。

再見!人工智能的倫理道德!

你好!人類的疏忽!

回到本文開頭的那九個小標題，試想一下，不斷擴大那些標題中場景的影響范圍和速度。然后，再往那個天平上放一個人類的“疏忽放大器”;很快，人類因疏忽大意而產生的后果將被無限放大。

人類應該畏懼人工智能的地方并不是機器人，而是人類本身。

俗話說，能力越大，責任越大。然而，在如今這個人工智能和大數據的時代，人類真的準備好迎接挑戰，承擔起領導責任了嗎?毋庸置疑，人類自己也擔心被科技反噬。

問小芯害怕人工智能嗎?

當然不怕!

小芯愛慘了人工智能，并且作為一個樂觀主義者，對于人工智能引領的未來充滿期待。

小芯相信，在人工智能的時代，大家都會重視責任、擔當與領導力的價值。那時，人類將能夠建造出安全高效的系統，從而為全人類帶來科技的進步以及更加美好的生活。

而這，也是為什么小芯(和志同道合的大家)一直在不遺余力地同大家分享有關人工智能、互聯網等各種技術知識和咨詢。

當人類摘掉了矮枝條上的果實之后(即解決了簡單的問題)，就需要利用人工智能來解決更加艱巨的問題。

希望可以通過合理地利用人工智能，人類能夠保護資源，甚至暢游星河，將愛傳遞，跨越山海，無知與疾病也將永遠不復存在。

科技可以很美好，這取決于我們人類。小芯始終相信，科技的美好和溫暖，人人都是其見證者與創造者。

人類與人工智能協作，自然與科技共生的美好未來在召喚我們!