[[202058]]

1.人工智能正在為你的工作而來。為了保護你的職業，***去做那些機器不擅長的工作——比如說涉及到人、不可預測或是需要創造力的工作。我們要避免去做那些在可預見的環境中自動消失的重復性或結構化的工作，比如電話推銷員，倉庫工人，收銀員，火車操作員，面包師或流水線廚師等等。卡車、公共汽車、出租車和uber/lyft的司機可能很快就會被取代。除此之外還有許多職業(包括律師助理、信貸分析師、貸款官員、簿記員和稅務會計師)，雖然他們沒有被列入將被取代的名單之中，但他們的大部分工作都是自動化的，因此需要更少的人力。

2.失業可能會變成一個終生的假期。人工智能的進步既可以為所有人創造一個奢侈的休閑社會，也可以為無法就業的大多數人帶來***的痛苦，這取決于人工生產的財富如何被征稅和分享。

[[202059]]

3.殺手機器人并不是虛構的。我們即將在人工控制的武器上發起失控的軍備競賽，這可能會削弱當今大國的軍事力量，因為它可以讓每個人都能擁有一個裝滿錢包的廉價而便捷的暗殺機器，這其中也包括恐怖組織。人工智能研究人員對此表示反對，并希望達成一項國際人工智能武器控制條約。

4.機器沒有智商。而智力是完成復雜目標所必需的。它不能用一個數字來量化，比如智商，因為不同的有機體和機器擅長不同的事物。

5.人工智能正變得越來越廣泛。如今的人工智能主要是狹義的智能，即完成一組小目標的能力，比如下棋或駕駛，其表現有時比人類好。相比之下，人類擁有真正的智力，即完成任何目標的能力，包括學習。人工智能的最終發展目標是通用人工智能(Artificial General Intelligence：AGI)，即和人類一樣完成任何智力任務的能力。許多領先的人工智能研究人員認為，我們離AGI只有幾十年的時間。

6.人工智能可能會讓我們遠遠落后。正如英國數學家Irving J. Good在1965年所解釋的那樣：“使一個超智能的機器被定義為一臺能夠遠遠超過人類智力活動的機器，無論它多么聰明。”由于機器的設計是一種智力活動，一臺超智能機器可以設計出更好的機器。毫無疑問，這將會是一場“智力爆炸”，而人類的智慧將遠遠落在后面。因此，***款超智能機器是人類需要制造的***一項發明，前提是機器足夠溫順，能夠告訴我們如何控制它。

7.我們還遠未達到計算的極限。從我祖母出生以來，計算機的成本已經大幅下降了非常多。如果一切都變得更便宜，那么百分之一的錢就能讓你購買今年在地球上生產的所有商品和服務。摩爾定律決定了我們在二維硅晶片上移動電子的成本是多少，一旦進入這個平臺，我們就可以嘗試許多其他的硬件解決方案——例如使用三維電路，使用電子來完成我們的競標。我們仍然比物理定律的極限計算要低一百萬億倍。

8.人工智能可以幫助人類繁榮。因為人類文明的每一件事物都是智力的產物，我們用人工智能放大我們自己的智慧，有可能幫助生命像以前一樣蓬勃發展，解決我們最棘手的問題，從疾病到氣候變化等。

9.人工智能帶來了風險。好萊塢對機器變得有意識和邪惡的恐懼是一種轉移注意力的行為。真正的擔憂不是惡意，而是能力。超人工智能的定義是它非常善于實現其目標，無論它們是什么，因此我們需要確保它的目標與我們的目標一致。人類一般不討厭螞蟻，但我們比它們聰明得多——所以如果我們想建一座水電站，那里有蟻丘，這對螞蟻來說簡直太糟糕了。

10.我們需要人工智能安全研究。為了確保人工智能在對社會的影響日益增強的同時，還需要更多人工智能安全的研究。例如，我們怎樣才能將今天漏洞百出的計算機變成我們真正信任的、強大的人工智能系統呢?如何讓機器學習、接受和保留我們的目標?

這些都是具有挑戰性的問題，可能需要幾十年才能回答，所以我們現在應該開始一項研究，以確保我們在需要的時候能找到答案。但相對于花費數十億美元使人工智能更加強大，迄今各國政府幾乎沒有資金用于人工智能的安全研究。