白宮首次公布減少 AI 風險的舉措:將撥款 1.4 億美元建立研究中心
5 月 4 日消息,人工智能(A.I.)的發展日新月異,給人類帶來了巨大的便利,也引發了各種風險和挑戰。為了應對這些風險,美國白宮周四宣布了一系列新的舉措,包括撥款 1.4 億美元(IT之家備注:當前約 9.67 億元人民幣)建立專門的 A.I.研究中心,制定政府機構使用 A.I.的指導原則,幾家人工智能公司已經同意在 8 月的一次網絡安全會議上提供他們的產品供審查。
當天下午,美國副總統哈里斯和其他政府官員還將與谷歌、微軟、OpenAI、Anthropic 等 A.I.領域的知名企業的 CEO 舉行會面,討論 A.I.的發展方向和社會責任。白宮一位高級官員周三表示,政府希望向這些企業傳達一個信息:他們有義務解決 A.I.帶來的新問題。
A.I.是指能夠模仿人類智能行為的計算機系統。近年來,隨著 OpenAI 等公司推出了能夠生成流暢文本和逼真圖像的聊天機器人(chatbot),A.I.引起了公眾的廣泛關注和使用。一些大科技公司也紛紛將聊天機器人融入他們的產品,并加速了 A.I.的研究。同時,風險投資者也大量投資于 A.I.領域的創業公司。
然而,A.I.的繁榮也帶來了諸多問題,比如如何改變經濟、影響地緣政治、防止犯罪活動等。批評人士擔心,許多 A.I.系統雖然功能強大,但卻缺乏透明度,可能導致歧視性的決策、取代人類的工作、傳播虛假信息,甚至自行違反法律。
美國總統拜登近日表示,A.I.是否危險“還有待觀察”,他任命的一些高級官員承諾,如果以有害方式使用該技術,他們將進行干預。聯邦貿易委員會主席汗在周三發表在《紐約時報》上的客座文章中說,美國正處于一個“關鍵的決策點”,她將 A.I.的最新發展比作谷歌和 Facebook 等科技巨頭的誕生,并警告說,如果沒有適當的監管,這項技術可能鞏固這些公司的權力,并給騙子提供一個強有力的工具。
白宮周四宣布的舉措是在之前監管 A.I.的努力基礎上進行的。去年,白宮發布了一份名為“A.I.權利法案”的藍圖,其中規定自動化系統應該保護用戶的數據隱私、避免歧視性結果,并明確說明采取某些行動的原因。今年 1 月,美國商務部也發布了一份旨在降低 A.I.開發風險的框架,這份框架已經籌備了多年。
聊天機器人的出現,如 OpenAI 的 ChatGPT 和谷歌的 Bard,給政府采取行動帶來了巨大的壓力。歐盟已經在商討對 A.I.的監管,但面對新的技術發展,也有人要求監管范圍擴大到更多的 A.I.系統,而不僅僅是那些被視為高風險的系統。在美國,包括參議院多數黨領袖舒默在內的一些國會議員,已經開始起草或提出立法來規范 A.I.,但限制這項技術的具體措施更有可能首先來自華盛頓的執法機構。今年 4 月,一組政府機構承諾“監督自動化系統的開發和使用,并促進負責任的創新”,同時懲罰利用該技術違反法律的行為。