人工智能公司將被要求向美國政府報告安全測試
拜登政府決定實施新的人工智能規定,要求所有主要人工智能系統的開發人員向政府公開其安全測試結果。
作為這些新規定的一部分,科技公司將被要求在使用大量計算能力訓練人工智能模型時通知政府。新規定將使美國政府能夠訪問谷歌、AWS(亞馬遜網絡服務)和OpenAI等公司的敏感數據。
美國國家標準與技術研究院正在負責制定標準,以確保人工智能工具在公開發布之前是安全可靠的。此外,商務部將發布指南,對人工智能生成的內容加入水印,以明確區分真實內容和人工智能內容。
白宮人工智能特別顧問Ben Buchanan在接受采訪時表示,政府希望“在向公眾發布人工智能系統之前知道它們是安全的——總統已經非常明確地表示,公司需要達到這個標準?!?/p>
人工智能已經成為美國政府關注的主要經濟和國家安全問題。考慮到圍繞生成式人工智能的炒作,以及它在市場上帶來的投資和不確定性,這并不奇怪。
美國總統在三個月前簽署了一項雄心勃勃的行政命令,以管理快速發展的技術。行政命令中的擬議規則包括對人工智能發展的指導,包括既定的安全標準。
白宮人工智能委員會召開會議,審查行政命令取得的進展。這包括來自廣泛的美國聯邦部門和機構的高級官員。該委員會發表聲明稱,在實現保護美國人免受人工智能系統潛在危害的任務方面取得了“實質性進展”。拜登政府也在積極與歐盟等國際盟友合作,制定管理該技術的跨境規則和條例。
根據新規定,美國云公司將被要求確定其外國實體是否正在訪問美國數據中心以訓練人工智能模型。美國政府周一公布了一項“了解你的客戶(KYC)”提案。該提案將要求云計算公司核實注冊或維護使用美國云計算賬戶的外國人的身份。
新規定可能會給亞馬遜(Amazon)和谷歌(Google)等美國科技公司帶來額外壓力,這些公司需要制定一套流程,收集有關其外國客戶姓名和IP地址的詳細信息,并向聯邦政府報告任何可疑活動。這些科技公司還需要每年進行合規認證。
雖然自我報告規定可以為美國的利益提供一些保護,并鼓勵人工智能開發者更加謹慎,但目前尚不清楚政府將如何處理那些選擇不準確報告或根本不報告的人。獲取敏感數據也存在法律和道德方面的擔憂。