OpenAI憲章中文版
本文檔反映了我們在過去兩年中完善的戰略,包括OpenAI內部和外部許多人的反饋。AGI的時間表仍然不確定,但我們的《憲章》將指導我們在整個人類發展過程中以人類的最大利益為出發點。
OpenAI的使命是確保通用人工智能(AGI)——我們指的是在最具經濟價值的工作中超越人類的高度自主系統——造福全人類。我們將嘗試直接建立安全有益的AGI,但如果我們的工作有助于其他人實現這一結果,我們也會認為我們的使命已經完成。為此,我們致力于以下原則:
廣泛分布的好處
我們承諾利用我們對AGI部署的任何影響力,確保其用于造福所有人,并避免使用人工智能或AGI傷害人類或過度集中權力。
我們的首要信托義務是對人類。我們預計需要調集大量資源來完成我們的使命,但我們將始終努力采取行動,最大限度地減少員工和利益相關者之間可能損害廣泛利益的利益沖突。
長期安全
我們致力于進行使AGI安全所需的研究,并推動人工智能社區廣泛采用此類研究。
我們擔心后期AGI發展成為一場沒有時間采取足夠安全預防措施的競爭性比賽。因此,如果一個價值觀一致、安全意識強的項目在我們之前接近構建AGI,我們承諾停止與該項目競爭,并開始協助該項目。我們將根據具體情況制定協議,但一個典型的觸發條件可能是“未來兩年成功的幾率甚至更大”
技術領導力
為了有效應對AGI對社會的影響,OpenAI必須處于人工智能能力的前沿——僅憑政策和安全宣傳是不夠的。
我們相信,在AGI之前,人工智能將產生廣泛的社會影響,我們將努力在與我們的使命和專業知識直接一致的領域發揮領導作用。
我們將積極與其他研究和政策機構合作;我們尋求建立一個全球社會,共同應對AGI的全球挑戰。
我們致力于提供公共產品,幫助社會走上AGI之路。如今,這包括發布我們的大部分人工智能研究,但我們預計,安全和安保問題將在未來減少我們的傳統發布,同時增加共享安全、政策和標準研究的重要性。