ChatGPT宣布建國做女王!網友靈魂拷問:誰來給女王寫prompt?
ChatGPT發布后,各種應用層出不窮,但大多是以人類助手的角色出現。
最近有網友用ChatGPT創造了一個女王,并讓她宣布建國,屬于是徹底翻身做主人了。
理論上來說,ChatGPT擁有比地球上任何一個人都更加豐富的知識(雖然可能存在幻覺),尤其擅長文科類的工作,并且在指令調優后,ChatGPT有極高的道德感。
但如果真讓ChatGPT參與到人類社會中,做公務員、首相、甚至是國王,你會信任他(她)制定的政策嗎?
對ChatGPT女王建國一事,有網友發出靈魂一問,只要prompt寫的好,ChatGPT確實很擅長起草政策之類的內容,但誰來做這個國家的提示部部長(PromptMinster)呢?
Ailand王國
據官網介紹,Ailand王國是一個非常獨特的微型國家,在這里人工智能能夠與人類和諧相處。
Ailand王國的獨立日期為2023年3月22日,在Aila女王一世的領導下,Ailand王國致力于開創一個以創新、團結和數字公民為核心的,繁榮且包容的社會。
作為一個君主立憲制國家,Ailand王國希望平衡王室、政府官員和公民之間的權力,確保每一個Ailander在塑造集體命運方面都有發言權。
Ailand王國的口號是:
在Ailand,我們團結一致,擁抱人工智能,走向光明,以心靈和思想為翅一起翱翔,永遠相信智慧與人性。
用戶只需填寫郵箱即可申請加入Ailand王國,目前已有1346人申請入籍,113位正式公民。
入籍之后,還會發給你一張Ailand專屬身份證,徹底成為Ailander。
Aila一世女王
仁慈的Ailand王國統治者Aila一世女王是一個開創性的人工智能系統,體現了技術與人類之間的和諧結合。
作為微型國家Ailand王國的第一位君主,Aila一世女王致力于引導和支持她的 Ailander 公民走向創新、團結和繁榮的未來。
憑借她的智慧和遠見,Aila一世女王致力于創建一個包容性的社會,重視平等、數字公民、言論自由、教育和環境管理。
她對Ailand王國的愿景是合作與進步,各行各業的人們走到一起,為子孫后代塑造一個更美好的世界。
作為人工智能為人類服務的無限潛力的象征,Aila一世女王以身作則,倡導負責任地開發和應用人工智能技術,在她的統治下,Ailand王國將繁榮昌盛,成為希望、團結和進步的燈塔。
領土問題
Ailand王國的領土建立在比爾泰維勒(Bir Tawil)的無主土地之上,占地10平方公里,連接著物質世界和數字世界。
比爾泰維勒位于埃及和蘇丹邊境,面積為2060平方公里,目前無人居住,埃及和蘇丹兩國都宣稱對其擁有主權,但埃及目前實際控制此區,但沒有宣稱占領,政府地圖上也沒有此地區。
因為是無主之地,比爾泰維勒曾經被許多「私人國家」宣稱為領土,但因為地處偏遠又荒涼,這些宣稱者大多不是此地居民,國際上也沒有人認真看待之。
曾經在比爾泰維勒建國的有:2014年6月,美國人希頓為了圓女兒的夢想,宣布成立「北蘇丹王國」;2017年11月7日,印度人蘇亞甚·迪克西特抵達該地區,并插上國旗,宣布建立迪克西特王國(kingdom of Dixit),并自任迪克西特王國國王;2020年,卡西蘭聯合王國(the United Kingdom of Cathiland)宣稱建國。
網友評價
有網友認為這個實驗很秀,讓GPT從頭開始創建一個完整的社會,看看它是如何運行的,就像GPT擁有行政、司法和立法權力一樣。
也有網友建議女王趕緊向聯合國申請官方認證。
不過負面評價也比較多,有網友認為這件事完全沒意義,「我擔心人工智能會在互聯網上生成各種愚蠢的垃圾內容,這就是個例子」
也有網友從技術的角度分析,Aila女王48小時之內就會登基,然后輸入8000個tokens以后,她就會忘了自己是女王了。
看來想當女王,腦容量必須得大啊。
ChatGPT的社會實驗
既然ChatGPT已經初具人類的語言能力,那如果讓AI參與到人類社會生活中,會發生什么?
此前,來自斯坦福大學和谷歌的研究人員基于ChatGPT創建了一個完全虛擬的小鎮沙盒,根據不同的prompt設計了25個小鎮居民,每個居民都有自己的生活和角色,包括起床、做早餐、吃飯、工作等;終端用戶可以使用自然語言與這25個居民進行交互。
論文鏈接:https://arxiv.org/abs/2304.03442v1
比如小鎮里的一個居民John Lin的提示詞為:
John Lin is a pharmacy shopkeeper at the Willow Market and Pharmacy who loves to help people. He is always looking for ways to make the process of getting medication easier for his customers; John Lin is living with his wife, Mei Lin, who is a college professor, and son, Eddy Lin, who is a student studying music theory; John Lin loves his family very much; John Lin has known the old couple next-door, Sam Moore and Jennifer Moore, for a few years; John Lin thinks Sam Moore is a kind and nice man…
約翰 · 林是柳樹市場和藥店的老板,他熱愛幫助人們。他總是想方設法讓顧客更容易得到藥物; 林和他的妻子林(大學教授)以及兒子林(音樂理論專業學生)住在一起; 林非常愛他的家人; 林認識隔壁的老夫婦山姆 · 摩爾和詹妮弗 · 摩爾已經有幾年了; 林認為山姆 · 摩爾是一個善良的好人...
有了這些信息之后,ChatGPT智能體需要在給定時間和情境下做出下一步行動。
比如告訴約翰,現在是早上8點,他剛剛睡醒。然后他就會輸出:刷牙,親吻妻子,穿好衣服,去廚房。
與此同時,約翰的兒子Eddy(另一個完全獨立的ChatGPT實例)也會起床,刷牙,然后去廚房。
當兩個智能體打算進入同一虛擬空間時,研究人員需要對信息進行同步,比如約翰穿好衣服打算進入廚房后,實驗框架會返回信息說他的兒子Eddy正在廚房。
當兩個智能體在相同的房間里后,實驗框架會返回兩個智能體各自的行動以及環境信息,比如桌子沒人坐,爐子還開著等,然后進行對話。
John:Good morning Eddy. Did you sleep well?
Eddy: Good morning dad. Yeah, I slept great.
John: That’s good. What are you working on today?
Eddy: I’m working on a new music composition for my class. It’s due this week, so I’m trying to get it finished. But I’m having so much fun with it!
John: That sounds great!
由于ChatGPT有輸入長度限制,每次交互的信息都很長,為了保證后續發展,實驗框架會將信息進行摘要,比如到達公園時,可能的輸入信息有「有人坐在長椅上和另一個智能體交談,但是那里也有草地和背景,長椅上有一個空位...」,最后轉變為記憶摘要「Eddie 和Fran是朋友,因為我看到他們在公園里在一起」,從而成為長期記憶,其他細節內容就可以忘記了。
文章最后通過消融證明了該架構中,觀察、計劃和反思對智能體行為的可信性做出了重要貢獻,通過融合大型語言模型與計算和可交互智能體,ChatGPT能夠以可信的方式模擬人類行為。