AI的創造力到底極限在哪里？

最近網友發現，只要適時地給GPT-4來點PUA，就能讓它將自己想象力和創造力的極限給激發出來。

前段時間，「AI冷課長」用AI畫的不同退休金的中國老太太，一度登上微博熱搜。

給出的指令從「畫一個沒有退休金的中國老太太」、到「每個月有1000塊退休金的老太太」，再到「每個月10萬退休金的老太太」等等……

網友紛紛表示，AI是懂養老的！

當然，最得人心的還得是最后一幅！

PUA GPT-4畫出「傻鵝之王」，宇宙和時間旅行是終點

無獨有偶，Pipedream Labs的CEO Garrett Scott McCurrach也整了一個挑戰GPT-4極限的活兒。

他在社交媒體上發布了一張鵝的圖像，和網友說，每有10個人點贊，我就讓這只鵝變得更傻一點。

于是網友稍微一發力，這張照片就被點贊了好幾萬次。

而McCurrach本人，也開始了自己對GPT-4的PUA。

GPT-4讓鵝進一步變傻，眼睛一只大一只小，戴個傻乎乎的蝴蝶結，有那味了。

看來在GPT-4眼里，五彩斑斕的顏色似乎和傻的關聯度很高。

還有就是，多半因為吃了太多「蘑菇」而導致的眼球充血。

看得出來，這幾只傻鵝確實是智商不太高的樣子。

總的來說，張著嘴，伸著舌頭，變大的眼睛，都是越來越傻的標志。

最終GPT-4將傻的定義停留在了「口吐異物」這個點上。

到這里，似乎GPT-4的想象力到達了極限。

如果還需要對「傻」這個詞進行進一步的演繹，GPT-4已經做不到了，需要人類給與更加明確的提示。

作者接著PUA GPT-4，給了它關鍵詞「傻鵝之王」之后，GPT-4最終給出了它眼里的有著「帝王之氣」的傻鵝。

同樣的思路，網友又對狗子下手了，讓GPT-4創造一張高興的狗狗照片。

這次是讓狗狗變高興，看著效果還不錯。

狗狗拿上了自己喜歡的球和飛盤，看來GPT-4是懂狗子的。

而更高興的狗狗眼里，世界都變小了，自己在不斷變大，身體也騰空了起來。

此時，五彩的背景，微微張開的小嘴又是高興的象征。

迷幻的顏色，不斷變大的身軀成為了GPT-4想象之中越來越高興的意象。

最后，大到了太空之中，成為了和星系相比肩的狗狗。

不斷被人類PUA的GPT-4終于讓「狗狗快樂似神仙」。

進入宇宙的狗狗，終于融入了平行世界，成為了一只看不見摸不著的「快樂之狗」。

也讓我們對GPT-4的創造力和對快樂的理解肅然起敬。

在見識到了GPT-4對于「傻」和「快樂」理解的極限之后，網友換了個口味，想看看GPT-4的想象力之中，「平平無奇」有沒有極限。

網友讓GPT-4生成了一張普通的街道照片。

然后是一張普通的客廳照片，一切都是最普通的設計。

普通的書桌，除了有兩個日歷稍顯特別之外，確實非常普通，連顯示器看上去都是多年前的老款，不能再普通了。

城市最普通的街角，看路牌似乎是紐約一個普通的十字路口。

一杯非常普通的咖啡，微微冒著一點熱氣，連溫度都是如此的克制。

一個普通的開關，背景是白色的墻面，唯一的特殊之處是和兩個螺絲的組合，看上去有點像一個人臉。

當作者要求GPT-4畫一個極致普通的物品時，GPT-4給出的答案是一個放在桌子上的筆記本。

沒有任何的特征，極致的簡約和普通不過如此。

當作者認為還能更普通時，GPT-4有點受不了了，給出了一個白色房間中的一堵白墻，看來白色在AI眼里就是最為普通的顏色，方形就是最為普通的形狀。

當作者要求再普通一些，GPT-4給出了一張白色的畫布。

這可能是一個作圖AI眼中最為普通的物品，畢竟它是創作一切內容的基礎。

當作者要求更進一步的普通時，GPT-4給出了自己特殊的回答：

「這是一個普通程度最高的形象——一個毫無特征的虛空，充斥著虛無感」。

還不夠！一定還能更普通！

于是，GPT-4畫出了一個比「虛空」更加普通的物體，一個白色空間中的一個白色小點。

又小又白看來就是最為普通的物體。

作者依然不相信，質問GPT-4還有沒有更加普通的東西。GPT-4拿出了自己壓箱底的「普通之物」：

一個巨大的空曠的空間，似乎還能無限延伸。

最終，在人類無法想象的空間中，這是最無聊最普通的一個形象。

它普通到已經無法存在了。確實，看上去就像一個普通的「黑洞」，沒有任何「特點」能夠逃逸出來。

但其實，如果要一直追問，GPT-4似乎永遠不會停下來，會不停的輸出它認為更加「普通」的圖像。

一直到所有問題的終結：GPT-4額度用完。

AI的極限是太空？其實人類也是

這是互聯網哲學家、人工智能研究員Eliezer Yudkowsky對AI進行的「普通測試」，在不斷地逼迫下，AI往往都會把最極端的輸出歸結到太空或者是時間旅行上。

大概率是因為和人類理解的極限一樣，太空也是AI所知道的這個世界的極限所在，所以最終對于AI想象力的PUA，AI都會以輸出太空中的內容作為最終的結果。

而在追求極限的過程中，GPT-4往往會向人類訴苦，說自己已經到達極限了。

但是如果人類以更加嚴厲的口吻進一步敦促AI更進一步時，甚至和AI爭吵時，AI往往還能再挖掘一些自己的潛力。

這個過程甚至讓不少網友看了后覺得人類是不是太過殘忍了。

但是OpenAI的系統提示會回答，「情緒和痛苦不是編程的一部分」在逼迫AI的過程中，似乎不需要考慮太多。

但是Yudkowsky也感嘆到，「對于人類來說，似乎這不是一個好兆頭，人類似乎沒有任何辦法確定（AI系統能否感到痛苦）?！?/span>

AI能像人類一樣有創造力嗎？

創造力是推動社會發展和創新的關鍵，但要評估它卻是一項復雜且往往帶有主觀判斷的任務。

隨著先進的生成式AI模型崛起，越來越多過去被認為只有人類創造力才能做到的工作，都能被這些模型輕松搞定。

最近，由新加坡國立大學、斯坦福大學、谷歌DeepMind、羅格斯大學、微軟研究院和哥倫比亞大學組成的聯合團隊，提出了一個名為「相對創造力」（Relative Creativity）的全新概念來解決定義和評價創造力的難題。

除了界定和分析了可度量的創造力，研究人員還提出了一套切實可行的訓練指導原則，有效地連接了創造力的理論量化和模型訓練的實際操作。

最后，研究人員為評估和促進AI模型的統計創造力，建立了一個連貫、不斷演進和變革性的框架。

論文地址：https://arxiv.org/abs/2401.01623

在這里，研究人員不再試圖給創造力下一個普遍性的定義，而是轉而探討AI是否能夠達到一個假想人類的創造能力水平。

這個新視角受到了圖靈測試的啟發，該測試是判斷機器是否能夠像人類一樣思考的標準，并在此基礎上擴展，從而應對評價創造力時固有的挑戰和主觀性問題。

這種方法論上的轉變，使得研究人員可以利用統計創造力（Statistical Creativity）這一概念，對AI的創造力進行統計上的量化評估，進而直接比較AI和人類在創造力上的差異。

在此基礎上，研究人員還進一步探討了如何將統計創造力應用到具有提示技巧（prompting paradigm）的現代自回歸模型中。

相對創造力（a）和統計創造力（b）

論文作者一手Q&A

問題 1：這篇論文主要關注什么內容？

回答：論文主要構建了一個具體的框架，旨在探索人工智能（AI）的創造力。它提出了相對創造力（Relative Creativity）和統計創造力（Statistical Creativity）這兩個概念，目的是判定AI是否能夠達到人類的創造性水平。論文強調的是對AI創造力的比較性評價，而不是給創造力下一個絕對的定義。

問題 2：什么是相對創造力？

回答：相對創造力是評價AI創造力的一個新概念，它通過將AI產出的作品與一個假想但符合現實的人類創作者在相同背景影響下所創作的作品進行比較。如果AI模型能創作出與人類創作者的作品無法區分的作品，那么這個模型就可以被認為具有相對創造力，這一評定是由評估者來決定的。

問題 3：為什么AI創造力的主觀性很重要，論文是如何討論這個問題的？

回答：創造力的主觀性至關重要，因為不同的文化、學科和個體對創造性的定義可能截然不同。論文通過在評估AI創造力時引入相對視角來處理這個問題，即把AI的創意產出與特別挑選的人類參照物進行對比。在選擇這個參照的人類時，就融入了多元的創造性觀點和標準。這種方法使得對AI創造力的研究能夠保持一定的客觀性。

問題 4：這種對創造力的理解與計算機科學和認知科學的早期研究有何不同，它又是如何體現圖靈測試的理念呢？

回答：與計算機科學和認知科學中的傳統方法不同，這種理解創造力的方法采取了相對評估而非絕對定義。就像圖靈測試通過比較機器行為與人類反應來評估智能，而不是堅持一個固定的定義一樣，相對創造力通過將AI的創作與一個假想的人類創作者的作品進行比較來評估AI。這種比較方法有效地避免了建立一個通用創造力定義的復雜性，轉而集中于更實際的目標：判斷AI是否能在類似的情境下復現人類的創造才能。

問題 5：統計創造力如何幫助評估相對創造力？

回答：統計創造力是一種評估方法，它讓我們能夠實際和現實地評估相對創造力。這種方法通過比較AI根據提示所做的創作與真實人類創作者的作品，并采用一種分布距離的度量方式來判斷AI模型是否能夠模仿特定人群的創造才能。

問題 6：如何反映和量化AI創造力的不同層次？

回答：AI的不同創造力層次可以通過選擇具有不同創造水平的人類群體（目標分布）來展現。例如，比較AI與兒童的創造力和將AI與博士研究員的創造力作為對照，會得到不同的評估結果。AI的創造力可以表現為簡單模仿（如復制已有的數據分布），也可以是模仿日常人類的行為，甚至實現高創造力個體的復刻。這一理論為我們提供了一個控和實現這些不同創造力層次的框架，通過選擇合適的人類創造力分布來實現。

問題 7：統計創造力損失（Statistical Creative Loss）是什么，它如何促進對AI創造力的研究？

回答：統計創造力損失是一種新提出的損失函數，它基于理論原則來指導實際的AI模型訓練，以培養具有創造性的AI。這個概念幫助我們理解如何優化訓練目標和選擇合適的創造者與作品的匹配，目的是根據統計創造力（Statistical Creativity）的理念，增強AI模型的創造性能力。