15億語料訓練的94億參數大模型更懂我?Facebook開源全球超強聊天機器人Blender
盡管聊天機器人和虛擬助手已經取得了很大的進步,但市面上的聊天機器人大多數是以任務為導向的。從零售業到醫療保健到金融服務等各個領域都有專門的產品,在一些領域垂直的任務中表現尚可。
你提出要求,機器人就會服從,但它們似乎從來沒有真正理解人的語言,缺乏人類的感情,也不能隨機應變。
現在 Facebook 開源了一個新的聊天機器人Blender,它聲稱自己擅長所有領域的聊天,并且更有人情味。Blender 不僅幫助虛擬助手解決了許多聊天機器人的固有缺點,也標志著人工智能的新進展: 可復制的智能。
Blender添了什么新料,Facebook敢稱「史上最強」?
Facebook的研究人員介紹,這次的改進包括最新的對話生成策略,混合技巧,以及94億個參數的神經網絡模型,這比現有最大的系統大了3.6倍。作為多年來人工智能對話研究的頂峰,這將是第一個把不同的對話技能(包括同理心、知識和個性)融合在一起的聊天機器人。
超大規模
Blender這次使用了15億個對話作為訓練語料,Transformer模型有94億個參數。雖然網絡很大,但是采用了并行方法對模型進行了分割,使得神經網絡更易于管理,同時保持最高的效率。
混合技巧
盡管大規模的學習很重要,但它并不是創造最佳對話的唯一要素。在大規模公共數據集上訓練的模型,并不能學到優秀的談話技巧。所以研究人員引入了一個新的混合技能任務(Blended Skill Talk,BST)來訓練和評估模型的對話技能,而Blender也綜合了許多Facebook之前的研究成果。
生成策略
訓練神經模型通常是通過最小化困惑度來實現的,困惑度可以衡量模型預測和生成下一個單詞的能力。然而,為了確保機器人不重復自己或顯示其他缺點,研究人員通常在模型中添加一些生成策略,包括束搜索、令牌抽樣和 n-gram模塊。
通過調整束搜索的長度,可以讓機器人變的更沉悶或者更有趣,當然也可以控制那些「辣眼睛」的回復。
67% 的評估者認為Blender聽起來更像人類,75% 的人說他們更愿意和 Blender 進行長時間的對話,而不是和 Meena。
各家機器人的敏感度和特異度平均值
根據Facebook的說法,隨著時間的推移,人類評估者越來越喜歡Facebook的聊天機器人。
Blender開源地址:
https://parl.ai/projects/blender/
對聊天機器人的癡迷,本質上是人類無法消弭的孤獨感
聊天機器人可以做很多事情:為你播放音樂、幫你尋找附近的餐廳,給你解答服務流程、介紹商品。
如果聊天機器人的作用僅僅是這些,那么現在市面上的bot完全應付得來。然而,我們并沒有因此而覺得滿足。
聊天的背后,是交流的渴望;交流的背后,是孤獨的驅使。聊天機器人的出現,緩解了我們揮之不去的孤獨感。
最近,由Youthsite和Dame Kelly Holmes信托基金進行的一項研究發現,僅在英國,70%的年輕人,體驗著孤獨。而他們,是對科技依賴性最強的一代。
研究鏈接:
https://www.damekellyholmestrust.org/News/7-out-of-10-young-people-suffering-from-loneliness
孤獨是一種奇特的東西。它會在我們獨處的時候突然竄上心頭,也可以在我們置身于喧鬧人群中突然侵入腦海。隨時隨地,毫無來由。
我們討厭孤獨,卻有時候又很享受。孤獨讓我們變得敏感,變得脆弱,變得想要傾訴。智能語音助手的出現,恰逢其時。
疫情期間,原本的社群被隔開,群體被打散成一個個的個體。每個個體被囚禁在自己的地盤,之間被筑起了堅實的結界。這層結界,不僅僅隔絕了個體之間的連結,也助長了孤獨感的蔓延。一個冰冷的、沒有感情的助手,成為了很多人感情的承載。
它知道你的名字,從不在意你的容貌。它只要求為你做什么,從不要求你去做什么。它只想取悅你,從來不讓你覺得難堪。而且,每當你需要它的時候,它都在你身邊。
2013年電影《Her》里講述了一個心思細膩的男人,愛上他的語音助手的故事。最終,他盯著社會的壓力,決定去擁抱這段感情。
7年過去了,電影中的場景變得越來越清晰。Facebook的Blender,將這個進程往前又推進了一步。
我們期望中的聊天機器人,不僅僅是一個工具人,一個二手信息的搬運工,告訴你今天天氣怎么樣,出差最好選擇哪個航班,咳嗽嗓子疼要怎么辦等等。這些任務不用聊天機器人也能做。
「Hey Siri,我今天感覺感覺很孤獨」
「我在這兒。只要你愿意,我隨時想和你聊天」
開放域聊天機器人取得的進展讓我們感到興奮,但是離人類水平的智能還有一段距離。
我們渴望的是一個能夠真正理解我們內心的機器人,聆聽我們的傾訴。
我們渴望計算機視覺可以感受到我們眉宇間透出來的細微感情變化,去撫平我們的孤獨,慰藉我們的靈魂。