大模型廠商密集發力,谷歌也開“卷”了:Gemini聊天機器人換上新模型,還能一鍵核查輸出內容
Meta、OpenAI等大模型廠商密集發力之際,谷歌也宣布了一項重磅更新——
即日起,Gemini聊天機器人將改由Gemini 1.5 Flash驅動。
與之前的版本相比,窗口長度提高到了4倍,響應速度也更快了。
按照谷歌的介紹,新版聊天機器人背后的1.5 Flash模型,主打的就是輕量化和速度提升。
當然模型回復的質量也有提升,上下文窗口也從原先(基于1.0 Pro)的8k提升到了32k。
此外新版聊天機器人還增加了“事實核查”功能,可以一鍵檢測生成的內容是否屬實,減輕模型幻覺帶來的不良影響。
有網友感嘆,谷歌今天表現真的很強,先是兩款Aplha系模型(拿下了IMO銀牌),接著Gemini也發布了更新。
還有人開啟了許愿模式,期待Google Scholar學術搜索當中也能加入AI功能。
更長上下文窗口,速度也變快了
本次更新的最主要內容,就是把免費版背后的模型從1.0Pro換成了1.5 Flash。
Gemini 1.5 Flash最早亮相于5月的谷歌I/O開發者大會。
通過訓練數據的“蒸餾”,Gemini 1.5 Flash用更輕量化的體積實現了較高的生成質量。
而且小體積也讓模型的速度更快、效率更高,同時它還支持多模態推理。
谷歌介紹,此次更換模型之后,聊天機器人的速度會變得更快,同時舊版8k的上下文窗口,擴增到了32k。
不過1.5 Flash自身是支持1百萬的上下文的,這樣的削減幅度屬實是不小,但畢竟是免費免費版本。
除了模型的升級,另外一項重要更新就是事實核查功能了。
在最新的Gemini聊天機器人當中,可以通過該功能一鍵對輸出的內容進行檢查。
系統會針對輸出中的內容在谷歌上進行搜索和比對,然后標記出相符和不符之處。
有網友評論說,看到OpenAI上線GPT-4o mini時就覺得谷歌上新只是個時間問題。
的確,不僅是OpenAI和谷歌,Meta、Mistral等在做大模型的廠商最近都是動作頻繁。
而關于模型的表現,這位網友也表示自己試過1.0 Pro和1.5 Flash,兩者表現幾乎相同,而1.5 Flash速度更快。
所以,谷歌的這波操作,一定程度上也是適應了最近興起的“模型輕量化”趨勢。
那么,更換了1.5 Flash之后的Gemini聊天機器人,表現到底怎樣呢?
一鍵檢查模型輸出
量子位對新版的聊天機器人進行了簡單測試。
首先來看一下這次更新的事實核查功能,第一步是像正常對話一樣隨便提一個問題,Gemini也會正常作答。
可以看到在答案的下方有一個谷歌的logo,這就是事實核查功能的按鈕了。
點擊之后系統會自動在谷歌進行搜索,然后與自己的輸出內容進行比對。
比對完成后,能夠搜索到信源且相符的內容會被高亮為綠色,如果與搜索結果存在出入,則會以淺紅底色標注。
點擊標注的位置,可以看到Gemini用于對比的內容鏈接。
需要注意的是,這樣的標注并不意味著輸出的內容是錯誤的,比如這里引用的對比資料中,湯姆克魯斯的母親是Marry Lee South。
由于文本不匹配,導致答案中這一部分被系統標注,但實際上兩個都是正確答案。
由于這個事實核查依靠的是互聯網搜索,對比資料的質量也是參差不齊,不一定能做到100%的準確。
比如關于“林黛玉倒拔垂楊柳”這個經典段子,Gemini明明給出了正確答案,結果卻被標紅了。
再一看引用的對比信息,屬實是有些難繃了。
所以這個功能的作用,主要是提供了一個更便捷的核查途徑,但具體應當如何采信,還是要依靠多方查證,以及用戶自己的判斷。
另外,關于模型本身,我們也測試了幾個最近流行的讓大模型屢屢碰壁的難題。
比如數字比大小,Gemini甚至把兩個數字換算成了錢,但一通操作之后最后的結果是……錯的。
自從這個問題被發現以來,如果這個是第二搞笑的答案的話,應該沒有哪個模型敢稱第一了。
還有一開始給了個錯誤答案,后面分析過程中糾正過來的。
但如果用英語提問,還是有希望直接答對的。
還有數字母的問題,這個回答竟然能從中文里數出字母來……也是把人給整不會了,完全不在預判之內。
最后,關于此次更新中提到的速度提升,經測試發現,Gemini 1.5 Flash輸出第一個字的耗時要短于Claude 3 Haiku,后續的速度用肉眼觀察區別不是很明顯。
以上就是Gemini 1.5 Flash在聊天機器人中的表現,感興趣的讀者可以自行嘗試。
參考鏈接:
[1]https://blog.google/products/gemini/google-gemini-new-features-july-2024/
[2]https://x.com/GeminiApp/status/1816512086232731696