谷歌將重新開放 Gemini 生成人物圖像功能,此前因“種族描述不當”引爭議
8 月 29 日消息,北京時間 29(今)日,據彭博社報道,谷歌宣布將恢復 AI 模型 Gemini 生成人物圖像的功能,部分消費者將可以重新使用。
谷歌表示,將開始向訂閱 Gemini Advanced 套餐的英語用戶推出生成人物圖像功能。企業也將能夠使用該工具,該功能將在未來幾天內上線。
谷歌產品管理高級總監戴夫?西特倫(Dave Citron)表示,該公司在通過 Imagen 3 生成人物描寫方面取得了“重大進展”。“我們一直在努力對產品進行技術改進,并改進了評估集、紅隊練習和明確的產品原則。當然,Gemini 創建的每張圖像都不可能完美無缺,但我們會繼續聽取早期訪問 Gemini Advanced 用戶的反饋意見,不斷改進?!?/p>
IT之家注:紅隊練習是指在產品進入公眾視野之前,通過模擬使用發現其潛在危害。
戴夫?西特倫表示,用戶將無法創建“逼真”的圖像、可識別的個人、未成年人的形象或“過于血腥、暴力或性的場景”。
前情提要:
今年 2 月,谷歌的圖像生成工具受到批評,因為該工具在生成人物圖像時,出現了“不符合歷史事實”的場景,包括不正確的種族描述。例如以“美國開國元勛華盛頓”為主題的圖片中,出現了婦女和有色人種。還有網友發現,“讓 Gemini 承認白人的存在難得令人尷尬”。
2 月 22 日,谷歌宣布將暫停 Gemini 的人物圖像生成,努力解決與 Gemini 圖像生成功能相關的最新問題,并“很快”重新發布改進版本。
谷歌 DeepMind 首席執行官德米斯?哈薩比斯在 MWC 2024 的小組討論會中表示,“我們已下線 Gemini 的人像生成功能,同時正在修復問題,希望未來幾周內重新上線。”