12 月 23 日消息，近年來，人工智能（AI）技術(shù)的快速發(fā)展為社會(huì)帶來了諸多便利，但也伴隨著安全隱患。據(jù)IT之家了解，其中深度偽造技術(shù)就帶來了不小的隱患，其生成高度逼真但并非真實(shí)的視頻或圖像的能力，已經(jīng)引發(fā)了一系列社會(huì)問題。

據(jù)央視新聞報(bào)道，今年以來，利用 AI 深度偽造假冒名人的案例層出不窮。例如，不久前就有不法分子通過 AI 技術(shù)偽造張文宏醫(yī)生的面部和聲音，用于直播帶貨，賣出 1200 多件蛋白棒產(chǎn)品。

此外，名人劉德華和企業(yè)家雷軍也成為 AI 偽造的目標(biāo)。劉德華的聲音被惡意用于增加短視頻流量，其電影公司也多次發(fā)布聲明以警示公眾。

專家指出，目前的 AI 技術(shù)可以通過深度學(xué)習(xí)輕松克隆他人面部和聲音，甚至只需一張照片和一段語音樣本即可完成。然而，這種技術(shù)并非毫無破綻。例如，偽造視頻通常無法實(shí)時(shí)直播，同時(shí)在臉部輪廓和背景融合度等細(xì)節(jié)上存在缺陷。觀眾通過仔細(xì)觀察可發(fā)現(xiàn)破綻，尤其是在口型和語音匹配度方面。

專家表示，未經(jīng)授權(quán)使用他人形象或聲音屬于侵權(quán)行為，根據(jù)《民法典》和《網(wǎng)絡(luò)安全法》，發(fā)布者可能面臨包括損害賠償和刑事責(zé)任在內(nèi)的處罰。同時(shí)，消費(fèi)者如因 AI 假冒名人帶貨受騙，可依據(jù)消費(fèi)者權(quán)益保護(hù)法要求“退一賠三”。

專家還呼吁短視頻平臺(tái)承擔(dān)主體責(zé)任，及時(shí)下架違規(guī)內(nèi)容，并對發(fā)布者采取信用管理和處罰措施。