每經(jīng)編輯｜杜宇    

據(jù)央視財(cái)經(jīng)，當(dāng)?shù)貢r(shí)間11月6日，美國(guó)著名投資人巴菲特執(zhí)掌的伯克希爾-哈撒韋公司發(fā)表聲明，緊急澄清視頻平臺(tái)優(yōu)兔上傳播的幾段關(guān)于巴菲特發(fā)表評(píng)論的視頻，是用人工智能偽造的“欺詐性視頻”，并非巴菲特本人錄制。

圖片來(lái)源：央視財(cái)經(jīng)

6日，伯克希爾-哈撒韋公司在其網(wǎng)站上發(fā)表聲明稱，巴菲特注意到，優(yōu)兔上傳播著幾段關(guān)于巴菲特發(fā)表評(píng)論的視頻，并配有偽造圖像或人工智能生成的圖像。一般來(lái)說(shuō)，這類視頻圖像可能看起來(lái)像是巴菲特，但模仿者聲音單調(diào)，顯然不是巴菲特的聲音。巴菲特?fù)?dān)心，這類欺詐性視頻正在成為一種蔓延的病毒。因?yàn)椋皇煜ぐ头铺氐娜丝赡軙?huì)認(rèn)為這些視頻是真的，并被這些視頻的內(nèi)容誤導(dǎo)。自5月伯克希爾股東大會(huì)以來(lái)，巴菲特很少公開(kāi)發(fā)表評(píng)論。

出生于1930年的巴菲特，是全球著名的投資家。1957年，他成立巴菲特投資俱樂(lè)部，后于1965年收購(gòu)瀕臨破產(chǎn)的紡織企業(yè)伯克希爾-哈撒韋公司，并通過(guò)卓越的投資決策，將其逐步轉(zhuǎn)變?yōu)槿蜃罹邇r(jià)值的投資控股集團(tuán)之一。

如今，利用生成式人工智能制造的虛假圖片、音頻和視頻信息等“深度偽造”內(nèi)容正在快速傳播，被用來(lái)騷擾他人、詐騙金錢，甚至干擾選舉。業(yè)內(nèi)分析人士指出，如何預(yù)防和阻止“深度偽造”內(nèi)容誤導(dǎo)大眾，已成為擺在各國(guó)政府和科技巨頭面前的難題。美國(guó)目前在聯(lián)邦層面沒(méi)有旨在控制人工智能風(fēng)險(xiǎn)的法規(guī)。上個(gè)月，加州州長(zhǎng)紐森簽署一項(xiàng)監(jiān)管人工智能聊天機(jī)器人的法案，要求聊天機(jī)器人運(yùn)營(yíng)商在用戶與人工智能聊天機(jī)器人互動(dòng)方面提供“關(guān)鍵”保護(hù)措施，如確保聊天機(jī)器人不與未成年人或其他弱勢(shì)群體談?wù)撟詺⒌仍掝}。

圖片來(lái)源：視覺(jué)中國(guó)

事實(shí)上，不只是巴菲特這樣的投資大師深受AI偽造視頻之苦。在國(guó)內(nèi)，也有不少學(xué)者、名人等成為AI假視頻的受害者。

今年3月，據(jù)央視財(cái)經(jīng)報(bào)道，網(wǎng)絡(luò)上曾出現(xiàn)中國(guó)工程院院士張伯禮為某美白護(hù)膚品做宣傳的視頻。但張伯禮本人表示，這些內(nèi)容全是假的，“我從來(lái)沒(méi)用過(guò)這個(gè)護(hù)膚品，我也沒(méi)做過(guò)這方面的宣傳，更沒(méi)研究過(guò)，所以里邊完全是編造的?！?/p>

據(jù)界面新聞，近日，演員溫崢嶸被AI盜播帶貨的新聞受到諸多關(guān)注。她自曝刷到AI盜播自己的直播間，上前質(zhì)問(wèn)竟被拉黑，以至于“我現(xiàn)在很難證明我是我?！?/p>

對(duì)此，抖音集團(tuán)副總裁李亮11月6日在社交平臺(tái)發(fā)文稱，經(jīng)核查后發(fā)現(xiàn)，被曝光的“三個(gè)直播間同時(shí)開(kāi)播”案例并非發(fā)生在抖音平臺(tái)。經(jīng)過(guò)與相關(guān)方聯(lián)系，并根據(jù)投訴線索核查，發(fā)現(xiàn)平臺(tái)上確實(shí)存在一些利用AI仿冒名人帶貨的短視頻內(nèi)容。

李亮還表示，這類AI侵權(quán)仿冒行為，嚴(yán)重?fù)p害了創(chuàng)作者、商家及平臺(tái)在消費(fèi)者心中的信譽(yù)，不符合平臺(tái)的長(zhǎng)期利益，平臺(tái)非常重視并開(kāi)展專項(xiàng)治理工作。AI內(nèi)容侵權(quán)識(shí)別是行業(yè)性技術(shù)難題，惡意仿冒賬號(hào)也在不斷與平臺(tái)進(jìn)行技術(shù)對(duì)抗，公司會(huì)持續(xù)加大投入應(yīng)對(duì)挑戰(zhàn)，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。

面對(duì)亂象，中央網(wǎng)信辦于今年6月啟動(dòng)了“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)第二階段工作，重點(diǎn)整治7類突出問(wèn)題，包括利用AI制作發(fā)布色情低俗內(nèi)容，利用AI假冒他人實(shí)施侵權(quán)違法行為。

我國(guó)已有多部法律法規(guī)對(duì)AI內(nèi)容規(guī)范做出了要求，例如，網(wǎng)絡(luò)安全法第22條和《生成式人工智能服務(wù)管理暫行辦法》第9條及第11條對(duì)個(gè)人信息保護(hù)作出了明確要求；《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第6條禁止任何組織和個(gè)人利用深度合成服務(wù)侵犯他人合法權(quán)益等，第10條要求深度合成服務(wù)提供者必須采取技術(shù)或人工方式，對(duì)輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。

9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》則對(duì)標(biāo)注進(jìn)行了更加清晰的指引。該辦法強(qiáng)調(diào)，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿生成合成內(nèi)容標(biāo)識(shí)，不得通過(guò)不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

每日經(jīng)濟(jì)新聞綜合央視財(cái)經(jīng)、界面新聞、公開(kāi)資料

封面圖片來(lái)源：央視財(cái)經(jīng)