記者調(diào)查AI復(fù)活逝者現(xiàn)象

　　用AI復(fù)活親人音容笑貌還需完善規(guī)則體系

　　□ 本報(bào)記者 　 趙 　麗

　　□ 本報(bào)實(shí)習(xí)生 李紀(jì)凡

　　“只需要52.1元，就能還原逝去親人的容貌并和ta聊天。”生成式AI技術(shù)的發(fā)展浪潮之下，與逝去的親人“再見(jiàn)一面”似乎日漸成為可能。

　　《法治日?qǐng)?bào)》記者近日調(diào)查發(fā)現(xiàn)，用AI“復(fù)活”逝去的人，已經(jīng)發(fā)展成了一門(mén)生意。在一些電商平臺(tái)上，有不少做AI“復(fù)活”生意的商家。在某電商平臺(tái)，AI“復(fù)活”的商品標(biāo)價(jià)從幾元、幾十元到上百元乃至數(shù)千元。與此同時(shí)，近年來(lái)，AI換聲、AI換臉等詐騙手段也越來(lái)越高級(jí)，欺騙用戶(hù)的情感和錢(qián)財(cái)。

　　受訪專(zhuān)家建議，AI“復(fù)活”技術(shù)者服務(wù)前，應(yīng)明確要求用戶(hù)相關(guān)證明，并加強(qiáng)技術(shù)防范，避免AI產(chǎn)品侵犯他人合法權(quán)益或被用于欺詐等不法行為。相關(guān)部門(mén)要加強(qiáng)監(jiān)管，推動(dòng)建立行業(yè)標(biāo)準(zhǔn)，既保證技術(shù)創(chuàng)新，也要保障人類(lèi)的價(jià)值和尊嚴(yán)。

　　做AI復(fù)活生意商家紛紛問(wèn)世

　　對(duì)于突然失去父親的云南人柳芳(化名)來(lái)說(shuō)，身在異鄉(xiāng)沒(méi)有見(jiàn)到父親最后一面是人生最大的遺憾。回到家鄉(xiāng)，辦完父親的身后事，看到父親曾經(jīng)坐過(guò)的沙發(fā)，或是無(wú)意中點(diǎn)開(kāi)和父親的微信聊天框……她的眼淚就會(huì)止不住地流下來(lái)。

　　“他在彌留之際想和我說(shuō)什嗎?是不是還會(huì)叮囑我好好吃飯?不要和丈夫鬧脾氣?”難過(guò)時(shí)，柳芳總是把自己關(guān)在房間里，一遍遍地翻看自己和父親的聊天記錄。

　　直到在短視頻平臺(tái)上刷到有商家AI“復(fù)活”親人的服務(wù)，柳芳像抓到了救命稻草一般，很快下了單。“我很想再看到我父親，即便知道那是不真實(shí)的，但我還是很渴望聽(tīng)到父親對(duì)我說(shuō)話，聽(tīng)一聽(tīng)他的叮囑”。

　　支付200多元并了父親生前的錄音和照片，還有她希望聽(tīng)到父親說(shuō)的話，柳芳收到一段短視頻。視頻里，父親微笑著對(duì)她說(shuō)著話，短短幾十秒，柳芳看了幾十遍。

　　所謂AI“復(fù)活”逝者，即利用人工智能技術(shù)，將逝去親人的文字描述、圖片、視頻和聲音資料輸入AI算法模型，從而模擬生成一個(gè)數(shù)字形象，具備逝者的性格、記憶、圖像、視頻和聲音。

　　在數(shù)字“復(fù)活”領(lǐng)域工作的陳亮(化名)介紹說(shuō)，他們的產(chǎn)品主要分為兩種。一種是以視頻為媒介，通過(guò)逝者的照片和聲音，創(chuàng)作生日祝?；虬参康囊曨l。另一種是開(kāi)發(fā)一款可對(duì)話的聊天機(jī)器人，這款機(jī)器人不僅具備逝者的聲音和外貌特征，還能模擬客戶(hù)親人的性格和記憶，與用戶(hù)進(jìn)行對(duì)話，為客戶(hù)個(gè)性化的體驗(yàn)。這些不同形式的產(chǎn)品對(duì)應(yīng)的價(jià)格從52.1元到521元不等。

　　記者注意到，在一些電商平臺(tái)上，也有不少做AI“復(fù)活”生意的商家。在某電商平臺(tái)，這些AI“復(fù)活”的商品，標(biāo)價(jià)從幾元、幾十元到上百元乃至數(shù)千元。

　　記者咨詢(xún)了其中一戶(hù)商家，其店鋪中共有3款商品，分別是創(chuàng)意AI修復(fù)親人“復(fù)活”照相、AI配音仿真模擬定制專(zhuān)屬、AI代唱翻唱歌手聲音克隆，3款商品標(biāo)價(jià)均為10元。

　　還有商家告訴記者，商品具體價(jià)格要根據(jù)照片和要求來(lái)定，如果只是讓照片里的人動(dòng)起來(lái)，只需要正面照片，成片是10秒左右。如果想要讓照片里的人說(shuō)話，需要正面照片和音頻，價(jià)格根據(jù)視頻時(shí)長(zhǎng)確定。如果沒(méi)有音頻，則文字內(nèi)容，商家給配普通話聲音。

　　至于記者提到的“可以實(shí)時(shí)互動(dòng)的”AI商品，咨詢(xún)的某電商平臺(tái)10戶(hù)商家都表示做不了。有商家解釋說(shuō)，要實(shí)現(xiàn)實(shí)時(shí)互動(dòng)，需要用AI訓(xùn)練，這不是一個(gè)軟件就能做到的。

　　AI復(fù)活面臨技術(shù)限制等挑戰(zhàn)

　　一直以來(lái)，AI“復(fù)活”都是一個(gè)備受爭(zhēng)議的話題。

　　有觀點(diǎn)認(rèn)為，在生成式AI技術(shù)的加持下，和逝去的親人“再見(jiàn)一面”成為可能，彌補(bǔ)了情感的缺憾。

　　也有觀點(diǎn)認(rèn)為，這樣的做法沒(méi)有意義，人沒(méi)了就是沒(méi)了，這只會(huì)讓自己更難走出失去親人的痛苦。

　　還有人質(zhì)疑，用逝者生前影像樣本克隆出來(lái)的“親人”，還是我們認(rèn)識(shí)的那個(gè)人嗎?

　　記者注意到，在國(guó)內(nèi)，像陳亮這樣的制作團(tuán)隊(duì)并不少見(jiàn)，一些公司加快涉足AI“復(fù)活”親人的領(lǐng)域，如地處江蘇省南京市的某AI技術(shù)團(tuán)隊(duì)，在半年多時(shí)間里幫助600多個(gè)家庭實(shí)現(xiàn)“在線團(tuán)圓”，平均一單的費(fèi)用從幾千元到1萬(wàn)元不等。

　　即使如此，陳亮告訴記者，團(tuán)隊(duì)在實(shí)操過(guò)程中遭遇多方面的挑戰(zhàn)。例如，技術(shù)上的限制就是一大挑戰(zhàn)，聲音克隆需要清晰的聲音文件，而目前的算法主要支持普通話，對(duì)方言和口音的支持較為有限。

　　“由于逝者大多年齡較大，他們生前留下的聲音文件并不多，這限制了產(chǎn)品的擴(kuò)展和適用范圍。同時(shí)，人們對(duì)于通過(guò)輸入文字與逝者的數(shù)字形象對(duì)話的模式也持觀望態(tài)度，并非所有人都愿意嘗試或信任這種創(chuàng)新。”陳亮說(shuō)。

　　“完成和未完成的比例大概在3：2。”用AI技術(shù)幫助顧客“復(fù)活”已故親人的超級(jí)頭腦工作室負(fù)責(zé)人張澤偉透露，無(wú)法服務(wù)的原因有多種：委托人素材過(guò)少、家中有人反對(duì)等。

　　在中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧看來(lái)，為保障逝者的人格權(quán)益，制作方只有經(jīng)過(guò)逝者繼承人的同意才能進(jìn)行相關(guān)“復(fù)活”操作。同時(shí)，制作方在利用AI技術(shù)數(shù)字“復(fù)活”逝者后，還需要承擔(dān)一些法律責(zé)任，“比如說(shuō)制作出來(lái)的形象與實(shí)際偏差太大，對(duì)用戶(hù)逝去親人的形象造成一定扭曲，就有可能侵害逝者的名譽(yù)權(quán)、肖像權(quán)等相關(guān)權(quán)益”。

　　北京嘉維律師事務(wù)所律師趙占領(lǐng)提到，雖然已故人士不再具備隱私權(quán)，但逝者的近親屬仍需保護(hù)死者的隱私權(quán)益和肖像權(quán)益。“如果出現(xiàn)泄露隱私或損害名譽(yù)的情況，逝者的近親屬有權(quán)提起訴訟”。

　　陳亮告訴記者，當(dāng)用戶(hù)表達(dá)希望制作逝者數(shù)字人時(shí)，制作團(tuán)隊(duì)會(huì)要求有消費(fèi)意愿的用戶(hù)證明與逝者的關(guān)系并逝者已經(jīng)去世的相關(guān)證明，以防有不良企圖者將生成產(chǎn)品用于欺詐等不法行為。

　　陳亮說(shuō)，此外，為了實(shí)現(xiàn)AI數(shù)字人與用戶(hù)的深度對(duì)話，此類(lèi)制作團(tuán)隊(duì)一般會(huì)將自身產(chǎn)品接入大型模型系統(tǒng)，由大型模型系統(tǒng)作為數(shù)據(jù)庫(kù)語(yǔ)料支持，“在這個(gè)過(guò)程中，我的制作團(tuán)隊(duì)會(huì)去除一些敏感詞匯，以防止不法用戶(hù)通過(guò)視頻操控?cái)?shù)字人，誘導(dǎo)數(shù)字人向親友提問(wèn)類(lèi)似銀行卡密碼等隱私信息。只要存在這種可能性，數(shù)字人就會(huì)重新啟動(dòng)系統(tǒng)，從而解決潛在的欺詐問(wèn)題”。

　　目前缺專(zhuān)門(mén)法律法規(guī)予以規(guī)制

　　調(diào)查中，受訪業(yè)內(nèi)人士透露，作為生成式AI技術(shù)落地應(yīng)用的一個(gè)細(xì)分領(lǐng)域，正在嘗試AI“復(fù)活”逝者服務(wù)的，有初創(chuàng)團(tuán)隊(duì)，也有頭部企業(yè)。由于各種原因，這門(mén)特殊的生意，整體上還處于低調(diào)謹(jǐn)慎的探索階段。

　　對(duì)此，鄭寧也建議，想要通過(guò)AI技術(shù)“復(fù)活”自己親人的潛在受眾，選擇正規(guī)機(jī)構(gòu)是確保個(gè)人信息安全和合法權(quán)益的關(guān)鍵。

　　“簽署合同也是重要的一環(huán)，在合同中必須明確規(guī)定數(shù)字人的財(cái)產(chǎn)權(quán)等權(quán)利屬于個(gè)人而非企業(yè)。此外，合同還應(yīng)包括對(duì)違約責(zé)任的詳細(xì)規(guī)定。如果發(fā)現(xiàn)合作企業(yè)存在違法違規(guī)行為，應(yīng)及時(shí)向主管部門(mén)進(jìn)行舉報(bào)和投訴。這種舉報(bào)可以幫助維護(hù)整個(gè)行業(yè)的合法秩序，保障廣大用戶(hù)的合法權(quán)益。”鄭寧說(shuō)。

　　此外，根據(jù)2023年7月頒布的《生成式人工智能服務(wù)管理暫行辦法》，在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的，者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則;開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估，抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性;對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，提升守法意識(shí)，監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開(kāi)展標(biāo)注工作。

　　記者在調(diào)查中發(fā)現(xiàn)，購(gòu)買(mǎi)AI數(shù)字“復(fù)活”產(chǎn)品的消費(fèi)者大多并未看到有關(guān)標(biāo)注以證明產(chǎn)品由AI制作。對(duì)于《生成式人工智能服務(wù)管理暫行辦法》的相關(guān)規(guī)定，許多消費(fèi)者并不了解。

　　對(duì)此，趙占領(lǐng)指出，如果制作方使用自己研發(fā)的人工智能軟件生成產(chǎn)品并在過(guò)程中不進(jìn)行標(biāo)注，是一種違法行為。如果使用其他人工智能軟件生成的產(chǎn)品上標(biāo)注了相關(guān)信息，但制作方通過(guò)技術(shù)手段將其去除，是否符合法律規(guī)定則尚待商榷。目前，雖然人工智能技術(shù)在我國(guó)興起的時(shí)間不長(zhǎng)，《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定的出臺(tái)相對(duì)及時(shí)，但對(duì)于數(shù)字“復(fù)活”等技術(shù)，目前尚未有專(zhuān)門(mén)的法律法規(guī)，可能需要在未來(lái)出現(xiàn)問(wèn)題時(shí)逐步進(jìn)行規(guī)范。

　　作為從業(yè)者，陳亮也希望未來(lái)運(yùn)用數(shù)字“復(fù)活”技術(shù)需要有關(guān)部門(mén)發(fā)布資質(zhì)牌照，由有關(guān)部門(mén)加強(qiáng)監(jiān)督管理，讓市場(chǎng)參與者更加放心。

　　“立法通常是滯后的，尤其在新技術(shù)領(lǐng)域。”鄭寧說(shuō)，期望通過(guò)出現(xiàn)新問(wèn)題就進(jìn)行立法或修法往往難以解決問(wèn)題，底線問(wèn)題必須通過(guò)立法解決，除此之外可以通過(guò)“軟法”比如行業(yè)標(biāo)準(zhǔn)、企業(yè)自律行為等，在實(shí)際操作中發(fā)揮規(guī)范作用，“在數(shù)字‘復(fù)活’領(lǐng)域，行業(yè)協(xié)會(huì)可以牽頭制定倫理標(biāo)準(zhǔn)，企業(yè)和從業(yè)者遵循這些標(biāo)準(zhǔn)，有助于解決問(wèn)題”。

　　“任何詐騙或侵權(quán)的違法事件，都有具體的施害者，把握核心事實(shí)，運(yùn)用現(xiàn)有的法律規(guī)則予以追究。在此過(guò)程，AI其實(shí)只是工具。”在鄭寧看來(lái)，總體而言，科技發(fā)展的邊界應(yīng)該在維護(hù)社會(huì)法治、保護(hù)個(gè)人權(quán)益和確保倫理底線的前提下進(jìn)行。數(shù)字“復(fù)活”技術(shù)的推廣需要更多的監(jiān)管和規(guī)范，既保證技術(shù)的創(chuàng)新，也要保障人類(lèi)的價(jià)值和尊嚴(yán)。

　　受訪專(zhuān)家認(rèn)為，針對(duì)數(shù)字“復(fù)活”技術(shù)的使用，現(xiàn)有法律難以規(guī)制的，可通過(guò)不斷“打補(bǔ)丁”的方式出臺(tái)新規(guī)則，逐漸完善規(guī)制數(shù)字“復(fù)活”技術(shù)的規(guī)范體系。與專(zhuān)門(mén)、系統(tǒng)立法相比，這種漸進(jìn)式規(guī)則完善方式，可以給這一新領(lǐng)域的發(fā)展留出足夠空間。