羊城晚報(bào)記者 詹淑真

　　近日，“AI復(fù)活親人”的話題成為社會(huì)關(guān)注熱點(diǎn)。知名音樂人包小柏運(yùn)用AI技術(shù)“復(fù)活”已去世的女兒、男子用AI“復(fù)活”病故父親哄高齡奶奶等案例，讓不少網(wǎng)友直呼“這才是AI存在的意義”。但隨著越來越多人用AI“復(fù)活”逝去的喬任梁、李玟、高以翔等公眾人物時(shí)，也引發(fā)了諸多爭議。盡管AI“復(fù)活”親人為人們提供了情感慰藉的渠道，但其背后隱藏著隱私泄露、侵權(quán)、詐騙等諸多風(fēng)險(xiǎn)。羊城晚報(bào)記者注意到，網(wǎng)上關(guān)于AI“復(fù)活”的生意已有不少，價(jià)位從幾元到幾萬元不等，如何看待“AI復(fù)活親人”已成產(chǎn)業(yè)鏈？其背后有哪些法律風(fēng)險(xiǎn)？相關(guān)法律或者管理應(yīng)如何跟上？普通人又該如何防范AI詐騙風(fēng)險(xiǎn)？

　　一搜一大片 AI“復(fù)活”成產(chǎn)業(yè)鏈？

　　在當(dāng)下，用AI復(fù)活親人的案例越來越多。一些個(gè)人或機(jī)構(gòu)甚至以此為賣點(diǎn)，形成相應(yīng)的灰色產(chǎn)業(yè)鏈。

　　3月18日，羊城晚報(bào)記者以“AI復(fù)活”的關(guān)鍵詞在多個(gè)社交平臺(tái)和購物軟件上嘗試搜索，發(fā)現(xiàn)能輕易地搜索到諸多相關(guān)店鋪。比如在淘寶上，就有商家提供讓老照片動(dòng)起來開口說話、聲音及形象再現(xiàn)、實(shí)現(xiàn)語音互動(dòng)、真人復(fù)刻等差異化服務(wù)，標(biāo)價(jià)幾元到幾萬元不等。一家店鋪的AI制作流程顯示需要五個(gè)步驟，分別是溝通用戶需求、提供照片及聲音、策劃逝者文案、等待制作、發(fā)貨驗(yàn)收。

　　在小紅書上，有不少標(biāo)有從事“AI復(fù)活親人”相關(guān)內(nèi)容的賬號(hào)。一個(gè)簡介標(biāo)著“專注AI造夢(mèng)、AI數(shù)字人定制、聲音克隆、AI‘復(fù)活’親人視頻、明碼標(biāo)價(jià)”等信息的博主，吸引了三萬多名粉絲。該店提供的AI數(shù)字人視頻定制套餐介紹中，價(jià)格從99元到1499元。這名博主發(fā)布了多條AI視頻，其中一條“用AI克隆技術(shù)將去世奶奶‘復(fù)活’了”的視頻，盡管畫面單一、AI復(fù)制的痕跡較為明顯，但底下也有人詢問如何收費(fèi)、是否收徒等問題。

　　此外，社交平臺(tái)上還有不少人傳授“AI復(fù)活親人”的教程，以此賺取流量、賣課程、招收學(xué)徒等。

　　“用AI技術(shù)簡單‘復(fù)活’親人并不難，只要有開源的技術(shù)就可以了。當(dāng)然也需要訓(xùn)練模型的機(jī)器，以及一些時(shí)間投入。但想要實(shí)現(xiàn)逼真的效果，還是很有挑戰(zhàn)性的�！庇�(jì)算機(jī)專業(yè)的王先生告訴記者。

　　被騙2億港元！ “AI換臉”詐騙不斷

　　用“AI復(fù)活”一搜一大片，“AI換臉”這么容易，也讓人不得不擔(dān)心由此可能帶來的詐騙風(fēng)險(xiǎn)。

　　羊城晚報(bào)記者注意到，在社交和購物平臺(tái)上，有的商家就特別標(biāo)識(shí)，讓照片“開口說話”的AI數(shù)字人制作，可以用自己照片，也可以用別人照片。

　　實(shí)際上，AI技術(shù)應(yīng)用門檻越來越低，近期多起“AI換臉”詐騙案例，就凸顯了AI技術(shù)快速發(fā)展背后隱藏的風(fēng)險(xiǎn)。其中，香港警方近期披露的一起多人“AI換臉”詐騙案就令人咋舌，涉案金額高達(dá)2億港元。該案件中，一家跨國公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”，并按照要求先后轉(zhuǎn)賬多次。沒想到，其他“參會(huì)人員”都是經(jīng)過“AI換臉”后的詐騙人員。

　　這也讓更多人意識(shí)到，當(dāng)前，使用AI的深偽技術(shù)能達(dá)到高還原度的換臉效果，再結(jié)合語音偽造技術(shù)，就能做到“造人”。種種案件的發(fā)生，意味著AI詐騙距離我們并不遙遠(yuǎn)。

　　有業(yè)內(nèi)人士就提醒，當(dāng)用戶將逝去親人的相關(guān)信息轉(zhuǎn)發(fā)給商家進(jìn)行“復(fù)活”的時(shí)候，也可能讓各種隱私信息被非法收集、交易和利用，并形成相關(guān)的黑灰產(chǎn)業(yè)鏈。

　　有人用AI“復(fù)活”行騙 商家或平臺(tái)是否要擔(dān)責(zé)？

　　人們?cè)谙硎蹵I技術(shù)紅利的同時(shí)，應(yīng)有所警惕和預(yù)判�？萍嫉陌l(fā)展應(yīng)該在保護(hù)個(gè)人權(quán)益、維護(hù)社會(huì)法治和確保倫理底線的前提下進(jìn)行�！癆I復(fù)活”技術(shù)的推廣需要更多的監(jiān)督和規(guī)范，從而防止技術(shù)被濫用的情況。

　　如何看待“AI復(fù)活親人”相關(guān)照片或視頻成為產(chǎn)業(yè)鏈？其中會(huì)有哪些法律風(fēng)險(xiǎn)？

　　廣東國鼎律師事務(wù)所高級(jí)合伙人廖建勛律師在接受羊城晚報(bào)記者采訪時(shí)表示：“AI復(fù)活產(chǎn)業(yè)鏈的形成，其中一個(gè)風(fēng)險(xiǎn)在于涉嫌侵犯死者的人格權(quán)。死者的肖像權(quán)和名譽(yù)權(quán)也是受法律保護(hù)的。如果未經(jīng)死者家屬的同意，使用死者的肖像權(quán)來進(jìn)行復(fù)活。在這種情況下，死者的家屬可以提起相應(yīng)的民事訴訟，要求相關(guān)的行為人承擔(dān)民事責(zé)任。另外一個(gè)風(fēng)險(xiǎn)在于，有些人可能會(huì)刻意利用AI復(fù)活人像來進(jìn)行詐騙活動(dòng)�！�

　　商家如果對(duì)死者進(jìn)行“AI復(fù)活”，需要親人提供相關(guān)關(guān)系證明嗎？復(fù)活后的圖像或視頻，是否應(yīng)加掛AI生成LOGO？對(duì)此，廖建勛提到，如果商家要從事類似的商業(yè)活動(dòng)，首先需要行為人提供跟死者相關(guān)的親屬關(guān)系的基本證明材料。如果沒有親屬證明材料，使用了逝者的肖像，有可能構(gòu)成侵權(quán)。“我們認(rèn)為，如果在一些平臺(tái)去展示這些視頻，或者是使用這個(gè)視頻，應(yīng)當(dāng)在上面進(jìn)行顯著的標(biāo)示，告訴人們這是屬于AI人像�！�

　　如果有犯罪分子利用“AI復(fù)活某人”行騙乃至犯罪，商家是否需要負(fù)責(zé)任？平臺(tái)有無管理責(zé)任？

　　“根據(jù)消費(fèi)者權(quán)益保護(hù)法第44條規(guī)定和電子商務(wù)法的相關(guān)規(guī)定，如果商家明知道某些經(jīng)營者是利用這種生成的AI人像在做經(jīng)營活動(dòng)，或是有可能從事犯罪活動(dòng)，而不加制止、不采取相應(yīng)措施的話，那么相關(guān)平臺(tái)需要承擔(dān)相應(yīng)的民事連帶責(zé)任。因此，對(duì)于平臺(tái)而言，對(duì)利用AI生成的人像、復(fù)活的人像進(jìn)行展示、宣傳或者經(jīng)營活動(dòng)，它要盡到合理管理的注意義務(wù)。”廖建勛說道。

　　AI技術(shù)快速發(fā)展 法治建設(shè)該如何跟上？

　　那么，該如何識(shí)別視頻是否由AI技術(shù)生成？

　　對(duì)于這一問題，計(jì)算機(jī)專業(yè)的王先生告訴記者：“能否識(shí)別AI生成的內(nèi)容，也是業(yè)界關(guān)注的�！彼�表示，比如比較常用的一種辦法是利用GAN（生成對(duì)抗神經(jīng)網(wǎng)絡(luò)）進(jìn)行異常檢測。GAN檢測算法通過訓(xùn)練一個(gè)分類器來區(qū)分真實(shí)圖像和合成圖像，這有助于辨別AI生成的圖片或視頻。此外也可以通過視頻時(shí)序一致性檢測、數(shù)字特征分析、多模態(tài)分析等方式提高檢測的準(zhǔn)確性�！艾F(xiàn)在的情形，其實(shí)有點(diǎn)類似博弈——一方想要以假亂真，另一方需要練就火眼金睛。”王先生說道。

　　廖建勛坦言，相對(duì)技術(shù)的快速發(fā)展，法律總是有一定的滯后性�！熬湍壳岸�言，我們國家法律包括民法典的頒布，相應(yīng)刑法的相關(guān)規(guī)定，對(duì)這方面民事活動(dòng)的規(guī)范，相對(duì)比較完善。對(duì)于新技術(shù)而言，我們認(rèn)為需要平臺(tái)去履行監(jiān)管義務(wù)，利用好技術(shù)為廣大人民群眾服務(wù)，而不能成為滋生犯罪的溫床。同時(shí)，相關(guān)部門要對(duì)這類知識(shí)應(yīng)用加大宣傳，引導(dǎo)人們合理合法利用技術(shù)�！�

　　現(xiàn)階段，利用AI人像進(jìn)行詐騙活動(dòng)的案例越來越多，普通人該如何防范詐騙風(fēng)險(xiǎn)？廖建勛建議，普通人碰到用視頻進(jìn)行詐騙活動(dòng)的情景，涉及錢財(cái)，或是銀行卡密碼的情況下，一定要高度警惕�？梢酝ㄟ^針對(duì)人像，進(jìn)行一些特別問題的設(shè)置，來辨別這到底是AI人像，還是真實(shí)人像。

　　新聞背景

　　AI“復(fù)活”引爭議

　　近日，“父親希望AI復(fù)活喬任梁視頻盡快下架”登上微博熱搜。針對(duì)兒子肖像被侵權(quán)使用一事，喬任梁父親表示，不能接受，希望對(duì)方盡快下架，“他們未征求我們同意，是我侄女刷到視頻發(fā)給我的，這是在揭傷疤”。

　　在相關(guān)話題的評(píng)論區(qū)，有網(wǎng)友表示“這確實(shí)對(duì)至親之人是一種傷害和冒犯了”，也有人提到“為了博點(diǎn)流量，也真是不擇手段啊，都拿逝者搞上事情了”。此外，關(guān)于“AI技術(shù)會(huì)觸及倫理道德邏輯，正在穿透法律底線，在犯法的邊緣試探。支持制作者向逝去者家屬公開道歉 并支付賠償”“有人打著溫情的名義，趁機(jī)做起AI推廣、收費(fèi)服務(wù)……AI技術(shù)被濫用，那些違規(guī)者不付出代價(jià)就離譜！這塊兒空白什么時(shí)候補(bǔ)上？”等評(píng)論也獲得了諸多點(diǎn)贊。

　　在“你接受用AI復(fù)活親人嗎”的話題下，江歌媽媽明確表達(dá)了自己的立場：“不接受！不接受！不接受！如果能‘復(fù)活’，也僅限于我親自來做這件事！”“你們不懂我們，又憑什么為我們（我與女兒）作決定！”

　　記者注意到，對(duì)于“AI復(fù)活”親人，有些人表示歡迎態(tài)度，也有不少人較為謹(jǐn)慎。接受記者采訪的賈女士就表示：“不能接受。首先，除了涉及肖像權(quán)、隱私權(quán)等法律風(fēng)險(xiǎn)，我覺得從生命倫理的角度也是不可接受的。接受AI復(fù)活技術(shù)，也就意味著我們不接受死亡本身。但正視、接受死亡應(yīng)該是每個(gè)人都必須學(xué)會(huì)的一課，只有敬畏死亡及其帶來的痛苦，我們才有可能更敬畏生命、敬畏當(dāng)下的生活�！�

　　事實(shí)上，“AI復(fù)活”引發(fā)的爭議才剛展開，比如在倫理道德方面，逝者是否應(yīng)該被“復(fù)活”就發(fā)人深思。有人認(rèn)為，基于數(shù)據(jù)和算法生成的虛擬形象，可能加劇人們對(duì)于生死的模糊認(rèn)知，導(dǎo)致一些人對(duì)死亡產(chǎn)生不切實(shí)際的幻想。此外，人們應(yīng)當(dāng)如何對(duì)待被“復(fù)活”的親人？他們能擁有自主的意識(shí)嗎？怎樣的交流才是“健康”的狀態(tài)？這一切又該如何向前發(fā)展？“AI復(fù)活親人”引發(fā)的一系列爭議，仍需要時(shí)間做出解答。