僅需一張照片和一段逝者錄音，就能在數(shù)字世界中讓逝者“永生”……清明節(jié)前后，此類AI“復活”廣告宣傳在各大電商和社交平臺上日益活躍，甚至演變成一門新“生意”。
技術的發(fā)展為滿足人們的精神與情感需求提供了更多載體，與此同時，AI“復活”也引發(fā)強烈爭議。有專家提出，AI“復活”技術被濫用，或?qū)砬趾€人權益、數(shù)據(jù)隱私安全、傳播虛假信息等問題。
□新華社記者
新“生意”背后的技術難度有多高？
“大家好！其實我沒有真正離開這個世界……”不久前，已故藝人與公眾親切“打招呼”的視頻在社交平臺上引發(fā)網(wǎng)民關注，也讓AI“復活”這一話題進入公眾視野。
利用AI技術將逝者“復活”，漸已發(fā)展成新“生意”。某電商平臺的數(shù)據(jù)顯示，在平臺經(jīng)營AI“復活”相關業(yè)務的商家達1900余個。
在一家電商平臺上，某商家稱，讓照片中的人物動起來20元，如果要配上“AI人聲”則需收費50元。數(shù)據(jù)顯示，該商家已達成超800次交易。在該電商平臺上，“復活”親人的“商品”售價在幾十元至幾百元不等。
在短視頻平臺上，一些商家展示多位已故藝人的“復活”視頻，疑似為其“復活親人”業(yè)務引流。視頻中，從表情到說話口型，呈現(xiàn)效果參差不齊。
“有的‘復活’效果‘一眼假’，其實是過去‘照片活化’技術的延伸。有的‘復活’效果很逼真，多是采用‘深度合成’技術。”中國電子技術標準化研究院網(wǎng)安中心測評實驗室副主任何延哲認為，當前市面上絕大部分的AI“復活”并非剛出現(xiàn)的“新技術”。
一些商家已開始兜售“AI‘復活’技術變現(xiàn)指南”。在某二手交易平臺上，記者以19.9元的價格購買了一份“AI‘復活’技術教程”。除文字說明外，還有視頻講授如何制作“照片活化”的短視頻。
記者了解到，當前網(wǎng)絡上的AI“復活”工具主要分為三種。
一種在手機應用商店中即可下載獲得，只要一張正臉照片就能根據(jù)應用中所提供的模板“活化”，可實現(xiàn)歌唱、“演電影”等場景轉(zhuǎn)化。
第二種是利用線上工具，由用戶提供正臉照片和相關音頻文件，經(jīng)過系統(tǒng)自動編輯后，實現(xiàn)照片中人物“開口說話”的效果，該工具需要用戶支付一定費用。
第三種則是在開源社區(qū)中，由程序員編寫AI測試程序，在經(jīng)過相關語料訓練后，將照片轉(zhuǎn)化為能簡單對話互動的“數(shù)字人”。此類程序門檻較高，需要一定計算機知識基礎。
引發(fā)法律與倫理多重爭議
AI“復活”的話題引發(fā)重重爭議。
有專家認為，是否進入公共場域，是判斷AI“復活”是否侵權的重要分界線。
世輝律師事務所合伙人王新銳表示，個人利用AI“復活”親人、緬懷紀念，且在必要范圍內(nèi)使用，無需過度干預。而如果在公共平臺擴散傳播，用于市場盈利，是否侵犯他人或社會公共利益就要特別考量。
今年3月，一些已故藝人的近親屬已就相關“復活”視頻提出下架要求，并表示后續(xù)或?qū)⒉扇》墒侄尉S權。
“在未依法獲得逝者相關近親屬授權的情況下，擅自使用逝者面容將其‘復活’并進行商業(yè)推廣，涉嫌侵害逝者的肖像和名譽等權利。”北京康達（廈門）律師事務所高級合伙人張翼騰說，根據(jù)民法典相關規(guī)定，如未經(jīng)許可，擅自使用逝者的姓名和面容用于“復活”，逝者的近親屬有權依法請求行為人承擔民事責任。
一家社交平臺相關負責人表示，平臺認為，未經(jīng)逝者生前同意或逝者家屬授權，他人不應使用AI或任何技術手段“復活”逝者。該負責人稱，如果家屬投訴或侵權行為被查實，平臺將對侵權賬號作出處罰。
AI“復活”還涉及“數(shù)字遺產(chǎn)”問題。張翼騰說，逝者生前的個人信息、聊天記錄等“數(shù)字遺產(chǎn)”能否繼承，目前沒有明確法律規(guī)定。對于誰有權使用、如何避免不當獲取、使用時應遵循何種規(guī)范等問題，仍需進一步明確。
此外，相關服務中，AI需要處理大量個人敏感數(shù)據(jù)，如面部表情、語音語調(diào)等；數(shù)據(jù)一旦被濫用或泄露，會對用戶隱私造成威脅。業(yè)內(nèi)人士建議，開發(fā)者和使用者都應承擔責任，確保技術不會誤導用戶或影響人類情感；同時也要注意隱私保護和數(shù)據(jù)安全。
值得關注的是，AI“復活”技術使用不當，也可能成為犯罪分子實施詐騙等犯罪活動的工具。
“服務提供者不會也沒有能力核實‘逝者’的身份信息，一些不法分子也可能以‘復活’之名行‘詐騙’之實。”中國科學技術大學網(wǎng)絡空間安全學院教授左曉棟說，面對新的電信網(wǎng)絡違法犯罪活動時，不熟悉網(wǎng)絡應用的中老年群體更易成為受害者。
AI“復活”也可能衍生新型法律糾紛。“不排除有人會借AI‘復活’來偽造逝者遺囑或做出其他違背逝者意愿的事。”王新銳提出，如有近親屬利用這項技術偽造音視頻遺囑，或?qū)⒑馁M更多時間和人力成本來驗證真實性，甚至給司法鑒定帶來一定挑戰(zhàn)。
亟待完善法規(guī)厘清邊界
業(yè)內(nèi)專家認為，技術創(chuàng)新永無止境，其應用應有道德邊界和法律規(guī)范。應抓緊完善相關法律法規(guī)，警惕AI“復活”技術可能產(chǎn)生的社會風險。
首先，AI“復活”技術的應用，應嚴格遵守知情同意原則，在網(wǎng)絡傳播過程中不侵犯他人利益。
2022年，國家網(wǎng)信辦等三部門發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，對深度偽造等新技術應用進行了規(guī)范。規(guī)定明確，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。業(yè)內(nèi)人士認為，如果被編輯人是逝者，理應取得有義務保護逝者肖像權的親屬的同意。
其次，不少專家提出，AI“復活”產(chǎn)品應恪守技術管理規(guī)范，加強內(nèi)容“標識”。
左曉棟等專家表示，根據(jù)有關規(guī)定，相關技術服務提供者必須對“生成內(nèi)容”進行“標識”；在已有原則性要求的背景下，可出臺相關行業(yè)標準，要求相關技術服務提供者在生成式內(nèi)容中添加“水印”，防止不法分子借用該技術實施違法犯罪活動。
另外，業(yè)內(nèi)人士提出，在數(shù)據(jù)處理過程中，要更注重隱私保護和數(shù)據(jù)安全。
2023年，國家網(wǎng)信辦、國家發(fā)展改革委、教育部等七部門聯(lián)合發(fā)布《生成式人工智能服務管理暫行辦法》，進一步明確了生成式人工智能的行業(yè)發(fā)展規(guī)范。辦法規(guī)定，提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。
專家還建議，要進一步落實相關平臺的主體責任，處置借AI“復活”概念不當牟利的不法商家。
“不能放任AI‘復活’變成一門沒有規(guī)矩和底線的‘生意’，尤其要保護對新技術不敏感的中老年用戶群體。”中國法學會消費者權益保護法研究會副秘書長陳音江建議，有關平臺要幫助中老年用戶群體辨別深度偽造技術，取締不當?shù)美倪`法違規(guī)商家，盡可能減少技術濫用帶來的社會風險。
法律界人士建議，有關部門對AI“復活”的需求和其衍生的產(chǎn)業(yè)鏈要保持關注、合理辨析，在現(xiàn)行法律法規(guī)基礎上做好數(shù)據(jù)保護、涉詐犯罪風險預防等方面的監(jiān)管。
此外，普通群眾在面對諸如AI“復活”等新技術時，要提高警惕，一方面要避免掉入不法商家借新技術之名設下的虛假宣傳之坑，另一方面也要提防詐騙者運用深度偽造技術喬裝“親友”實施電詐行為。
（新華社福州4月7日電）
