在一款熱門記賬軟件中，用戶除了記錄日常開支，還能創建AI虛擬陪伴者。這些AI角色可以根據用戶設定的關系(如親友、戀人)，在記賬后自動發送表情包、留言互動，這一功能獲得了眾多用戶青睞。當公眾人物何某發現自己的姓名、肖像被這款軟件推薦為AI陪伴者，不僅用戶可隨意設置親密關系，AI還能模仿其神態語氣生成互動內容后，他認為自身人格權益遭受侵害，最終將軟件運營方上海某人工智能科技公司訴至法院。

北京互聯網法院經審理認定，被告并未獲得何某的許可，使用了何某的姓名、肖像，構成對何某姓名權、肖像權的侵害。此外，AI陪伴者還系統地使用了何某的整體形象，也侵犯了何某的一般人格權。上海某人工智能科技公司被判向何某公開賠禮道歉并賠償20.3萬元人民幣，該案件也入選了最高人民法院“民法典頒布后人格權司法保護典型民事案例”。

“雖然網絡上的虛擬形象并不是真實的主體，但發布相關言論和使用其形象時，可能會涉及對他人人格尊嚴的貶損。”本案承辦法官，北京互聯網法院審委會專職委員孫銘溪表示，“企業創新發展過程中要時刻注意法律的邊界。網絡用戶利用新的技術去滿足個人情感和文化需求的同時，也要充分尊重他人的人格權益。”

隨著深度偽造(Deepfake)技術的使用門檻不斷降低，AI換臉、虛擬主播等應用呈爆發式增長。國家網信辦2024年4月最新監測數據顯示，短視頻平臺AI換臉視頻日均新增量已突破72萬條，其中除明星形象濫用外，普通人形象盜用比例亦呈上升趨勢。技術狂歡背后，暗藏肖像權侵害、虛假信息傳播、情感詐騙等系列隱患。2024年4月26日最高人民法院發布的《全國互聯網法院受案情況通報(2024Q1)》顯示，人工智能相關侵權案件收案量較去年同期增長317%，其中涉及人格權糾紛案件占比79.2%。

面對技術濫用風險，大家如何才能筑牢防線？

孫銘溪提出了三個建議：第一要強化個人信息保護，避免在公開平臺上傳高清正臉照片、原聲錄音；謹慎授權APP調用攝像頭、麥克風權限，關閉非必要的人臉識別功能。第二要提升內容鑒別能力，AI合成的視頻有人物邊緣模糊、表情僵硬、口型不匹配等細節特點，同時要利用官方工具(如網信辦“辟謠平臺”)或第三方檢測軟件驗證真偽。第三要主動維權與舉報，發現侵權內容后，應立即通過平臺投訴渠道要求刪除，并保存截圖、鏈接等證據；向當地網信部門舉報違法AI合成服務，或向法院提起訴訟。

“當你在屏幕前驚嘆‘換臉’特效時，請謹記：每一次點擊，都可能成為技術濫用或詐騙的‘突破口’。”孫銘溪說，“AI換臉技術的狂奔，呼喚法律與倫理的‘韁繩’。從開發者的合規責任到公眾的風險意識，唯有在法治框架內探索技術邊界，才能讓創新真正造福社會。”