未經同意定制“AI換臉”視頻,還賣教程?這起公益訴訟案件判了


來源:杭州互聯網法院

杭州互聯網法院組成七人合議庭,對公益訴訟起訴人杭州市蕭山區人民檢察院訴虞某個人信息保護民事公益訴訟案公開開庭審理,判令被告虞某刪除非法獲取的個人信息,公開賠禮道歉、消除影響並賠償損失共60000元。

被告虞某服從法院判決,現已履行道歉、賠償義務等民事責任。賠償金額將專門用於個人信息保護、人臉深度合成技術不當應用的治理等公益事項。

案情速遞

公益訴訟起訴人訴稱,其在履職過程中發現,2021年左右開始,虞某以牟利為目的,在未取得被編輯人同意的情況下,利用“AI換臉”軟件非法處理他人人臉信息,將他人人臉信息與部分視頻中的人臉信息進行替換合成,製作生成虛假的換臉視頻。上述行為侵害了承載在不特定多數社會主體個人信息之上的公共信息安全,破壞社會公共秩序,構成對公共信息安全領域的社會公共利益侵害,故向杭州互聯網法院提起民事公益訴訟,請求判令被告虞某承擔停止侵害、賠償損失、賠禮道歉的民事責任。

被告虞某表示,對公益訴訟起訴人起訴狀中所述事實和理由沒有異議,對其行為深感後悔,願意誠懇地向社會公眾道歉,並會積極履行判決義務,以彌補對社會公益造成的損害。

裁判要點

杭州互聯網法院經審理認為,人臉信息屬於敏感個人信息中至為重要的生物識別信息,關係到每個個體的人格尊嚴、人身安全和財產安全。人臉信息的濫用牽涉到不特定社會群體的公共利益。

本案中,虞某使用換臉軟件(技術)深度合成偽造視頻和圖片,未經相關信息主體同意,大量蒐集、提取、替換、合成、存儲他人人臉敏感信息等個人信息,並將深度合成偽造視頻、圖片發佈於2000多人的多個社交軟件群組中,同時,其為他人提供不特定主體的人臉替換定制服務,並為牟利而對外銷售換臉軟件、傳授換臉技術教程,獲得非法利益數万餘元,上述行為構成對個人信息權益的侵害。虞某將合成偽造的視頻、圖片在人數眾多的網絡群組中發布,傳播可能性高、影響範圍大,使得潛在的社會不特定群體可能成為受侵害的對象,更可能導致公眾形成“眼見不為實”的心理預期,破壞互聯網數字世界中社會共同體的信任,損害了相關領域的社會公共利益。

綜上,法院認定虞某對於人臉深度合成技術的濫用行為,損害了社會公共利益,判決其承擔停止侵害、賠償損失、賠禮道歉的民事責任。

法官說法

技術的運用是把雙刃劍,用之為善可以造福社會,不當濫用則會造成社會風險和損害。對於換臉軟件等深度合成技術應用的規制應當從其參與者入手,包括發明者、應用者、傳播者等方面,以規制深度合成技術使用目的為路徑,實現深度合成技術的合理使用,避免該技術對個人、社會、國家造成諸多方面的風險。同時,也需要引導技術開發、應用者自覺遵守法律規定和科技倫理道德,培育積極健康、向上向善的研發、應用環境,保護和鼓勵新興智能技術的有益探索。

資訊來源:由0x資訊編譯自8BTC。版權歸作者所有,未經許可,不得轉載

Total
0
Shares
Related Posts