作者:OKG Research
近日,OpenAI 發布了新模型Sora。這是一款高效能的文字到多模態生成工具,支援從文字生成精細的圖像和動態影片。
相較早先發布的視訊範例,該功能目前已經可以由用戶真實上手體驗,目前由於服務過載已暫停註冊。但從官網選取的片段來看,其生成的影像和影片精度大大提升,有些甚至難以分辨是否為AI生成,AI在此刻變得更加具象化了!
Pic Source:OpenAI Official Page
但隨著AI技術的快速發展,虛假內容生成的門檻大幅降低,進一步也帶來了更多潛在風險:AI生成的換臉影片、深度偽造等開始滲透進日常生活。面對這項挑戰,Web3 技術正為我們帶來新的解決思維。
由OpenAI, Harvard Society of Fellows, Microsoft, University of Oxford, a16z crypto等多家公司的研究人員發布了探討,一種應對這一挑戰的新工具的價值:「人格證書」(Personhood Credentials, PHCs)。這種數位憑證使用戶能夠在不披露任何個人資訊的情況下,證明自己是真實的人。
AI生成內容的氾濫:一場信任危機
AI產生逼真的內容(如深度偽造)、冒充他人的行為、以及成本低廉的女巫攻擊正在威脅線上互動的真實性和安全性。
傳統的應對措施,例如CAPTCHA 或異常檢測,已經無法跟上複雜AI 的步伐,而嚴格的身份驗證則要求用戶披露個人信息,損害了網絡隱私權。
這種困境催生了對隱私權保護和身分驗證的新需求:如何既保護使用者的匿名性,又能有效驗證線上使用者是真實的人類,而非AI 產生的虛假身分?
人格證書(Personhood Credentials, PHCs):新世代的身份驗證工具
《人格證書:人工智慧與保護隱私的真實性驗證方法的必要性》一文提出了一個極具潛力的解決方案:
人格證書(PHCs)是一種數位憑證,旨在使用戶能夠在不披露任何個人資訊的情況下,向線上服務證明自己是真實的人類,而非人工智慧(AI)。這些憑證可以由各種可信任機構(如政府或其他組織)簽發,可以是本地化的或全球性的,並且不需要基於生物特徵。
它的出現,有望進一步應對在AI廣泛使用的未來,由AI產生的信息或服務可以被合理區分,透過人格證明的方式,建立AI和人之間的「類戶籍制度」。
在網路環境中PHCs可以實現大規模真實用戶的真實輸入與互動,避免虛假帳戶偽裝為不存在的個人, 阻止機器人協調攻擊繞過平台規則,繼續濫用網路服務, 表明已授權AI Agents是可信用戶的代理,而非惡意行為者的代理。
這樣有利於降低AI產生的虛假資訊氾濫以及身份冒用問題,確保線上生態的可信度和安全性。
此方案不需要依賴全球統一的生物特徵驗證,而是可以透過政府或其他可信任機構在地化簽發,適應不同場景。
Pic Source:https://arxiv.org/pdf/2408.07892
PHCs 的技術實現路徑
目前,PHCs的概念主要基於對匿名憑證和「身份驗證」系統的長期研究。雖然具體的實施方案仍在開發中,但已有一些相關技術為PHCs的實現奠定了基礎。
-
零知識證明(ZKP): PHCs可以利用零知識證明技術,使用者在不揭露特定身分資訊的情況下,證明自己是獨立的真實人類。
-
去中心化身份(DID): 透過去中心化身份框架,使用者可以創建和管理自己的數位身份,而無需依賴中央機構。
-
多方簽名與信任網路: 可信任機構可以透過多方簽署的方式,共同驗證使用者身份,形成信任網路。
PHCs 的優勢
-
隱私權保護:使用者無需揭露個人資料即可驗證真實性,保護了數位隱私。
-
增強信任:透過阻止虛假身分和深度偽造內容的傳播,PHCs 能為數位社會建立更強的信任基礎。
-
非生物特徵依賴:PHCs的驗證過程不依賴生物特徵數據,避免了相關的隱私和安全問題。
-
促進去中心化身分認同(DID)和平台發展:PHCs 可賦能Web3 去中心化社群平台,讓用戶更能掌控個人身分和資料。
先前,業界亦有Web3 計畫在做去中心化身分的嘗試,如OpenAI共同創辦人Sam Altman於2023年推出的Worldcoin,它試圖提供生物辨識驅動的去中心化身份,試圖解決女巫攻擊和虛假帳戶問題。
但就虹膜採集的問題和相關隱私資料後續安全問題廣受爭議,但其大規模試驗表明,使用者對簡單、去中心化的身份驗證方式有強烈需求。
Pic Source:The hardware device for Worldcoin
https://liamhorne.com/world-chain
雖然PHCs 展現了巨大的潛力,但其部署和實施仍面臨許多挑戰:
-
安全性:防止PHCs 系統被濫用或攻擊,確保資料在傳輸和預存程序中的安全。
-
可訪問性:確保各類使用者都能方便地取得和使用PHCs,尤其是那些技術水平較低或資源受限的群體。
-
標準化:需要製定統一的技術標準,確保互通性和可擴展性。
AI與Web3結合的可能性
去中心化社交平台中,PHCs 可與區塊鏈技術結合。例如,當使用者登入dApp時,透過驗證PHCs,平台可以在不收集任何敏感資料的情況下確認使用者的真實性。這將為應對深度偽造內容提供有效支持,同時防止惡意機器人帳號氾濫。
PHCs也可用於去中心化身分認同(DID)系統,與AI生成的內容版權管理、抗深度偽造和社群治理等領域形成協同效應。例如,透過綁定PHCs,使用者可以在Web3生態中驗證身分真實性,確保治理決策的公平性;而NFT與PHCs結合可為AI創作的內容提供追溯與版權保護。
透過AI與PHCs的結合,也可以在數位經濟活動中建構信任激勵機制。例如,在去中心化工作平台中,雇主可以透過PHCs確認自由工作者的真實性,同時利用AI分析來匹配最合適的協作者。這種模式將有效減少詐欺風險,提升協作效率。
從信任危機到信任重建
PHCs 的意義不僅在於解決當前的信任危機,更在於為數位社會奠定信任的基石。 PHCs預計將作為國際上數位身分互認的基礎,減少跨境線上活動中的詐欺風險。透過PHCs,人類可以更有效地管理與AI 的互動,從而實現人機協作的良性發展。
透過結合區塊鏈的透明性和去中心化特性,PHCs 為建立可信賴的數位身分和網路生態提供了全新的想像空間。 PHCs 不僅對科技和商業領域產生影響,還將引發關於隱私權、數位身分和技術倫理的深入討論。政策制定者、技術專家和標準組織需要與公眾共同推動PHCs 的開發與實施,為數位社會開創更安全、更可靠的未來。