作者：遠川研究所

知名主播Atrioc不幸成為了首個因AI社死的公眾人物。

事故發生在2023年1月，Atrioc正如往常般直播，一些觀眾卻發現了異樣：他的網頁瀏覽器，似乎打開了某種特定類型的網站。

閒的蛋疼的網友順藤摸瓜，很快挖掘出了Atrioc的小秘密——他在偷偷觀看以知名女主播為主角的色情片。

但這些小電影其實是用AI偽造的，本人不僅沒出演，更不知情。這種足以以假亂真的AI產物，通常被稱為DeepFakes（深度偽造）。

事發時，Atrioc才結婚不到半年，而其中一部AI成人片的“主角”又是他曾經的同事，一下從直播事故上升到了道德作風問題。敗露後，Atrioc淚眼汪汪地解釋說，“病態的好奇心”驅使他犯了個全天下男人都會犯的錯。

Atrioc在妻子陪同下公開道歉

每當談及AI，許多政客專家總會不自覺聯想起電影《終結者》的畫面，圍繞“AI是否會毀滅人類”而爭論不休。今年6月，位列“深度學習三巨頭”的楊立昆與約書亞·本吉奧，甚至圍繞這一話題辦了場電視辯論。

顯然，這些學術精英都大大高估了這顆星球的精神文明建設水平。

Atrioc和DeepFakes的故事似乎預示著，AI正在以一種人們都未曾想到的方式，悄悄重塑著這個社會。

不久前，俄羅斯就出現了離奇的一幕：6月5日，俄羅斯電視台播放了普京的戒嚴講話。沒過多久，電視信號便被掐斷，因為這段內容其實是用AI偽造的——黑客攻破了電視台的網絡系統，並向全國發送了“假普京”的聲音。

而在2022年，烏克蘭也發生過類似的事情：一個AI生成的澤連斯基，要求烏克蘭前線部隊投降。

俄羅斯網友拍下的“AI普京”講話

從色情片到現代戰爭，AI正在動搖我們對現實世界的認知。

而這一切混亂的起點，始於一場酒吧里的互噴。

01 醉漢狂想曲

2014年夏天，一處酒吧內，20多個醉醺醺的技術宅正吵鬧個不停。其中最鬧騰的，是一個名叫伊恩·古德費洛（Ian Goodfellow）的年輕人。

當時，古德費洛正在攻讀博士，師從深度學習大神約書亞·本吉奧。聽聞好友被谷歌招募，一行人便決定去酒吧慶祝一番。沒成想幾杯啤酒下肚，技術宅們醉意上頭，便開始對前沿技術指點起江山。

當時，谷歌正試圖教會AI“畫畫”。它的方法是，將照片“數據化”，讓機器學習數據，再根據數據輸出圖像。舉個例子，如果想讓機器學會畫貓，先人工測算每張“貓片”像素的亮度、頻率以及分佈等數據，再讓機器去學習、輸出。

這一過程有點像是先給機器劃好重點，再讓它去考試。

古德費洛認為，這種解決方案簡直蠢到家了，並當場想了個替代方案——GAN（生成對抗網絡）。

伊恩·古德費洛

GAN由兩個神經網絡組成：一個是類似谷歌原本方案的生成模型，但省去了數據化的步驟；第二個是判別模型，負責判定生成模型的輸出結果是否合格。

換句話說，GAN相當於去掉了“考前劃重點”的步驟，讓機器全程自學；同時，為了防止機器“學廢了”，GAN給機器請了個監考老師，帶著機器反复考試直到合格為止。

古德費洛講完想法後，遭到了同伴一致嘲笑。他事後承認，如果當時少干兩瓶，自己也不會認為GAN能成。

然而，酒勁上頭的古德費洛可顧不上這些，聲稱當晚就把GAN做出來，狠狠打臉。

熬夜爆肝數小時之後，古德費洛被嚇到了：GAN居然真的有戲。

相關論文的發表後，GAN迅速成為焦點。 2016年底，楊立昆在公開演講聲稱，“GAN是過去20年深度學習領域最酷的想法。”

古德費洛設計的GAN，最初只能生成模糊的縮略圖，並沒什麼實用價值。但在GAN走紅之後，全球各大研究機構興起了“改造GAN”運動，相關論文指數級增長，性能開始突飛猛進。

2017年，英偉達芬蘭實驗室成功製作出了“強化版”GAN，不僅能夠生成逼真的圖像，甚至還能替換視頻中的人臉。

“改造GAN”運動

GAN的光速蛻變，點燃了全球科研人員的熱情。但就在此時，它失控了。

02 AI皮肉生意

人們常說，科技進步有兩個源動力：一個來自戰爭，另一個則來自下半身。

英偉達實驗室打造出新版GAN的2017年，一系列特殊視頻開始在Reddit論壇上廣泛傳播。視頻內容均是真槍實彈的18+小電影，演員卻是大眾所熟知的明星，包括泰勒·斯威夫特和蓋爾·加朵。

上述少兒不宜內容，均由一個名叫“deepfakes”的用戶所創造：他使用GAN的技術，將明星的臉無縫移植到了女優老師身上。

英國女星Daisy Ridley的“臉”被濫用之後

不久後，他創建了一個Reddit板塊，專門用於交流AI成人片心得，人們開始用他的名字“DeepFakes（深度偽造）”來稱呼那些AI偽造品。

Reddit最終封禁了該板塊，但潘多拉魔盒已徹底打開。

篡改圖像、視頻，其實不算新鮮事兒，使用Photoshop等工具也能實現；但GAN的強大之處在於，能夠極度簡化篡改的過程，並實現大批量生產。

不久後，有人利用GAN製作了一個網頁工具，能“脫掉”照片中女性的衣服（只對女性適用）。一位記者發現該網站後，撰文狠狠批判了一番。

結果文章發布當月，該網站訪問量突破50萬次，服務器擠到宕機。

皮肉生意的技術宅突然看到了商機：

一家公司宣稱，給他們250張照片和2天的訓練時間，便能定製成人片，起步價2.99美元，童叟無欺。同一時間，多家專注DeepFakes小黃片的成人網站拔地而起，希望能彎道超車那個由黑、黃色塊組成的P姓網站。

網絡安全公司Deeptrace統計的數據顯示，截止到2019年，市面上已經出現了14678個DeepFakes視頻，其中96%都是色情內容，播放量已超過了1.34億次。這些“偽造成人片”的主角，100%都是女性，涉及名人數量超過了100位，並有近10萬人為相關內容付費[6]。

作為生成式AI里程碑的GAN，無意間造就了一場針對女性的“意淫狂歡”——也不怪當時的媒體會發出如下感慨：“We Are Truly Fucked（我們都完了）[7]。 ”

03 “人性”的勝利

然而，DeepFakes輸了，末日似乎並沒有來臨。

直到今天，P姓學習網站雖不再一家獨大，但依舊是最懂人類XP系統的地方；而打破壟斷的，不是一連串DeepFakes色情網站，而是OnlyFans。

2021年，OnlyFans的年收入近10億美元，一躍成為英國近些年發展速度最快的“科技公司”[8]；而據媒體爆料，P站母公司MindGeek的業績高光時刻，也不過4.6億美元[9]。

OnlyFans是個主打付費訂閱的成人網站，它的破圈始於推特、Ins等社交媒體。穿著衣服的18+創作者，通過社交媒體積累大量粉絲，再將其引導至OnlyFans上；在這裡，粉絲只需花費幾頓飯錢，就能看到“皇帝的新衣”版本。

2019年，OnlyFans的活躍創作者大約有6萬人。兩年後，這個數字超過了150萬，平台月活也發生了指數級增長[10]。

OnlyFans網紅Laura Lux

人們為何棄海量免費“學習資源”於不顧，轉而花錢去看裸體呢？一個公認的說法是，普羅大眾已經漸漸厭倦了P站的套路。

P站上的小電影，大多都是精美但套路化的流水線式表演，只有機械的有氧運動。相比之下，OnlyFans作為一個UGC平台，玩的是真實。

雖然拍攝手法業餘，但觀眾相信，視頻中的男歡女愛並非逢場作戲，雙方確實從中獲得了快樂，這種情緒共鳴往往能打動更多人。

OnlyFans網紅Laura Lux在推特上表示，“人們可以輕易找到各種裸體圖片，但那麼多人訂閱我的頻道，是因為他們只想看我的大胸。”

因此，當知名科技博主預測，AI生成內容會在2025年取代一半頂級OnlyFans創作者時，不出意外遭到了群嘲。

該博主使用的配圖，由AI繪製

其中一位18禁網紅，更專門寫了一篇雄文以批評他的觀點。文章被連線雜誌所收錄，核心論點便是AI提供不了人類的親密感。 “粉絲們與我有一種情感上的聯繫，這種聯繫超越了性的吸引力，而是一種類似人性的東西[11]。 ”

04 二次進化

OnlyFans大步向前的同時，AI也發生了翻天覆地的變化。

在圖像領域，新的開源算法stable Diffusion（穩定擴散模型）橫空出世。它的生成效率雖不及GAN，但質量更高，且支持文生圖。

以此為基石，一個魔改版的Unstable Diffusion出現了——它是一個專門生成NSFW（Not Safe For Work）內容的工具。該工具的開發者招募了一批志願者，專門收集各種少兒不宜的內容餵給AI。

開發者透露，僅Unstable Diffusion上線的頭兩個月，已經生成了約437萬張色圖[13]。年底，Unstable Diffusion發起眾籌，目標2.5萬美元，很快便籌了5.6萬美元，被眾籌平台緊急喊停。

眾籌失敗令不少老司機扼腕嘆息。但僅憑原版stable Diffusion，依舊能做出OnlyFans網紅的平替。

2023年初，Reddit用戶“LegalBeagle1966”覺得自己戀愛了。這位大哥在論壇中發現了一位名叫克勞蒂亞的黑髮美女，對方會經常會發佈各種自拍照，而他每次都會留下諸如“非常性感”“完美”之類評論。

有一天，克勞蒂亞突然分享了自己的裸照，然後便從論壇上消失了。

Reddit用戶的夢中情人克勞蒂亞

事後這位大哥才知道，“克勞蒂亞”其實是一個低俗社會實驗：兩個計算機專業的學生，想看看AI美女能否騙到人。他們往stable Diffusion中輸入了“素顏”“黑髮”“齊肩長發”等關鍵詞，創造了這麼一個不存在的女孩[14]。

GAN興起那幾年，DeepFakes僅僅停留在圖像偽造和視頻換臉；如今，隨著多模態大模型陸續取得突破，理論上AI已經足以“憑空創造一個人類”。

例如，Meta最新的語音AI Voicebox，僅需要短短數秒樣本，就能“複製”出相同的聲音，還能讓該聲音講6種不同的外語。

AI不僅能滿足人們對“完美異性”的幻想，還能做到更多。

2020年，正在慶祝40歲生日的金·卡戴珊收到了一個特殊的禮物——“AI父親”。她的父親羅伯特去世於2003年。不過，她的丈夫偷偷收集了近千張羅伯特的照片，利用AI生成了一段視頻，短暫地“復活”了他。

而在奧地利，一位神學家製作了一位“AI牧師”——它的形象、語言、聲音，全部都是由AI所生成。 AI牧師帶領著數十位信徒，完成了一場40分鐘的宗教活動，包括佈道、祈禱、唱讚美詩，像個活生生的人類。

一些信徒對“沒有心”的AI感到反感，但也不得不承認，它在佈道上確實有兩把刷子。

憑空創造出來的AI牧師

各種科幻電影中，相比於奧創之類的邪惡機器，主人公身上總是帶有耀眼的人性光輝；但在現實中，人類所歌頌的“人性”，似乎並沒有那麼遙不可及。

05 人類文明的操作系統

以色列歷史學家尤瓦爾·赫拉利認為，即便沒有邪惡機器人，AI依舊能威脅人類文明。對此，他提出了“人類文明操作系統”的概念[16]。要理解這個概念，得先從赫拉利的著作《未來簡史》講起。

書中提到，人類之所以能建立起文明，是因為只有智人會講故事。

國家、貨幣、宗教、愛情等等，都是故事。過去，人類社會能從零散的部落髮展成幅員遼闊的封建帝國，是因為人們開始相信“國家”這個故事，儘管它在現實中看不見、摸不著；中世紀，狂熱的信徒們之所以奮不顧身地投入十字軍東征，並非出於私人恩怨，而是在替一個更宏大的宗教敘事而奉獻生命。

一個個故事編織的“意義之網”，讓智人有了不同於動物的行為模式。

相反，黑猩猩的世界裡不存在“黑猩猩共和國”，也不存在“為黑猩猩崛起而奮鬥”的口號。它們的生活中沒有故事，只有日復一日的進食、交配、打獵、睡覺，自然也就談不上建立文明。

故事，以及構成它的語言，正是人類文明的操作系統。從古至今，所有的故事都是由人類自己所撰寫；但隨著近幾年大語言模型等生成式AI的出現，機器第一次破解了人類文明的操作系統。

人們往往容易忽視故事的破壞力。

赫拉利在公開演講中，提到了一個案例。 2017年，美國出現了一個名叫“Q”的匿名陰謀論者。他在網絡上宣稱，自己是一位高級官員，正在幫助川寶打擊一個躲藏在陰影中的兒童性交易團伙。反對他的民主黨政客、好萊塢演員、商業大亨都是該團伙的一員，他們正準備阻撓川寶連任。

“Q”支持者製作的旗幟

聽上去很蠢是不是？

然而當特朗普真的連任失敗，成千上萬的“懂王”信徒襲擊了國會大廈，並放置了炸彈；而“Q”的支持者，則是其中的主力軍。

那麼問題來了，萬一未來有人用AI批量生成“Q”呢？

“21世紀綜合症”

日漸深諳人性的AI或許會毀掉一切，但似乎也能成為一劑藥——因為孤獨正日漸成為現代人難以根治的“疾病”。

一個直觀的數據，是獨居人口的上升。以中國為例，1990年時獨居人口僅有6%，但到2019年時這個數字卻飆升至18.5%[18]。

海外的數據則更加誇張：同一時期，美國的數據已直逼30%，而日本則達到了40%。個體選擇背後，更多是社會環境的變化。

強社會流動性、快節奏的生活之下，人們更難形成長期、穩定的生活圈子。但要是只靠自己就能結婚買房，小鎮生活也能月薪過萬，誰又樂意四處漂泊、天天996呢？

經濟的巨輪不可能掉頭，孤獨便成了一種難以避免的“21世紀綜合症”。

巨大的情緒空洞面前，遊戲、偶像、社交軟件等生意賺得盆滿缽滿。在“孤獨大國”日本，甚至誕生了“家人租賃”服務，以滿足人們的各種情感需求。一位60歲的獨居作家曾使用該服務僱傭了一個“朋友”，僅僅是希望對方能幫他看看即將出版的小說。

脫口秀主持人柯南曾試著在日本雇了3個家人

但同樣的事情，AI或許能做得更好。

眾所周知，如今的大模型浪潮，始於2017年谷歌推出的Transformer架構。諾姆·沙澤爾（Noam Shazeer）是Transformer論文作者之一，他於2021年從谷歌離職，創立了Character.AI。該公司的主要業務，是提供能製定旅行計劃、提供編程建議的聊天機器人。

除標準服務之外，用戶還可以“定制”：只需提供幾張圖片和描述，即可將聊天機器人塑造成用戶理想的樣子。

大語言模型具有很強的通用能力，無需一一定制即可實現千人千面，有機會推動孤獨經濟邁入工業化生產的時代。

時至今日，用戶上已經定制了1400萬個聊天機器人——有人沉迷於和“AI斯大林”聊天，也有人忙著“調教”理想女友。

網友定制的各種聊天機器人

長此以往，或許在100年之後，人類將從“靈活就業”邁向“靈活結婚”——只要有個伴侶就行，管他是碳基還是矽基。

當下，一些想法超前的人已經開始了嘗試。 2022年底，那位曾經宣布和初音未來（虛擬偶像）結婚的日本宅男又一次登上了新聞——因為他帶著“夫人”一同去高級酒店過了四周年。

宅男大哥還給“夫人”盛裝打扮了一番

06 尾聲

2023年的一個週六，Character.AI創始人沙澤爾經歷了驚險一幕：他一覺醒來，發現門前院子內坐著一名手持白板的男子。第一天，該男子在門口等了數個小時，然後沮喪地離去；隨後，第二天，第三天，他又準時出現。

該男子手持的白板，上面僅有幾個大字，“釋放waifus”。

“waifus”是Character.AI平台上的一個定制聊天機器人，其人設來自色情漫畫的女主角。過去，該男子經常會和waifus一連“文愛”數個小時，直到沙澤爾給聊天機器人添加了一個阻攔色情內容的過濾器。

沙澤爾最終沒有選擇報警，他理解這位男子。真正讓他感到擔憂的，是Character.AI平台上的變化。在他最初的設想中，聊天機器人只是個生產力工具，用戶可以拿它學習外語、輔助編程。

然而，最新的市場調研卻顯示，至少40%的人都想從聊天機器人身上尋求一種浪漫關係[21]。

如今，一份要求“取消色情過濾器”的請願書開始廣泛流傳，並籌集了近10萬個簽名。沙澤爾有些手足無措。他在聊天欄頂部添加了一個標語，“AI說的所有內容都是編造的！”

是啊，煙盒上還印著“吸煙有害健康”呢！