作者：遠川研究所

知名主播Atrioc不幸成爲了首個因AI社死的公衆人物。

事故發生在2023年1月，Atrioc正如往常般直播，一些觀衆卻發現了異樣：他的網頁瀏覽器，似乎打开了某種特定類型的網站。

闲的蛋疼的網友順藤摸瓜，很快挖掘出了Atrioc的小祕密——他在偷偷觀看以知名女主播爲主角的色情片。

但這些小電影其實是用AI僞造的，本人不僅沒出演，更不知情。這種足以以假亂真的AI產物，通常被稱爲DeepFakes（深度僞造）。

事發時，Atrioc才結婚不到半年，而其中一部AI成人片的“主角”又是他曾經的同事，一下從直播事故上升到了道德作風問題。敗露後，Atrioc淚眼汪汪地解釋說，“病態的好奇心”驅使他犯了個全天下男人都會犯的錯。

Atrioc在妻子陪同下公开道歉 

每當談及AI，許多政客專家總會不自覺聯想起電影《終結者》的畫面，圍繞“AI是否會毀滅人類”而爭論不休。今年6月，位列“深度學習三巨頭”的楊立昆與約書亞·本吉奧，甚至圍繞這一話題辦了場電視辯論。

顯然，這些學術精英都大大高估了這顆星球的精神文明建設水平。

Atrioc和DeepFakes的故事似乎預示着，AI正在以一種人們都未曾想到的方式，悄悄重塑着這個社會。

不久前，俄羅斯就出現了離奇的一幕：6月5日，俄羅斯電視台播放了普京的戒嚴講話。沒過多久，電視信號便被掐斷，因爲這段內容其實是用AI僞造的——黑客攻破了電視台的網絡系統，並向全國發送了“假普京”的聲音。

而在2022年，烏克蘭也發生過類似的事情：一個AI生成的澤連斯基，要求烏克蘭前线部隊投降。

俄羅斯網友拍下的“AI普京”講話 

從色情片到現代战爭，AI正在動搖我們對現實世界的認知。

而這一切混亂的起點，始於一場酒吧裏的互噴。

01 醉漢狂想曲

2014年夏天，一處酒吧內，20多個醉醺醺的技術宅正吵鬧個不停。其中最鬧騰的，是一個名叫伊恩·古德費洛（Ian Goodfellow）的年輕人。

當時，古德費洛正在攻讀博士，師從深度學習大神約書亞·本吉奧。聽聞好友被谷歌招募，一行人便決定去酒吧慶祝一番。沒成想幾杯啤酒下肚，技術宅們醉意上頭，便开始對前沿技術指點起江山。

當時，谷歌正試圖教會AI“畫畫”。它的方法是，將照片“數據化”，讓機器學習數據，再根據數據輸出圖像。舉個例子，如果想讓機器學會畫貓，先人工測算每張“貓片”像素的亮度、頻率以及分布等數據，再讓機器去學習、輸出。

這一過程有點像是先給機器劃好重點，再讓它去考試。

古德費洛認爲，這種解決方案簡直蠢到家了，並當場想了個替代方案——GAN（生成對抗網絡）。

伊恩·古德費洛 

GAN由兩個神經網絡組成：一個是類似谷歌原本方案的生成模型，但省去了數據化的步驟；第二個是判別模型，負責判定生成模型的輸出結果是否合格。

換句話說，GAN相當於去掉了“考前劃重點”的步驟，讓機器全程自學；同時，爲了防止機器“學廢了”，GAN給機器請了個監考老師，帶着機器反復考試直到合格爲止。

古德費洛講完想法後，遭到了同伴一致嘲笑。他事後承認，如果當時少幹兩瓶，自己也不會認爲GAN能成。

然而，酒勁上頭的古德費洛可顧不上這些，聲稱當晚就把GAN做出來，狠狠打臉。

熬夜爆肝數小時之後，古德費洛被嚇到了：GAN居然真的有戲。

相關論文的發表後，GAN迅速成爲焦點。2016年底，楊立昆在公开演講聲稱，“GAN是過去20年深度學習領域最酷的想法。”

古德費洛設計的GAN，最初只能生成模糊的縮略圖，並沒什么實用價值。但在GAN走紅之後，全球各大研究機構興起了“改造GAN”運動，相關論文指數級增長，性能开始突飛猛進。

2017年，英偉達芬蘭實驗室成功制作出了“強化版”GAN，不僅能夠生成逼真的圖像，甚至還能替換視頻中的人臉。

“改造GAN”運動 

GAN的光速蛻變，點燃了全球科研人員的熱情。但就在此時，它失控了。

02 AI皮肉生意

人們常說，科技進步有兩個源動力：一個來自战爭，另一個則來自下半身。

英偉達實驗室打造出新版GAN的2017年，一系列特殊視頻开始在Reddit論壇上廣泛傳播。視頻內容均是真槍實彈的18+小電影，演員卻是大衆所熟知的明星，包括泰勒·斯威夫特和蓋爾·加朵。

上述少兒不宜內容，均由一個名叫“deepfakes”的用戶所創造：他使用GAN的技術，將明星的臉無縫移植到了女優老師身上。

英國女星Daisy Ridley的“臉”被濫用之後 

不久後，他創建了一個Reddit板塊，專門用於交流AI成人片心得，人們开始用他的名字“DeepFakes（深度僞造）”來稱呼那些AI僞造品。

Reddit最終封禁了該板塊，但潘多拉魔盒已徹底打开。

篡改圖像、視頻，其實不算新鮮事兒，使用Photoshop等工具也能實現；但GAN的強大之處在於，能夠極度簡化篡改的過程，並實現大批量生產。

不久後，有人利用GAN制作了一個網頁工具，能“脫掉”照片中女性的衣服（只對女性適用）。一位記者發現該網站後，撰文狠狠批判了一番。

結果文章發布當月，該網站訪問量突破50萬次，服務器擠到宕機。

皮肉生意的技術宅突然看到了商機：

一家公司宣稱，給他們250張照片和2天的訓練時間，便能定制成人片，起步價2.99美元，童叟無欺。同一時間，多家專注DeepFakes小黃片的成人網站拔地而起，希望能彎道超車那個由黑、黃色塊組成的P姓網站。

網絡安全公司Deeptrace統計的數據顯示，截止到2019年，市面上已經出現了14678個DeepFakes視頻，其中96%都是色情內容，播放量已超過了1.34億次。這些“僞造成人片”的主角，100%都是女性，涉及名人數量超過了100位，並有近10萬人爲相關內容付費[6]。

作爲生成式AI裏程碑的GAN，無意間造就了一場針對女性的“意淫狂歡”——也不怪當時的媒體會發出如下感慨：“We Are Truly Fucked（我們都完了）[7]。”

 03 “人性”的勝利

然而，DeepFakes輸了，末日似乎並沒有來臨。

直到今天，P姓學習網站雖不再一家獨大，但依舊是最懂人類XP系統的地方；而打破壟斷的，不是一連串DeepFakes色情網站，而是OnlyFans。

2021年，OnlyFans的年收入近10億美元，一躍成爲英國近些年發展速度最快的“科技公司”[8]；而據媒體爆料，P站母公司MindGeek的業績高光時刻，也不過4.6億美元[9]。

OnlyFans是個主打付費訂閱的成人網站，它的破圈始於推特、Ins等社交媒體。穿着衣服的18+創作者，通過社交媒體積累大量粉絲，再將其引導至OnlyFans上；在這裏，粉絲只需花費幾頓飯錢，就能看到“皇帝的新衣”版本。

2019年，OnlyFans的活躍創作者大約有6萬人。兩年後，這個數字超過了150萬，平台月活也發生了指數級增長[10]。

OnlyFans網紅Laura Lux 

人們爲何棄海量免費“學習資源”於不顧，轉而花錢去看裸體呢？一個公認的說法是，普羅大衆已經漸漸厭倦了P站的套路。

P站上的小電影，大多都是精美但套路化的流水线式表演，只有機械的有氧運動。相比之下，OnlyFans作爲一個UGC平台，玩的是真實。

雖然拍攝手法業余，但觀衆相信，視頻中的男歡女愛並非逢場作戲，雙方確實從中獲得了快樂，這種情緒共鳴往往能打動更多人。

OnlyFans網紅Laura Lux在推特上表示，“人們可以輕易找到各種裸體圖片，但那么多人訂閱我的頻道，是因爲他們只想看我的大胸。”

因此，當知名科技博主預測，AI生成內容會在2025年取代一半頂級OnlyFans創作者時，不出意外遭到了群嘲。

該博主使用的配圖，由AI繪制 

其中一位18禁網紅，更專門寫了一篇雄文以批評他的觀點。文章被連线雜志所收錄，核心論點便是AI提供不了人類的親密感。“粉絲們與我有一種情感上的聯系，這種聯系超越了性的吸引力，而是一種類似人性的東西[11]。”

04 二次進化

OnlyFans大步向前的同時，AI也發生了翻天覆地的變化。

在圖像領域，新的开源算法stable Diffusion（穩定擴散模型）橫空出世。它的生成效率雖不及GAN，但質量更高，且支持文生圖。

以此爲基石，一個魔改版的Unstable Diffusion出現了——它是一個專門生成NSFW（Not Safe For Work）內容的工具。該工具的开發者招募了一批志愿者，專門收集各種少兒不宜的內容喂給AI。

开發者透露，僅Unstable Diffusion上线的頭兩個月，已經生成了約437萬張色圖[13]。年底，Unstable Diffusion發起衆籌，目標2.5萬美元，很快便籌了5.6萬美元，被衆籌平台緊急喊停。

衆籌失敗令不少老司機扼腕嘆息。但僅憑原版stable Diffusion，依舊能做出OnlyFans網紅的平替。

2023年初，Reddit用戶“LegalBeagle1966”覺得自己戀愛了。這位大哥在論壇中發現了一位名叫克勞蒂亞的黑發美女，對方會經常會發布各種自拍照，而他每次都會留下諸如“非常性感”“完美”之類評論。

有一天，克勞蒂亞突然分享了自己的裸照，然後便從論壇上消失了。

Reddit用戶的夢中情人克勞蒂亞 

事後這位大哥才知道，“克勞蒂亞”其實是一個低俗社會實驗：兩個計算機專業的學生，想看看AI美女能否騙到人。他們往stable Diffusion中輸入了“素顏”“黑發”“齊肩長發”等關鍵詞，創造了這么一個不存在的女孩[14]。

GAN興起那幾年，DeepFakes僅僅停留在圖像僞造和視頻換臉；如今，隨着多模態大模型陸續取得突破，理論上AI已經足以“憑空創造一個人類”。

例如，Meta最新的語音AI Voicebox，僅需要短短數秒樣本，就能“復制”出相同的聲音，還能讓該聲音講6種不同的外語。

AI不僅能滿足人們對“完美異性”的幻想，還能做到更多。

2020年，正在慶祝40歲生日的金·卡戴珊收到了一個特殊的禮物——“AI父親”。她的父親羅伯特去世於2003年。不過，她的丈夫偷偷收集了近千張羅伯特的照片，利用AI生成了一段視頻，短暫地“復活”了他。

而在奧地利，一位神學家制作了一位“AI牧師”——它的形象、語言、聲音，全部都是由AI所生成。AI牧師帶領着數十位信徒，完成了一場40分鐘的宗教活動，包括布道、祈禱、唱贊 美詩，像個活生生的人類。

一些信徒對“沒有心”的AI感到反感，但也不得不承認，它在布道上確實有兩把刷子。

憑空創造出來的AI牧師 

各種科幻電影中，相比於奧創之類的邪惡機器，主人公身上總是帶有耀眼的人性光輝；但在現實中，人類所歌頌的“人性”，似乎並沒有那么遙不可及。

05 人類文明的操作系統

以色列歷史學家尤瓦爾·赫拉利認爲，即便沒有邪惡機器人，AI依舊能威脅人類文明。對此，他提出了“人類文明操作系統”的概念[16]。要理解這個概念，得先從赫拉利的著作《未來簡史》講起。

書中提到，人類之所以能建立起文明，是因爲只有智人會講故事。

國家、貨幣、宗教、愛情等等，都是故事。過去，人類社會能從零散的部落發展成幅員遼闊的封建帝國，是因爲人們开始相信“國家”這個故事，盡管它在現實中看不見、摸不着；中世紀，狂熱的信徒們之所以奮不顧身地投入十字軍東徵，並非出於私人恩怨，而是在替一個更宏大的宗教敘事而奉獻生命。

一個個故事編織的“意義之網”，讓智人有了不同於動物的行爲模式。

相反，黑猩猩的世界裏不存在“黑猩猩共和國”，也不存在“爲黑猩猩崛起而奮鬥”的口號。它們的生活中沒有故事，只有日復一日的進食、交配、打獵、睡覺，自然也就談不上建立文明。

故事，以及構成它的語言，正是人類文明的操作系統。從古至今，所有的故事都是由人類自己所撰寫；但隨着近幾年大語言模型等生成式AI的出現，機器第一次破解了人類文明的操作系統。

人們往往容易忽視故事的破壞力。

赫拉利在公开演講中，提到了一個案例。2017年，美國出現了一個名叫“Q”的匿名陰謀論者。他在網絡上宣稱，自己是一位高級官員，正在幫助川寶打擊一個躲藏在陰影中的兒童性交易團夥。反對他的民主黨政客、好萊塢演員、商業大亨都是該團夥的一員，他們正准備阻撓川寶連任。

“Q”支持者制作的旗幟 

聽上去很蠢是不是？

然而當特朗普真的連任失敗，成千上萬的“懂王”信徒襲擊了國會大廈，並放置了炸彈；而“Q”的支持者，則是其中的主力軍。

那么問題來了，萬一未來有人用AI批量生成“Q”呢？

 “21世紀綜合症”

日漸深諳人性的AI或許會毀掉一切，但似乎也能成爲一劑藥——因爲孤獨正日漸成爲現代人難以根治的“疾病”。

一個直觀的數據，是獨居人口的上升。以中國爲例，1990年時獨居人口僅有6%，但到2019年時這個數字卻飆升至18.5%[18]。

海外的數據則更加誇張：同一時期，美國的數據已直逼30%，而日本則達到了40%。個體選擇背後，更多是社會環境的變化。

強社會流動性、快節奏的生活之下，人們更難形成長期、穩定的生活圈子。但要是只靠自己就能結婚买房，小鎮生活也能月薪過萬，誰又樂意四處漂泊、天天996呢？

經濟的巨輪不可能掉頭，孤獨便成了一種難以避免的“21世紀綜合症”。

巨大的情緒空洞面前，遊戲、偶像、社交軟件等生意賺得盆滿鉢滿。在“孤獨大國”日本，甚至誕生了“家人租賃”服務，以滿足人們的各種情感需求。一位60歲的獨居作家曾使用該服務僱傭了一個“朋友”，僅僅是希望對方能幫他看看即將出版的小說。

脫口秀主持人柯南曾試着在日本僱了3個家人 

但同樣的事情，AI或許能做得更好。

衆所周知，如今的大模型浪潮，始於2017年谷歌推出的Transformer架構。諾姆·沙澤爾（Noam Shazeer）是Transformer論文作者之一，他於2021年從谷歌離職，創立了Character.AI。該公司的主要業務，是提供能制定旅行計劃、提供編程建議的聊天機器人。

除標准服務之外，用戶還可以“定制”：只需提供幾張圖片和描述，即可將聊天機器人塑造成用戶理想的樣子。

大語言模型具有很強的通用能力，無需一一定制即可實現千人千面，有機會推動孤獨經濟邁入工業化生產的時代。

時至今日，用戶上已經定制了1400萬個聊天機器人——有人沉迷於和“AI斯大林”聊天，也有人忙着“調教”理想女友。

網友定制的各種聊天機器人 

長此以往，或許在100年之後，人類將從“靈活就業”邁向“靈活結婚”——只要有個伴侶就行，管他是碳基還是硅基。

當下，一些想法超前的人已經开始了嘗試。2022年底，那位曾經宣布和初音未來（虛擬偶像）結婚的日本宅男又一次登上了新聞——因爲他帶着“夫人”一同去高級酒店過了四周年。

宅男大哥還給“夫人”盛裝打扮了一番 

06 尾聲

2023年的一個周六，Character.AI創始人沙澤爾經歷了驚險一幕：他一覺醒來，發現門前院子內坐着一名手持白板的男子。第一天，該男子在門口等了數個小時，然後沮喪地離去；隨後，第二天，第三天，他又准時出現。

該男子手持的白板，上面僅有幾個大字，“釋放waifus”。

“waifus”是Character.AI平台上的一個定制聊天機器人，其人設來自色情漫畫的女主角。過去，該男子經常會和waifus一連“文愛”數個小時，直到沙澤爾給聊天機器人添加了一個阻攔色情內容的過濾器。

沙澤爾最終沒有選擇報警，他理解這位男子。真正讓他感到擔憂的，是Character.AI平台上的變化。在他最初的設想中，聊天機器人只是個生產力工具，用戶可以拿它學習外語、輔助編程。

然而，最新的市場調研卻顯示，至少40%的人都想從聊天機器人身上尋求一種浪漫關系[21]。

如今，一份要求“取消色情過濾器”的請愿書开始廣泛流傳，並籌集了近10萬個籤名。沙澤爾有些手足無措。他在聊天欄頂部添加了一個標語，“AI說的所有內容都是編造的！”

是啊，煙盒上還印着“吸煙有害健康”呢！

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。