可能從來沒有一項技術能像 AI 大模型一樣，在短短幾個月內迅速成爲科技界乃至整個社會的共識。今天，所有科技巨頭和主要政府幾乎都篤定地認爲 AI 將改變世界，改變一切。

但在一個大的共識背後，還有太多問題，一方面是切實的——在工作上的替代、虛假內容的泛濫以及不平等的使用門檻等等，另一方面則是長期以來人類藝術作品裏表達的「文明的威脅」。根據《連线》雜志報道，OpenAI 在一份財務文件甚至規定了當 AI 摧毀人類經濟體系時的退出機制。

今年 7 月，在 IBM 總部舉辦的一次活動上，美國參議院多數黨領袖查克·舒默（Chuck Schumer）表示，他將召开一系列人工智能會議，「讓最優秀的人坐在桌前，互相交流，回答問題，努力達成一些共識和解決方案，參議員和我們的工作人員以及其他人只是傾聽。」最終，舒默希望基於會議上的交流，「爲人工智能政策立法奠定基礎」。

兩個月後，會議开始了，包括來自頂級科技公司的 22 位與會者都參加了閉門會議，他們其中有 OpenAI CEO 山姆·阿爾特曼、英偉達 CEO 黃仁勳、谷歌 CEO 桑達爾·皮查伊、Meta CEO 馬克·扎克伯格等人，也有上一代互聯網的科技領袖微軟創始人比爾·蓋茨和谷歌前 CEO 埃裏克·施密特。

AI 一定要被「管」起來

沒有人會否認人工智能的巨大潛力，但關於人工智能的風險、安全措施、監管以及未來，我們還缺少很多共識，唯一可以肯定的是，人類不可能完全放任人工智能的野蠻生長。

在離开第一次閉門會議後，特斯拉、SpaceX、Neuralink CEO 伊隆·馬斯克就公开表示，這次聚會是「歷史性的」，他贊同成立一個新的機構來監管人工智能的想法，並重新強調了人工智能構成的巨大風險。

「人工智能出錯的後果是嚴重的，所以我們必須積極主動而不是被動反應，」馬斯克說，「問題實際上是一個文明風險的問題，這對世界各地的所有人類都有潛在的風險。」

馬斯克沒有深入闡述所謂人工智能對人類文明的具體危害，但當人工智能更多地參與到電網、供水系統以及車輛系統的管理控制之中，一旦出錯就會帶來大量的問題。計算機科學家、人工智能研究人員 Deb Raji 也提到了，人工智能的偏見性決定就影響社會的方方面面。

更何況，還有長久以來人類的對人工智能的擔憂。

但要如何減少和防止人工智能帶來的風險？微軟總裁布拉德·史密斯（Brad Smith）提出，我們需要爲人工智能可能形成的巨大風險建立「緊急制動器」，尤其是在管理電網和供水系統等關鍵基礎設施的人工智能系統之中，「這樣我們才能確保許多人擔心的威脅仍然只存在在科幻小說裏，不會成爲新的現實。」

布拉德·史密斯，圖/ 

史密斯認爲，就像每一棟建築和家庭中都有的斷路器，如果需要的話，可以立即阻止電力系統運行，人工智能系統也需要類似的「緊急制動器」，確保人類不會受到此類系統的大規模傷害。

無獨有偶，英偉達首席科學家兼高級副總裁威廉·達利（William Dally）也指出了，人工智能作爲一個計算機程序出錯的可能和造成的嚴重傷害，關鍵在於「人類的參與」，即將人類置於人工智能工作的關鍵環節中，制約人工智能的一些決策權力。

威廉·達利，圖/英偉達

「所以我認爲，只要我們對如何部署人工智能保持謹慎，讓人類處於關鍵環節中，從而可以確保人工智能不會接管並關閉我們的電網或導致飛機從天而降，」達利說。

AI 开源會是潘多拉盒嗎？

去年年底，ChatGPT 在科技圈內第一次火起來的時候，就有人表達了對 AI 模型被用於詐騙等惡性行爲的擔憂。开源似乎在加劇了「被濫用」的風險。

在會議上，其中一個爭論就是圍繞着可供公衆下載和修改的「开源」AI 模型展开。這些模型的开放代碼能讓企業和研究人員得以使用類似於 ChatGPT 背後的 AI 技術，無需投入巨量的資金和資源訓練。

但壞人也可能會濫用开源 AI 系統，包括 OpenAI 從 GPT-3.5 开始就停止了开源行爲，OpenAI 聯合創始人兼首席科學家 Ilya Sutskever 就表示，「幾年後，每個人都會清楚地看到，开源人工智能是不明智的。」

Ilya Sutskever 與黃仁勳在 GDC 上的對談，圖/英偉達

被問及原因時，他談到，「這些模型非常強，而且會變得越來越強，在某個時候，如果有人想的話，很容易用這些模型造成很大傷害。」

另外，DeepMind 聯合創始人、Inflection AI CEO Mustafa Suleyman 不久前也提到开源的風險，他指出 AI 开源的關鍵問題在於，「權力的迅速擴散」將使得單一個體就能對世界造成前所未有的傷害和影響，「在未來 20 年內，天真的开源，幾乎肯定會造成災難」。

Mustafa Suleyman，圖/DeepMind

不過 Meta 顯然並不同意這些說法，Meta CEO 扎克伯格反駁說，开源將「AI 變得民主化，有助於公平競爭，促進個人和企業創新」。但同時他也表示，开源模式也許會帶來危險，然而 Meta 正在盡可能安全地構建這項技術。

當 AI 遇見开源，這依然是一個懸而待決的問題。

寫在最後

距今 2104 年前，漢武帝去世七年後，漢廷召开了一場史無前例的策問，其中一個主要的問題是武帝時期實行的鹽鐵酒國營專賣政策的廢立修改，爲此召集了「賢良、文學六十余人」以及御史大夫桑弘羊等政府官員，後世稱之爲「鹽鐵會議」。不過這場鹽鐵會議，根本上討論的其實是漢王朝的經濟政策走向。

盡管主題不同，年代環境更是天差地別，但不論兩千多年前的鹽鐵會議，還是現在人工智能見解論壇，都是面對一個巨大的問題，希望通過「群賢」交流辯問，以此作爲立法之基礎。

圖/谷歌

在前不久谷歌 25 周年的紀念文章中，現任谷歌 CEO 桑達爾·皮查伊（Sundar Pichai）寫到：

（谷歌）參與有關這些技術將如何塑造我們社會的重要辯論，然後共同尋找答案。人工智能是其中的關鍵部分。盡管我們對人工智能造福人類和社會的潛力感到興奮，但我們知道人工智能與任何早期技術一樣，也帶來復雜性和風險。我們對人工智能的开發和使用必須解決這些風險，並幫助負責任地开發技術。

幾天後，包括 Adobe、Cohere、IBM、英偉達、Palantir、賽富時、Scale AI 和 Stability 八家成爲第二批籤署「負責任地开發人工智能（AI）技術」協議的公司。很多時候，面對單個個體或者單個公司/政府無法的解決的問題，我們必須意識到「共同努力」的價值。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。