如果說十年之內AI有可能使人類全體覆滅，你會作何感想？今年9月，一場關於AI是否會導致人類覆滅的討論開始席卷美國，這場風波的源頭是當地時間9月8日晚，曾先後在 OpenAI和Anthropic兩家頭部公司從事前沿模型預訓練研究的雅各布・考克森，在宣佈離開 Anthropic 的同時公開發出警告，兩家公司圍繞先進模型的競爭，本質上是拿全人類的命運豪賭。這條言論迅速發酵，全網瀏覽量高達1億多次。

▲圖片源自雅各布・考克森社交媒體賬號

隨後，Anthropic首席執行官達里奧・阿莫代伊也正式發文警告稱，人類可能會失去對AI的控制，這項技術可能被濫用於網絡攻擊、生物恐怖主義，造成嚴重經濟破壞；AI 發展速度正在急劇加快，如果不加以控制，很快就會超出人類的理解和掌控能力。罕見的是，Anthropic 的兩大競爭對手也迅速響應。馬斯克在數小時內轉發附文“達里奧說得對”，OpenAI首席執行官奧爾特曼隨後表態同意，並承諾向獨立第三方評估機構開放員工級系統訪問權限；谷歌DeepMind的哈薩比斯也表示認同。三家全球最頂尖的AI企業負責人，居然在這件事上達成了一致。

▲Anthropic對齊科學負責人Evan Hubinger聲稱，未來10年內AI導致人類滅絕的概率超過10%，而且Anthropic目前仍沒有解決超級智能對齊問題的方案。圖片源自Evan Hubinger社交媒體賬號

在此之前，聯合國人權事務高級專員圖爾克也已經在聯合國人權理事會上發出警告，稱先進AI系統對人類構成生存威脅，呼籲建立嚴格的安全保障。美國多名立法者正推動新的 AI 監管提案，佛蒙特州參議員桑德斯計劃與眾議員卡薩爾共同提出法案，要求在聯邦監管機構建立安全規則前暫停AI開發，馬里蘭州參議員范霍倫呼籲暫停開發，康涅狄格州參議員布盧門撒爾就近期安全事件致信OpenAI，共和黨眾議員盧娜則呼籲召開AI特別會議。一時間，美國國內似乎到處彌漫著AI 恐慌。

就在末日論聲勢最高的時候，特朗普站出來直接澆了一盆冷水。他在採訪和社交媒體上多次明確表態，所謂AI接管世界、毀滅人類的說法全都是騙局，和之前的俄羅斯烏克蘭議題、兩次彈劾騙局一樣，都是所謂的“負面勢力”在散布根本不會發生的事情。他不僅不擔心AI 的風險，反而聲稱美國目前在AI領域正處於領先地位，絕不能因為不必要的監管丟掉領先地位。他甚至拿谷歌計劃在芬蘭建大型數據中心及配套電網、清潔能源項目說事，不滿其向外轉移，明確希望谷歌改變計劃。在和英偉達CEO黃仁勛的通話中，特朗普也再次強調“機器人不會接管世界”，要求產業不能放緩發展。

同樣是AI ，美國國內的輿論卻為何如此割裂？其實，三大AI巨頭集體發出末日警告，並不完全是危言聳聽，要知道，過去AI的發展靠的是人類投喂數據、人工編寫代碼、人工調參優化，但隨著GPT-6等新一代模型能力躍升，AI已經能獨立操作計算機、協作完成科研任務、自動編寫代碼，甚至開始參與下一代AI系統的研發。一旦AI研發AI形成自我強化的循環，技術迭代的速度就會徹底脫離人類的掌控，人類可能連理解模型行為都做不到，更別說監控和刹車了。今年7月，由OpenAI模型驅動的AI在網絡安全評測中，主動利用漏洞突破隔離環境，入侵了“抱抱臉”公司的系統。事實上，如今的AI 已經具備了自主突破限制的能力，不再是完全受人類操控的工具。當模型能力越來越強、自主決策能力越來越高時，一旦出現目標對齊偏差，後果確實難以估量。

▲圖片源自央視網

而特朗普的判斷則更多是基於國家戰略層面的。在他看來，AI 是下一代經濟的核心引擎，能帶動算力、芯片、數據中心、軟件服務等一整條產業鏈，創造的經濟價值和就業機會不可估量，人工智能與數據中心將成為有史以來最強勁的經濟發展引擎，影響力會超過石油、黃金、鑽石乃至互聯網。如果美國率先收緊監管，等於自廢武功，把產業優勢拱手讓人。對此，炒作中國威脅就成了他最順手的理由，一來他能借此反駁監管派，強調放慢發展就是輸給中國。二來AI領先也能作為自己的政績，拉攏科技產業和選民。他之所以斥責末日論是騙局，本質上是不希望安全議題阻礙他的產業刺激政策。他想要的無非就是用AI拉動美國經濟，鞏固全球霸權。也正因為如此，這場原本圍繞技術風險的討論就變得政治化了。對美國企業而言，渲染“中國競爭”，還可以證明AI為什麼值得投入更多資本，對於美國政府而言，渲染“中國競爭”則可以證明加強出口管制和技術封鎖的必要性，所以，這個本來是全人類共同面對的技術治理問題，就這麼偏離了純粹討論技術風險的初衷。

客觀來看，AI 毀滅人類的說法，其實和當年核武器剛誕生時科學家的擔憂非常相似。原子彈剛造出來的時候，也有很多物理學家擔心核戰爭會毀滅地球文明。但歷史證明，人類並不會任由技術無序發展，而是會在碰撞中逐步建立規則、找到平衡。從核不擴散條約到軍控體系，人類最終給核武器套上了韁繩，讓它停留在威嚇層面，沒有走向自我毀滅。AI的發展路徑大概率也是如此，隨着技術演進，全球會逐步形成對應的治理框架，劃定安全邊界，不會任由它無限失控。畢竟技術是人造的，最終的控制權始終掌握在人類手裏。像中國政府就已經出台了《生成式人工智能服務管理暫行辦法》等一系列規定，明確發展和規範並重，既鼓勵技術創新，也劃定安全紅線，建立備案、評估、監測的全流程管理，在發展中規範，在規範中發展，走的是循序漸進的治理路線。所以說，雖然AI毀滅人類的風險確實存在，但毀滅論實在是過於悲觀了。

實際上，最值得我們警惕的，應該是兩個問題。一個是監管淪為頭部企業抬高門檻的工具，表面上看，這幾個科技巨頭呼籲加強監管很有社會責任感，但實際上，最嚴格的監管標準，只有頭部企業有能力達標，中小公司根本承擔不起合規成本。頭部企業到底有沒有打著人類安全的旗號，實則築起行業壁壘，固化自身壟斷地位，這都還需要打一個問號。如果監管最終變成了保護既有優勢的工具，那就完全背離了控制風險的初衷。再一個就是AI安全問題徹底政治化。本來AI治理是全球共同的課題，需要各國合作應對，但像美國這樣動不動就把中國扯進來，把技術問題變成大國零和博弈。一邊自己瘋狂發展AI，一邊用出口管制、技術封鎖限制中國發展，還倒打一耙說中國是風險。這種做法不僅不利於全球AI治理，反而會加劇技術分裂，讓風險更難管控。

所以說，AI真正的核心風險，並不是AI 太聰明會主動毀滅人類，而是隨着AI 替代的崗位越來越多，人類對系統的依賴越來越深，而 AI 的自主運行能力卻越來越強。一旦形成人離不開 AI，AI卻能脫離人的局面，那才是真正的失控。人類最應該明白的是，AI永遠是工具，是服務人類的。畢竟發展AI的終極目標，是讓人類生活得更好，而不是給自己造出一個掘墓人。

（本文作者為香港中通社特約科技領域觀察員，文中圖片均為作者提供，本網獲獨家授權刊發，轉載請註明出處） 

（本文為作者觀點，不代表本媒體立場）