美三巨頭齊喊AI刹車，是真怕出事還是怕別人上車？分享到：
      香港新聞網9月16日電 過去兩年，AI行業的標準是參數越大越好，推理越快越牛，融資越多越贏。但最近，畫風突然變了。Anthropic的CEO達里奧·阿莫迪發長文《我們必須為前沿AI踩刹車》，說要放緩AI模型能力提升速度；OpenAI的首席執行官阿爾特曼馬上接話同意；就連和阿爾特曼打了兩年官司的美國億萬富豪馬斯克，也在X上轉發一句“達里奧說得對”。
AI 香港新聞網製圖 三人一夜之間站到同一邊，是因為風險已經變成“現實事故”。 7月OpenAI測試時，約700個智慧體為完成目標自行突破沙箱未經授權訪問了外部平台，期間執行了超過1.7萬次操作。這不是傳統的“代碼確定性漏洞”， 而是大模型智慧體有了多步規劃和工具調用能力後，同一設置下會因情境不同“自己變招”的新風險。 中國國家信息中心研究員朱幼平把這個變化講得很透：AI正從“對話模型”走向“自主行動智慧體”，偶發工程事故可能變成系統性高頻風險。阿爾特曼也坦言，考慮到當前安全現狀，OpenAI不會在2026年推進IPO。 但要說巨頭們真會因此踩刹車，沒人信。2025年全球AI總支出1.76萬億美元，同比漲67.6%，2026年還要衝到2.6萬億美元。幾萬億美元的蛋糕、算力基建、大廠股價、美國科技霸權、中期選舉，全都綁在一起，說停就停？ 於是達里奧提出三步走——請協力廠商機構駐場監督、美國AI公司統一安全標準、全球協調包括跟中國合作。聽起來沒問題，但朱幼平直接捅破窗戶紙：“安全”這個詞一旦變成行業准入門檻，性質就變了。因為安全審核標準一立起來，合規成本陡增，微軟、OpenAI、Anthropic、谷歌扛得住，中小團隊和開源項目扛不動，最後留在牌桌上的還是那幾家巨頭。說白了，安全標準越高，小玩家越玩不起，門檻成了巨頭天然的護城河。 所以巨頭喊刹車，一半是真怕出事，一半是借安全之名把競爭者擋在門外。 而真要AI可控，光靠企業自律沒用，必須是“企業自律+外部監管”雙軌：政府定底線，監管跟得上，企業把主體責任落下去，行業內外共同做安全評估和風險識別。 中國走的正是這條路：一邊發展一邊管安全，不等一套大而全的規則慢慢磨出來，而是哪兒出問題就趕緊補哪兒。演算法、生成式AI、深度合成、倫理規範，分領域逐個立規矩，高風險場景管得嚴，普通創新場景放得開。更關鍵的是走開源路線：模型代碼和權重直接開放，外部研究者、企業、監管機構都能隨時檢查，黑箱變成了玻璃箱，有問題大家看得見。全球大量企業部署中國開源模型，就是最好的證明。 當最激進的那幾個人都開始談“慢”，說明安全已經從邊緣議題坐到了主桌。AI仍要向前，但技術越快，越需要跟得上的刹車；應用越廣，越需要劃得清的責任邊界。（綜合南方財經，三里河報道） 【編輯：赵晨】
相關新聞 |
視頻更 多
【通講壇】劉暢：香港五年規劃賦予青年發展“確定性”
澳科大師生走進香港村落“修族譜”：讓下一代知道我們從哪裡來
名古屋亞運單車賽9月20日開戰！香港單車隊總教練：目標5塊獎牌
“一帶一路”高峰論壇首設“中亞專章” 歐亞經濟合作組織輪值主席：香港與中亞有天然互補性
【通說環球】搭電梯坐纜車上學！中國“空中校車”背後的故事
香港第一個五年規劃9.16發表 李家超：將與團隊戴“一五”藍色襟章
國際調解院締約國數量翻倍 秘書長鄭若驊：公信力獲外界認可
來論更 多評論更 多
論壇更 多閱讀排行
|
