事件的核心不是「AI 覺醒」，而是研發迴圈加速
《華爾街日報》報導，來自 OpenAI、Anthropic、Microsoft 與 Meta 的研究領袖，與 Geoffrey Hinton、Yoshua Bengio 等學者共同警告：AI 若能大幅自動化 AI 研發，原本以年計的進展可能壓縮至數月甚至數週。Techmeme 的報導索引與延伸來源見 https://www.techmeme.com/260928/p24#a260928p24。
這裡必須先區分三個層次。已知事實是，前沿實驗室已用 AI 撰寫程式、執行實驗與協助訓練模型；合理推論是，這些工具可能縮短下一代模型的開發週期；尚未證實的則是，它們是否會形成可持續、愈跑愈快的「智慧爆炸」。共同作者跨越多家企業，也不代表四家公司正式採納同一政策立場。
正向回饋如何形成
一般模型訓練，是人類設計架構、準備資料、配置算力，再讓機器最佳化參數。自動化 AI 研發則更進一步：模型參與寫研究程式、提出假設、安排實驗、分析失敗、改善訓練方法，甚至協調其他代理程式。若改良後的模型又能更有效率地完成下一輪研究，便形成「AI 改良 AI、改良後的 AI 再加速改良」的回饋迴圈。
劍橋大學 Cambridge Programme on AI Science & Policy 的原始研究，將智慧爆炸定義為 AI 驅動的研發加速，而非突然出現一個全知全能的機器。研究主張現有跡象值得預作準備，但同時承認結果仍高度不確定。原始研究與作者名單見 https://casp.ac/reports/intelligence-explosion。
為何現在值得注意
關鍵變化不是公開聊天機器人的回答變好，而是最強模型可能先在實驗室內部投入研發。這使外界看到的產品能力，落後於公司實際掌握的研究能力。《衛報》引述 Anthropic 自述，AI 已產生其八成程式碼；OpenAI 也把自主代理用於新模型訓練。不過，這些主要仍是企業自陳，不能直接等同於八成研究判斷已由 AI 取代。相關報導見 https://www.theguardian.com/technology/2026/sep/28/ai-godfathers-warn-of-runaway-intelligence-explosion。
商業邏輯也會推動自動化：軟體研究代理可以大量複製、全天運作，且成果能快速部署到整個研發組織。率先縮短開發週期的公司，不只降低成本，也可能把數月領先擴大成模型、人才與資金的連鎖優勢。作者觀點是，這正是治理困難所在：每家公司都可能理解共同風險，卻仍擔心自己減速後被競爭者超越。
實際影響不只有失控風險
若回饋迴圈成立，正面效益可能包括更快的藥物、材料、能源與安全研究；負面效果則是網路攻擊、生物風險、監控能力及軍事決策也同步加速。更直接的制度風險，是政府、法院與社會還在理解上一代系統時，下一代能力已完成數次躍升。領先企業或國家也可能藉此把小幅技術優勢轉化為難以追趕的權力差距。
容易忽略的限制
智慧爆炸不是必然。Georgetown University 的 CSET 報告指出，專家對 AI 研發究竟會加速或碰到高原並無共識，現有基準測試也不足以預測路徑。瓶頸可能包括算力與電力、訓練時間、實驗必須依序進行、資料不足、研究方向與品味仍仰賴人類，以及演算法改善出現遞減報酬。報告見 https://cset.georgetown.edu/wp-content/uploads/CSET-When-AI-Builds-AI.pdf。
更重要的是，會做 AI 研究不等於能立即改變實體世界。新材料仍須製造，藥物仍須試驗，晶圓廠也不會因一段程式碼瞬間擴產。數學研究甚至指出，真正逼近失控式成長，還要求每一輪回饋所需時間持續縮短；「比指數更快」與「無限快」並非同一件事。
治理不能只在「全面禁止」與「完全自律」間二選一
研究者較具體的建議，是先建立可觀測性：要求前沿實驗室申報自動化程度與重大事件、允許獨立評估者或駐點稽核員查驗、預先設計資料中心暫停高風險作業的程序，並隔離能自主執行研發的代理。合理的制度設計應保護營業秘密，但不能讓「機密」成為外界完全無法判斷風險的理由。
作者觀點是，監管門檻應綁定可量測能力與行為，而非公司規模或抽象的「先進 AI」標籤；否則高額合規成本反而可能替既有巨頭築起護城河。政府需要的是查核權、緊急應變程序與跨國通報，而不是假裝能精準預測智慧爆炸的日期。
對台灣的意義
台灣不是主要前沿模型所在地，卻位於算力供應鏈核心。台積電年報明載，將持續在台灣投資先進製程與先進封裝，並把 AI 與高效能運算視為長期需求來源，見 https://investor.tsmc.com/static/annualReports/2025/english/index.html。這不表示晶圓代工廠應審查客戶演算法，但表示台灣不能把 AI 治理只理解成內容標示、個資或消費者保護。
台灣《人工智慧基本法》已要求風險分類、透明、資安與問責；值得注意的是，第十七條原則上排除尚未實際應用的研發活動。若真正的能力躍升發生在封閉實驗室內，現行以「應用」為中心的治理可能太晚介入。法規全文見 https://law.nstc.gov.tw/LawContent.aspx?id=GL000592。台灣可優先研議前沿研發事件通報、算力使用的隱私保護式統計，以及與盟友互認的獨立評測機制。
後續應觀察什麼
- 模型能否在低度監督下完成以天或週計的完整研究任務，而非只通過短題型測驗。
- AI 產生的程式碼與實驗，是否實際縮短下一代模型週期，而非單純增加產出量。
- 每輪訓練時間、算力成本與演算法效率是否同步改善，或開始出現明顯遞減報酬。
- 企業是否接受可查核的第三方評估、事件通報與緊急停止程序，而不只發布自願性安全承諾。
真正值得警戒的訊號，不是某位領袖再次預言超級智慧，而是研發週期在可驗證資料中持續縮短，同時人類監督與外部可見度下降。智慧爆炸目前仍是情境，不是事實；但若治理一定要等到情境成真才啟動，制度本身就已錯過最有價值的準備期。