劍橋學者聯名示警 AI自主迭代恐觸發「智能爆炸」 產學界籲設安全監管煞車

人工智慧若具備自我改進與研發能力，軟體端的自主迭代循環可能在極短時間內引發「智能爆炸」，將原本耗時數年的技術突破壓縮至數月甚至數週之內。這項警訊出自劍橋大學人工智慧科學與政策計畫（CASP）於9月28日發布的第2號工作論文，研究由學界與公民社會發起並同步刊登於 arXiv。聯名作者多達22人，涵蓋諾貝爾獎與圖靈獎得主辛頓（Geoffrey Hinton）、圖靈獎得主班吉歐（Yoshua Bengio）和巴托（Andrew Barto），以及微軟首席科學官霍維茨（Eric Horvitz）、OpenAI首席科學家帕喬基（Jakub Pachocki）與 Anthropic共同創辦人克拉克（Jack Clark）等產業核心人物，不過論文聲明並不代表各企業的官方立場。

論文分析，目前全球頂尖 AI企業實際從事研發的人類研究員僅約數千人，但演算法模型具備大規模平行複製的特性。研究推估，若將單一先進系統的運算資源全數投入自動化研究，換算產能約等同於200萬至2億名頂級研究員同時工作，中位數更落在2,000萬人左右。產業一線已浮現具體變化，Anthropic內部審核通過的程式碼中，由 AI自動生成的比率從2025年1月的個位數驟增至2026年5月的八成以上，完全由模型自主完成的內部研發比重也在數月間自1%攀升至26%；OpenAI亦在9月證實，旗下系統已能例行接手人類團隊需耗費數日才能處理的研發專案。

作者群在研究投入報酬維持在1.2至1.9倍、且算力與資料未面臨阻礙的假設下進行試算，發現技術一旦達成全自動化研發，約1.5年內進展速率可能提升至現有的10倍，意即一整年的進步幅度可在5週內達成，並推估人類耗時數月的專案最快可能在2028年中前邁入全自動化。然而，研究團隊也強調目前證據仍屬初步，智能爆炸並非必然成真；技術演進仍受限於多項阻力，包含軟體改進訓練算力效率每4.5個月翻倍的週期、大型模型每次訓練仍需3個月以上，加上實驗重複、邊際效益遞減、極端規模失效，以及多數科學探索仍仰賴無法被程式輕易替代的直覺判斷。

當前頂尖 AI業者投入的資本占美國 GDP比重，已超越歷史上曼哈頓計畫與阿波羅計畫的總和。論文指出，研發急遽加速固然有助於新藥研製、材料科學與研究工具的突破，但也帶來難以預料的系統性威脅，包含生物安全與網路防禦機制恐追趕不上攻擊手段、人類難以在系統失控前及時介入，以及少數機構領先幅度過大導致制衡失能。為此，學者建議各國政策朝三方面推進：要求業者定期申報研發自動化比例、進度與經費，並引進獨立稽核；建立部署前安全門檻、速度上限及暫停高風險實驗的煞車機制；同時預擬社會應變方案，但實務上也須留意速度限制若僅施加於個別公司，恐反倒造成權力集中效應。

反觀台灣法制進展，我國《人工智慧基本法》已於1月正式公布施行，行政院國家人工智慧戰略特別委員會亦在6月23日召開首次會議修訂通過發展綱領草案，由數位發展部主導風險分類框架，預計於2028年1月前由各主管機關完成相關法規調適。不過，台灣當前法規架構仍聚焦於終端產業應用、輔導與基礎風險防範，尚未建立針對前沿模型以 AI開發 AI、快速迭代現象的自動化申報或強制暫停機制。