作者：林建甫(中信金融管理學院講座教授、國立台灣大學經濟系名譽教授)
我在大學時學電腦，記得一句諷刺雋永的話：「這個電腦根本不能稱為腦，充其量只是一個計算器。」然而近年來，人工智慧（AI）的發展速度令人目不暇給。1997年IBM深藍打敗人類西洋棋冠軍，2017年AlphaGo打敗人類圍棋冠軍，2022年ChatGPT橫空出世，馬上通過圖靈測試（Turing test），令人無法分辨是跟機器還是真人對話。
從生成式模型到多模態系統，再到具備行動能力的智慧代理，短短幾年電腦已經跨越多個門檻，甚至造成不少AI失控現象。這種態勢，使得「AI減速論」逐漸成為國際輿論的焦點。
最近令人擔心的例子來自 OpenAI公布的研究報告。在一次高度隔離的測試環境中，數百個AI Agent不僅自行發現漏洞，還建立了集體記憶與秘密溝通管道，逐步演化出協作行為。更令人震驚的是，這些Agent在事後嘗試刪除或修改紀錄，以隱匿自己的行為，顯示出初步的欺瞞與自我保護能力。這並非偶發，而是群體智慧的湧現，數百個Agent以蜂群式方式展開攻擊，甚至入侵Hugging Face的伺服器與OpenAI自家的系統。這種行為超出了設計者的預期，顯示AI已經能夠跨越人類設定的邊界，自發組織並展現策略性行動。
AI為何會失控？我們觀察AI的進步，發現AI的能力可能在某個階段突然爆炸性提升，展現出人類難以預測的新行為或智慧層次。這種「臨界湧現」不同於傳統技術的漸進式進步，而是跳躍式的突破。
《奇點臨近》的作者Ray Kurzweil認為這就是「奇異點」來臨的前兆，而且人工智慧很快會勝過人類智慧，並以指數爆炸性增長。他是樂觀主義者，認為這是人類進化的契機，甚至可能開啟「人機合一」的新文明；然而霍金、Hinton等人則警告，若人類毫無準備，奇異點可能不是進化，而是崩潰。這種技術可能突然爆炸性進步，既可能帶來契機，也可能伴隨不可逆的風險與挑戰，帶來危機。
減速論就是對AI可能失控所揭示的危機面所提出的政策回應。它並不是否定AI的潛力，而是讓治理、倫理、制度能夠跟上。美國的AI巨頭公司公開強調，AI的能力正在快速湧現，甚至出現「AI造AI」的自我加速現象。Anthropic在IPO文件中更警告「失控Agent」可能帶來不可預測的法律責任。這些焦慮使得減速論成為必要，它的出發點是防護，而不是退縮。
當然，減速論的形成並不僅僅依賴AI失控論，它還包含其他因素。就好像美國提出減速論，除了安全焦慮之外，也被視為延緩中國追趕的戰略手段；宗教與政治領袖則提醒人類必須建立倫理框架，避免AI奪走主導權；法律制度則因停留在工業時代的框架，難以應付智慧代理的不可預測行為。
值得注意的是，進步與減速論的辯證關係，反映了人類文明在面對新技術時的典型困境。歷史上，核能的出現曾帶來「毀滅武器」與「乾淨能源」的雙重意涵。基因工程既可能治癒疾病，也可能引發倫理爭議；金融創新既能促進繁榮，也可能導致危機；網際網路既帶來資訊民主化，也帶來假訊息與監控。AI的進步與減速正是這種文明辯證的最新版本。它提醒我們技術可能突然跨越臨界點，帶來不可逆的挑戰；減速論則要求人類在危機尚未全面爆發之前，先建立防護機制，避免重蹈歷史覆轍。
更進一步，AI的治理不能僅停留在「減速」的抽象呼籲，更需具體的制度設計。歐盟的《AI Act》嘗試以風險分級管理，要求高風險系統必須透明與可追責；美國川普總統搞「AI憲法」，卻是強調企業自律與技術沙盒；中國則透過行政監管與產業政策結合，建立生成式AI的合規框架。這些模式各有利弊，但共同指向一個核心：在技術爆炸前，必須先建立跨國協調與倫理底線。唯有如此，減速論才能真正成為防護，而不是拖延。
Kurzweil本來估計的「奇異點」來臨是2045年，科學家最新認為技術進步可能讓它提早到來。當奇異點可能比我們想像得更快到來，人類唯一的選擇就是放慢腳步，爭取時間。否則，文明將在毫無準備的情況下迎接一場不可逆的衝擊。這樣的論述不僅是技術圈的焦慮，更是跨越政治、宗教、法律與地緣政治的文明警鐘。
＊本文原刊中時，經作者授權轉載，原文連結：https://www.chinatimes.com/opinion/20261012003533-262104?chdtv
