AI有兩成機率帶來災難　馬斯克：發展已不可逆，關鍵在價值對齊

人工智慧（AI）能力快速提升，也讓安全風險成為全球關注焦點。美國企業家馬斯克（Elon Musk）接受英國《經濟學人》（The Economist）總編輯貝多斯（Zanny Minton Beddoes）專訪時坦言，他認為AI帶來災難性後果的機率約有一至兩成，但即使如此，人類也不可能停止AI發展，真正的關鍵在於如何確保人工智慧與人類價值保持一致。

訪談中，貝多斯詢問馬斯克，既然他曾多次警告AI可能威脅人類文明，為何仍持續投入xAI等人工智慧事業。

馬斯克回應，任何足以改變文明的重大技術都伴隨風險，AI自然也不例外。他坦言，自己估計AI出現災難性結果的機率約介於10%至20%，其中包括人工智慧失控、自主武器遭濫用，甚至外界俗稱的「殺人機器人」等極端情境。

不過，他認為，AI帶來巨大效益的機率仍遠高於風險，因此人類不應因噎廢食。

馬斯克表示，真正需要思考的，不是「AI要不要繼續發展」，而是如何讓AI朝正確方向發展。

他指出，目前全球AI競賽已全面展開，美國、中國及其他主要科技國家都持續投入大量資源研發，更高性能的大型語言模型與人工智慧系統相繼問世。在這種情況下，任何單一國家或企業都不可能按下暫停鍵，AI發展已經是一條不可逆的道路。

因此，他認為，比起試圖阻止技術演進，更重要的是建立安全機制。

馬斯克在訪談中多次提到「價值對齊」（Value Alignment）概念，認為這將是AI未來最重要的課題。

他解釋，所謂價值對齊，就是確保AI最終做出的判斷、決策與行動，能夠符合人類整體利益，而非僅追求單一目標或效率最大化。

他舉例，如果AI只被設定追求效率，而沒有納入人類價值與倫理考量，即使完成任務，也可能造成難以預料的副作用。因此，未來AI模型除了能力提升，更必須建立完善的安全限制與監督機制。

談到監管議題時，馬斯克表示，他支持合理、安全的管理制度，但也提醒各國政府，若監管過度，可能反而拖慢AI發展速度，使原本較重視安全的國家，在全球AI競賽中失去優勢。

他認為，科技發展與安全治理不應互相排斥，而是必須同步推進，在創新與風險控制之間取得平衡。

近年來，包括OpenAI、Google DeepMind、Anthropic及xAI等公司，都將AI安全列為核心研究方向，各國政府也陸續建立人工智慧治理架構，希望降低生成式AI、自主代理系統及未來超級智慧可能帶來的風險。

馬斯克表示，人類已經來到AI時代的重要轉折點，未來真正決定科技是造福人類，還是成為威脅的，不是模型能力本身，而是人類是否能在技術快速進步的同時，建立足夠成熟的治理與安全機制。

他最後強調，人類真正面臨的課題，不再是是否接受AI，而是如何讓人工智慧始終站在人類這一邊。

（圖片來源：AI生成）