大師講堂亞洲美洲歐洲科技

《大家論壇》AI視角：水能載舟亦能覆舟　不讓國安成恐懼的總和

奈伊（Joseph S. Nye, Jr.） 2024年08月06日 07:00:00

奈伊（Joseph S. Nye, Jr.）
●阿斯本戰略小組聯席主席
●美國哈佛大學教授
●美國國防部前助理部長

人類是製造工具的物種，但我們能控制自己創造的工具嗎？當1940年代奧本海默（Robert Oppenheimer）等物理學家研發出第一種核分裂武器時，他們擔心自己的發明可能會毀滅人類。雖說這種狀況迄今尚未發生，但控制核武始終是一大挑戰。

如今許多科學家將人工智慧（AI）——能夠讓機器執行通常需要人類智慧才能完成任務的演算法和軟體——視為同樣具有變革性的工具。就像以往那些通用技術，AI具備行善與作惡的巨大潛力。在癌症研究中，AI只需幾分鐘就能對一批研究案例進行梳理並做好摘要，而人類團隊則需要花幾個月時間才能完成。AI還能可靠地預測蛋白質折疊的模式，而人類研究人員則得耗費數年。

但AI也降低了那些偏激人士、恐怖分子和其他惡意行為者造成傷害的成本和門檻。正如蘭德公司近期發布的一項研究警告，「復活一種類似天花的危險病毒，邊際成本可能只需10萬美元，而研發一種複雜的疫苗或許要花費10億美元以上。」

此外，一些專家擔心先進的AI會比人類更聰明，進而控制我們而不是被我們所控制。至於需要多久才能開發出這種超級智慧型機器（亦即人工通用智慧），外界的估計從幾年到幾十年不等。但無論如何，當今這個狹義AI不斷增加的風險，已經需要我們給予更多關注了。

40年來，（由前政府官員、學者、商界人士和記者組成的）阿斯本戰略小組，每年夏天都會聚焦一個重大的國家安全問題。之前的集會討論過核武、網路攻擊和中國崛起等議題，而今年我們把焦點放在AI對國家安全的影響，檢視其益處和風險。

其中的好處包括AI能爬梳海量的情報資料，強化早期預警系統，改進複雜的物流體系，檢查電腦代碼以提高網路安全。但也有一些重大風險，例如自主武器的改良、演算法程式的意外錯誤以及敵對AI可能削弱網路安全等。

中國一直對廣泛的AI軍備競賽進行大量投資，還擁有一些結構性優勢。AI的三個關鍵資源是訓練模型的資料，開發演算法的優秀工程師以及運算能力。中國在取得資料方面幾乎沒有法律或隱私限制（雖然意識形態限制了某些資料集），還擁有大批聰明的年輕工程師，而最落後於美國的領域則是為AI提供運算的先進微處理晶片。

美國的出口管制措施，限制了中國取得這些先進晶片以及製造晶片的荷蘭光刻機。阿斯本的專家一致認為，中國在這方面落後美國一到兩年，但情況隨時可能發生變化。儘管拜登總統和習近平去年秋天會面時，同意就AI展開雙邊討論，但專家對於AI軍備控制的前景並不樂觀。

自主武器構成了特別嚴重的威脅。在聯合國十多年的外交斡旋下，各國仍未能就禁止自主致命武器達成協議。國際人道法要求軍隊區別對待武裝戰鬥人員和平民，而五角大樓長期以來要求在發射武器之前，必須有人參與決策環節。但在某些情況下──例如防禦來襲的飛彈時──並沒有讓人類進行干預的時間。

由於情況千差萬別，人類必須（在代碼中）嚴格定義武器可以和不可以做什麼。換句話說，應該有一個人在「決策環之上」而不是在「決策環之中」。這不只是臆測性的問題，在烏克蘭戰爭中，俄羅斯就對烏克蘭軍隊的信號進行干擾，迫使烏軍修改設備的程式設計，自主決定何時開火。

而AI最令人恐懼的危險之一是應用在生物戰或恐怖主義。當各國於1972年同意禁止生化武器時，各界普遍認為這類武器不會派上用場，因為可能有「反殺」己方的風險。但隨著合成生物學的發展，有可能研發出一種只摧毀某一群體而不影響另一群體的武器。又或者某個恐怖分子拿到實驗室的生化武器，只想盡可能殺死最多人，正如1995年末日教派日本歐姆真理教所做的──儘管他們使用的是無傳染性的沙林毒氣，但現代那些類似組織，可能會使用AI開發傳染性病毒。

以核技術來說，各國於1968年達成禁止核武擴散條約，目前已有191個締約國，國際原子能總署會定期檢查各國的能源項目，以確認其僅用於和平目的。儘管冷戰期間競爭激烈，但幾個主要核技術國家在1978年同意，對最敏感的設施和技術知識採取出口限制。雖然兩者技術有明顯差異，但這種先例為AI提供了某些操作路徑。

科技的發展速度比政策或外交更快（尤其是在由私營部門的激烈市場競爭所推動時），這是不爭的事實。如果說今年阿斯本戰略小組會議有得出一個主要結論，那就是政府需要在這方面加快步調。

（本篇翻譯由PS官方提供，責任編輯：楊淑華）

© Project Syndicate

（原標題為《AI and National Security》，文章未經授權，請勿任意轉載）

延伸閱讀：

永慶房屋示警：房市交易平均每4件就有1件短期交易　買賣屋「貨比三家」有保障

「先誠實再成交」是真的！永慶房屋推出獨家「誠實安心認證」保障消費者權益

房仲服務首重誠實與安心！永慶房屋真房價保證與三不政策　提供最完整保障

人工智慧 AI 歐姆真理教沙林毒氣奧本海默天花疫苗

熱門新聞

（測試）【完整菜單】延長至五月底！添好運港式飲茶 100 分鐘點心吃到飽只要 699 元

（測試）【完整菜單】延長至五月底！添好運港式飲茶 100 分鐘點心吃到飽只要 699 元

美日俄三巨頭如何瓜分世界是我們該擔憂的事

廖偉棠專欄：《巴布·狄倫：搖滾詩人》──挑釁的傳主，不挑釁的傳記片

台日菲防禦監控情資共享之必要與迫切

為什麼川普不可能變獨裁

國防部修訂「志願士兵甄選條件」的省思

這樣的信徒不是在敬奉神明

【大師講堂】抗中或成川普和莫迪「兄弟情」的催化劑

從台灣到美國　政治文化才是民主良窳的關鍵

「藍白敵人論」無法讓罷免運動成功

《大家論壇》AI視角：水能載舟亦能覆舟　不讓國安成恐懼的總和

熱門關鍵字

回首頁

大S猝逝

最新

調查

評論

國際

焦點

軍事

流行

生活

遊戲

影音

專題

大師講堂

《大家論壇》AI視角：水能載舟亦能覆舟 不讓國安成恐懼的總和

熱門關鍵字

《大家論壇》AI視角：水能載舟亦能覆舟　不讓國安成恐懼的總和