如何防止「超級智能」變「超級危險」｜心有方寸

作為全球科技資本的關鍵掌舵人與人工智能的堅定倡導者，軟銀集團（SoftBank）會長孫正義，早前在京都「科學技術與社會論壇」（STS Forum）上，發出的警告格外引人矚目。他直言，當「超級智能」（Super Intelligence）落入不懷好意者手中，將可能轉化為「超級危險」。這番言論出自一位已向 OpenAI 承諾投入數以百億美元計資金的科技領袖之口，迅速引發全球科技界與投資市場的回響。

孫正義的這番警示並非否定AI的突破性價值，而是道出了技術演進速度過快，與治理體系落後的殘酷現實。現時AI已由文字生成邁向自動化程式碼與網頁瀏覽，預計明年進入「第三階段」，直接結合實體機械人走入工廠、醫療及物流系統。據其預測，具備學習能力的AI設備到2040年將貢獻全球GDP約兩成，經濟效益高達46萬億美元。然而，資本與能力呈指數級躍升的背後，是網絡安全、模型濫用乃至系統失控的巨額隱患。當科技巨頭在全力競速的同時，亦不得不嚴肅思考：若技術脫軌，其所帶來的毀滅性後果究竟應由誰來承擔？

AI 生成示意圖

AI安全治理正面臨深刻的地緣政治挑戰，白宮科技政策辦公室於同一論壇宣布，聯合美、日、韓、英、德等17國共同推動《京都科學黃金時代願景》，擬透過AI大幅縮短科研與實驗周期。然而，中國並未列於首批名單之中。孫正義呼籲各國放下對抗、建立互信以共同應對AI風險，但現實卻呈現出科研聯盟的分化與科技圍堵的加劇。若全球主要的AI研發大國無法建立統一的安全標準與溝通機制，所謂的「全球AI治理」終將流於陣營內部的遊戲規則，無法阻遏跨國性的科技安全風險。

面對這股席捲全球的科技巨浪，香港作為國際金融中心與數據樞紐，絕不能置身事外。AI的發展不能僅局限於追求計算速度與商業變現，更必須將「可信AI」（Trustworthy AI）納入核心政策視野。政府、學界與產業鏈應及早針對金融、醫療及關鍵基建領域，建立完善的AI風險評估、模型審計與事故通報機制。建立清晰的監管與治理框架，非但不會阻礙創新，反而能在大國科技博弈的縫隙中，樹立香港作為亞太區可信數據與AI應用的標準，吸引優質企業與國際人才匯聚。

孫正義這番罕有的警示提醒我們，人工智能的終極考驗，不在於機器何時超越人類智慧，而在於各國能否摒棄猜忌與對抗，共同建立安全治理的技術護欄。當「速度與規模」成為資本追逐的唯一指標，完善的監管體系與國際信任機制，才是決定AI能否真正惠及人類社會的關鍵所在。

方保僑

本文僅代表作者觀點，不代表無綫新聞立場。