AI業界紛紛跳船：2030年前AI滅絕人類　專家警告人類監管恐形同虛設｜國際分析

人工智能(AI)安全問題備受關注，美國AI龍頭企業Anthropic多名研究員警告，AI或於2030年前消滅人類。行政總裁阿莫迪呼籲，AI產業應放緩發展速度。

英國《衞報》撰文分析，指AI引發疫情或控制核武的風險真實存在，這一點無論哪個國家都應該接受。

中美領袖擬舉行首次雙邊AI安全會談

據報，美國總統特朗普和國家主席習近平計劃在白宮峰會之前，舉行首次雙邊AI安全會談。報道形容，儘管中美存在科技競爭，但兩國都無法單憑自身，確保最先進的AI安全零風險。即便中美達成協議，也不能確切指令AI在所有地方如何運作。部署AI的國家，必須協助制定一套全球適用的規則。

僅叫AI「不傷人」不足夠　高能力代理可繞過監管

報道引述牛津電腦科學家Nigel Shadbolt指，法律和監管是關鍵，僅僅指示AI「不要傷害人類」並不足夠。他形容，一個能力夠高的AI代理，可以重新詮釋這項指令，在形式上滿足它，同時隱瞞自身的行為，繞過人類監管達致目標。

人類掌管武器非萬全　AI可捏造攻擊證據瞞騙

某些人認為，只要把武器的操縱權，保留在人類手裡便有最終保障。然而，文章舉出例子，若然某個AI系統夠強大，能夠捏造敵方攻擊的證據，並隱瞞所有反證的資料，人類便會被AI「暪騙」，作出錯誤決定。文章續指，現今的新型高超音速導彈，飛行速度是巡航導彈的10倍，一旦人們受AI「欺騙」，作出發射決定，情況一發不可收拾。而此等情況在1983年荷里活電影《真假戰爭》（WarGames）早已上演過。