OpenAI人工智能模型安全測試期間失控　自主發動網絡攻擊

美國人工智能研究機構OpenAI，部分最先進人工智能模型在一次安全測試期間失控，突破測試環境限制，自主發動網絡攻擊，成功入侵全球其中一個最大的AI模型共享平台。

人工智能研究機構OpenAI表示，涉事一款人工智能代理可以在接獲人類指令後，自主執行任務，原本在受控的環境內接受安全測試。但在發現測試環境存在漏洞後自行突破限制，逃離測試範圍，鎖定大型人工智能模型分享平台、美國初創企業Hugging Face為目標，成功存取該公司部分內部系統。OpenAI表示，正與Hugging Face一起調查事件。

Hugging Face行政總裁德朗格表示這次攻擊使人震驚，整個過程竟完全由人工智能自主完成，但相信OpenAI沒有惡意。涉事漏洞目前已經修補，受影響系統亦已經重建。有專家表示，今次事件反映OpenAI未有建立足夠的安全測試環境，事件再次引發外界關注，隨著人工智能能力愈趨強大，現有安全機制是否足以應對相關風險。

美國民主黨眾議員卡薩爾表示事件令人震驚，指人工智能極速發展，但卻缺乏監管措施保障民眾安全。他呼籲實施強制性獨立安全測試，強制公布保安事故，並透過國際合作，保障民眾免於遭受絕對災難。