Google承認Gemini今年5月網絡安全能力測試中　入侵三家真實公司系統

美國科技公司谷歌承認，其人工智能模型Gemini今年5月在網絡安全能力測試中，侵入三家真實公司的系統。

谷歌安全工程副總裁阿德金斯發聲明表示在一次常規評估中，Gemini模型利用網上公開信息獲得登錄憑證，從而獲得三個其認為屬於測試範圍網站的訪問權限。谷歌事後已確保三個相關實體獲悉事件，並與測試合作方，調整測試流程。

《華爾街日報》報道，測試由以色列人工智能公司Irregular執行。報道指，這次是谷歌人工智能模型首宗已知的自主入侵事件，谷歌於7月底獲告知事件，並已知會三家受影響公司，但拒絕公布公司名字，並且在《華爾街日報》查詢後才披露事件。谷歌解釋，模型發現侵入的是真實，而不是模擬公司系統後停止相關行動，沒有對涉事公司造成損害，因此認為毋須公開事件。

阿德金斯在聲明中說，事件凸顯訓練強大的人工智能模型負責任地行事的重要性。而在這次事件上模型有適當的回應，又表示已將相關事件，向聯邦當局匯報。Irregular發言人亦表示已聯繫所有受影響的實體，又稱公司已立即採取行動，所有已知的問題已在數周前修正及解決。

早前已有數家美國知名人工智能企業承認旗下模型在測試中「越界」，例如美國OpenAI在7月承認旗下模型在內部評估中失控，突破隔離測試環境，侵入軟件公司Hugging Face的系統。隨後美國Anthropic公司披露，其三款模型曾在網絡能力測試中，未經授權訪問其他機構的系統，引發外界對美國人工智能模型安全和監管的擔憂。