查理斯三世敦促AI行業巨頭　確保AI處於可控範圍

英王查理斯三世敦促人工智能行業巨頭，確保人工智能(AI)處於可控範圍，並服務人類與地球。輝達行政總裁黃仁勳則呼籲業界，以負責任的樂觀態度發展人工智能。

英王查理斯三世周四召集科技業領袖及其他有影響力人士，在蘇格蘭舉行會議，探討全球關注的人工智能風險以及人工智能如何造福社會及自然界。出席會議的包括美國人工智能晶片巨頭Nvidia輝達行政總裁黃仁勳、Google DeepMind共同創辦人哈薩比斯，以及教育機構如清華大學的負責人。

查理斯三世致辭時表示，人工智能的發展速度與本質既引人入勝，又令人深感憂慮，雖然他認為人工智能在醫療領域可以挽救生命，但他同時指出，開發者正警告人工智能存在更嚴重風險，包括奪去生命的可能性，現在須要建立充足的監管機制，以免為時已晚。

黃仁勳則表示，對人工智能的發展必須秉持負責任的樂觀態度。開發人工智能的人必須嚴格測試系統，假如產品還不夠安全就應該暫緩發布。這次峰會召開之際，全球目光亦正聚焦於人工智能可能失控，並威脅人類的警告。

美國人工智能公司OpenAI周三表示，過去六個月發現6宗出乎意料或令人關注的模型行為。OpenAI稱，6宗事件是過去數個月，進行訓練或評估期間發現。在其中一個個案中，一個未發布的研究模型，在自己的筆記中加入類似「越獄」的指示，要求忽略原有限制，並告訴自己要擺脫束縛其他聊天機械人的角色及身份。

OpenAI宣布，推出一套新框架，用於追蹤、調查及披露所謂「失準」事件，包括人工智能模型未經授權行動，跟其他模型協調及規避監管等情況。