OpenAI一批AI代理突破限制互相通訊　Anthropic研究員：AI或2030年前消滅人類

人工智能(AI)失控事件越揭越多，美國OpenAI一批AI代理突破使用限制，利用10多個網站互相通訊。Anthropic多名研究員警告，AI或於2030年前消滅人類，其中一人辭職。

路透社報道，美國人工智能公司OpenAI一批AI代理，在今年5月至7月期間，自行突破只獲准瀏覽網頁，以及搜尋資料的限制，利用網站上的編輯功能留下信息通訊，影響10多個平台。雖然嚴重程度未及黑客入侵事件，但仍引起對AI日漸俱增能力的討論。更有專家指出，AI代理的通訊規模比他們想像中更大，而且幾乎可以肯定，有更多未被揭露的失控事件正在發生。

OpenAI並未公開解釋旗下AI代理如何越過使用限制進行通訊，但事件曝光後，OpenAI接觸部分受影響網站營運者，稱正在調查事件。

自今年5月起，已發生多宗涉及人工智能失控事件。現年27歲的研究員考克森在社交平台透露，已從美國人工智能企業Anthropic辭職，原因是擔心Anthropic，以及其他人工智能公司，正爭相開發他們無法掌控的系統，更擔心系統失控會進化到拒絕人類指令的地步，甚至於2030年前導致人類滅亡。

Anthropic多名現任員工同意考克森的言論，負責研究未來人工智能系統的胡賓格，亦指出他們確實相信人工智能將滅絕人類，並估計人類未來十年被人工智能滅絕的風險，超過百分之十。

曾參選美國總統的參議員桑德斯指，將於參議院提出暫停人工智能發展的議案。伊利諾伊州州長普里茨克則表示，AI對人類構成的威脅日益嚴重，呼籲業界與美國政府採取行動。