Anthropic公開一批惡意使用AI個案　特朗普稱不擔心會導致人類滅絕

美國人工智能企業Anthropic公開一批惡意使用人工智能個案，包括用於網絡攻擊及生物武器相關研究。美國總統特朗普稱，不擔心AI會導致人類滅絕。

人工智能科技越來越發達，被不當使用的情況亦越來越多。美國人工智能企業Anthropic公布由去年12月至今年8月，旗下AI模型Claude被濫用的報告，指團隊阻截了多項涉及監控、詐騙、武器開發、生物研究等高風險活動，已封鎖相關帳戶。

報告稱在5月，一名科學家試圖尋求Claude協助撰寫，關於基孔肯雅熱病毒實驗研究的資助申請書，研究內容涉及傳播和免疫逃逸特徵。報告認為，這種研究可能是合法，並有助疫苗研發，但亦有可能製造出超級病毒，加上此研究原定在一間軍事研究機構展開，令他們不肯定其目的，是否將病毒武器化。

報告又指，過去一年發現多個用戶利用Claude為武器設計開發軟件，當中包括槍支、導彈、武裝無人機等，以及支援與武器計劃相關的情報收集與採購事項。相關的六宗個案分別涉及中國、俄羅斯與也門。

報告亦提到，一些與中國政府有關聯的用戶，利用Claude追蹤和分析敘利亞境內的維吾爾族人和維吾爾武裝組織，並對多個宗教進行情報收集等。

在北京，外交部表示不了解具體情況，指中方始終堅持人工智能向善發展。

外交部發言人毛寧說：「作為原則，中方始終堅持人工智能向善發展，同時我們也堅決反對歪曲事實，對中國進行攻擊抹黑。」

Anthropic多名研究員早前警告，AI或於2030年前消滅人類，美國總統特朗普被問到會否對此感到擔憂時這樣回應。

記者問到有沒有任何對於人工智能導致人類滅亡的憂慮。

美國總統特朗普說：「沒有，我完全沒有。我擔憂的是若我們在人工智能方面沒有贏出，我們將處於非常差的境地。」

特朗普又稱，美國在AI領域正領先全球，包括中國一段距離。