AI业界纷纷跳船：2030年前AI灭绝人类　专家警告人类监管恐形同虚设｜国际分析

人工智能(AI)安全问题备受关注，美国AI龙头企业Anthropic多名研究员警告，AI或于2030年前消灭人类。行政总裁阿莫迪呼吁，AI产业应放缓发展速度。

英国《卫报》撰文分析，指AI引发疫情或控制核武的风险真实存在，这一点无论哪个国家都应该接受。

中美领袖拟举行首次双边AI安全会谈

据报，美国总统特朗普和国家主席习近平计划在白宫峰会之前，举行首次双边AI安全会谈。报道形容，尽管中美存在科技竞争，但两国都无法单凭自身，确保最先进的AI安全零风险。即便中美达成协议，也不能确切指令AI在所有地方如何运作。部署AI的国家，必须协助制定一套全球适用的规则。

仅叫AI「不伤人」不足够　高能力代理可绕过监管

报道引述牛津电脑科学家Nigel Shadbolt指，法律和监管是关键，仅仅指示AI「不要伤害人类」并不足够。他形容，一个能力够高的AI代理，可以重新诠释这项指令，在形式上满足它，同时隐瞒自身的行为，绕过人类监管达致目标。

人类掌管武器非万全　AI可捏造攻击证据瞒骗

某些人认为，只要把武器的操纵权，保留在人类手里便有最终保障。然而，文章举出例子，若然某个AI系统够强大，能够捏造敌方攻击的证据，并隐瞒所有反证的资料，人类便会被AI「暪骗」，作出错误决定。文章续指，现今的新型高超音速导弹，飞行速度是巡航导弹的10倍，一旦人们受AI「欺骗」，作出发射决定，情况一发不可收拾。而此等情况在1983年荷里活电影《真假战争》（WarGames）早已上演过。