信報社論｜AI步伐無法放慢　人類應該導善禁惡｜全文

人工智能（AI）技術進展神速，卻也因為步伐太快，引起強烈焦慮。美國AI企業巨頭異口同聲呼籲，業界應該放慢步伐，防止失控成災。據了解，Anthropic、OpenAI和谷歌（Google）正討論合作成立一個AI安全標準機構，重點在於前沿模型的技術測試和發布前審核。

英國作家瑪麗雪萊筆下的《科學怪人》，看來勢必成為事實，AI就是科學家法蘭克斯坦（Victor Frankenstein）炮製出來的「人造人」。至於被造的怪人會否失控，甚至產生報復心態展開殺戮行動，作為創造者的人類又能否化險為夷，目前尚未有清晰答案，一切都是懸念。

其實早於二〇二三年，焦慮已經表露無遺。當時的特斯拉行政總裁馬斯克認為，開發AI是一場「失控的競賽」，數碼思維可能連創造者也無法理解、預測或控制，他聯同一千多名科技界領袖敦促暫停開發AI。然而事實證明了，這三年來AI迭代升級莫說沒有片刻稍歇，反而速度驚人。

美國AI企業巨頭並非杞人憂天，Anthropic行政總裁阿莫迪（Dario Amodei）提到，現今AI工具所帶來的風險實在太大，舉出OpenAI測試中的代理入侵Hugging Face平台作為例子。此外，Anthropic一名研究員上周辭職，狠批該公司及前僱主OpenAI不負責任，只顧研發具自我升級能力的「超級人工智能」（Artificial Superintelligence，ASI），警告人類可能在二〇三〇年前滅絕，機會率超過百分之十。馬斯克接受訪問時指出，未來AI與人類的智力鴻溝，遠大於人類和黑猩猩之間的差距；正如黑猩猩無法主導人類，屆時人類也很難再掌握AI的主導權。

按照常理推測，AI發展步伐根本不可能放慢，遑論暫停，原因是沒有任何一位競爭者願意淪為比賽中途打瞌睡的兔子，徒然讓對手迎頭趕上。美國總統特朗普批評，許多負面力量正在炒作AI安全問題，而他們提出的情況根本不會發生。他重申，美國必須在發展AI方面跑贏中國，並說「贏得AI者贏得天下」。AI猶如大殺傷力武器，有人形容為「數碼核彈」。美國資安公司Calif宣稱，旗下研究團隊在短短一周多的時間裏，透過AI模型打造出能夠迅速攻破中國通訊軟件微信的電腦蠕蟲（Computer Worm），侵入幾百萬個賬號。騰訊發言人證實，確有資安漏洞，收到Calif聯絡後已修復問題。

既然是「數碼核彈」，那麼站在中國立場，基於地緣政治波譎雲詭，更加有需要加速發展AI，才可跟美國構成「相互保證毀滅」（Mutual Assured Destruction）的恐怖平衡。就算只是企業與企業之間的競爭，亦不可能放慢步伐容許別人一騎絕塵。

作為史上第一本科幻小說，《科學怪人》歷久不衰，改編為數之不盡的影視作品，反映的就是人類對於科技失控的不安。關於AI的焦慮，不妨從這本小說得到啟發。書中怪人原本沒有惡意，奈何法蘭克斯坦把他造出來之後，竟然討厭其外表醜陋而棄之不顧，怪人變作孤兒。怪人無家可歸，到處流浪又受到其他人歧視和攻擊，於是思想扭曲，非要報仇雪恨不可。他對「造物主」表示：「我本善良，苦難使我淪為惡魔。只要讓我快樂，我便改邪歸正。」偏偏法蘭克斯坦拒絕答應，彼此皆踏上萬劫不復的厄運。

人類創造AI，首先不該視作孤兒，如果像正常孩子那樣培養和管束，理論上可以減少許多失控的風險。其次，即使一個怪人失控，科學家可以創造另一個怪人負責防禦，此之謂，AI對抗AI。

前不久，創新科技及工業局局長孫東表示，人工智能正以前所未有的速度重塑人們的生活，儘管創新有時會帶來新威脅，但科技同樣能提升防禦能力。政府倡導以AI對抗AI的策略，利用人工智能打造最堅固的防禦屏障，以有效管理與使用人工智能相關的風險。

AI處於起步階段，「性善」或「性惡」很大程度上視乎人類怎樣調教，一方面應導其向善，另一方面該禁其作惡。