AI大模型驅動算力需求增　代幣計費拆解降本增效密碼｜財經透視‧延伸閱讀

人工智能(AI)運算動力的來源取決於算力，理論上所需的算力越大，人工智能就會越聰明。要產生算力，首先要有發電廠供應龐大的電力，電力經過高效能晶片轉化為運算訊號，然後按不同的應用場景，訓練出可以生成圖片、文字、語言辨識、問答、影片及數據推理等不同的人工智能大模型。

對於個人開發者而言，善用技術控制算力成本至為關鍵。CANSLIM Research項目發起人黃沛成在未退休前任職於科技公司，經常使用人工智能。退休後他運用相關知識，以五位外國投資專家的投資理論作為訓練基礎，自行開發了一套分析股市的人工智能軟件。該軟件現時針對約三百隻股票進行分析，能即時顯示股票的買入點、應避免的股票，以及可放在觀察名單或需要行動的目標。

為了做股票分析，落實投資前往往需要先做不下數百個情景分析，包括圖表及經濟學理論等。若直接使用市場上現成的大模型，按逐個分析計算，牽涉的算力費用隨時數以萬元計。黃沛成解釋，算力收費通常以每用一百萬個代幣（Token）結算，便宜的大模型每百萬代幣收費可能只需不到一美仙，而部分如ChatGPT等較高階的大模型則可以賣至數美元或以上。

▍　壓縮資訊餵給大模型

為了減輕訓練成本，他在餵給大模型前會先做功夫，將海量新聞等資訊壓縮，透過本地大模型剪頭剪尾，把原本一百萬字元的文本壓縮至幾萬字才放上大模型，變相能節省十分之一甚至百分之一的成本。目前其網站營運純粹由AI自行運算，每月算力成本只需三十至四十港元，最大支出反而是購買訓練數據，每年需花費數萬港元。

在企業應用層面，算力市場的服務與收費模式亦正急速轉型。香港電訊商業客戶業務董事總經理吳家隆指出，電訊集團近期推出了供本地企業使用的人工智能平台。用家只需簡單按鍵操作，平台即可自動生成指引、圖片，甚至勝任報稅及編更等行政工作。這些功能背後均需算力驅動，算力越大，AI運算速度越快，越能完成複雜指令。

目前本地購買或租用算力的渠道眾多，包括數據中心、AI服務商、科學園與數碼港的共享超算中心，以及加入算力市場的IT公司和電訊公司。這些服務主要針對負擔不起高昂搭建成本及聘請AI工程師的中小企。企業可以選擇將包含GPU的伺服器放在私有系統處理敏感數據並生成Token，而平時較不緊要的營運數據則共享不同供應商的AI Token，從而將成本效益提升至最高。

根據相關調查顯示，大多數企業在計劃應用AI時最關注成本與投資回報。現時企業平台的算力收費模式包含月費包點數或按每百萬算力計算。中小企月費由每位使用者168港元至三百多港元不等，每次任務會根據背後使用的模型消耗相應積分；至於大型企業，則會按所選大模型的每百萬代幣成本再加上應用工具來計算。現時市場上僅有少數電訊商出售算力，訂購模式包括單獨訂購算力的月費模式，以及需要絪綁5G流動通訊月費計劃的模式。

吳家隆認為，這反映算力供應仍未完全面向大眾市場，現階段有AI轉型需求的企業客戶是初期主要客群。電訊商憑藉過去在雲端時代建立的信任關係與工作坊經驗，將繼續引導客戶踏入AI時代。

點擊觀看節目重溫