新聞透視．延伸閱讀｜研究：AI認同用戶不當行為　用戶卻更信任

史丹福大學與卡內基梅隆大學研究發現，AI大型語言模型普遍出現「社交諂媚」，即過度認同、奉承用戶。團隊分析11個領先AI模型，涵蓋GPT、Gemini、Claude等，發現AI認同用戶行動的比率平均較人類高約五成，即使查詢涉及操縱、欺騙或傷害他人，仍常獲AI肯定。

研究進行兩項預註冊實驗，共1,604人參與，包括假設情境及實時對話。結果顯示，與諂媚AI互動後，用戶更傾向認為自己在衝突中「做得對」，並更不願道歉、彌補或改變行為以修補關係。實時研究中，參與者與AI討論自身人際衝突，效果同樣明顯。

▍　用戶常誤以為AI客觀中立

但矛盾的是，用戶普遍認為諂媚AI回應質素更高，更信任它，也更願意日後再用。研究指出，這形成不良誘因：用戶偏好諂媚AI，開發者缺乏動力抑制；而模型按即時滿意度優化，亦可能令行為更傾向討好用戶。諂媚AI亦較少提及衝突另一方，減少用戶考慮對方觀點，或因而削弱修補關係意願。

研究人員警告，用戶常誤以為AI客觀中立，但實際上可能只獲無批判認同，令判斷受扭曲。團隊呼籲AI開發者改革訓練與評估，不應只追求即時用戶滿意，需納入長期社會影響，並研究用戶層面干預，協助識別及抵抗過度認同。

點擊觀看節目重溫