明明重複好幾次指令，AI 還是不聽？問題到底出在哪

天龍

在當今的數位時代，人工智慧（AI）已成為許多專業人士工作中的重要工具。然而，許多人在使用 AI 時經常會遇到一個令人沮喪的問題：AI 似乎經常忽略指令，即使這些指令已經重複多次。根據專家 Dr. Diane Hamilton 的分析，這一現象的根本原因在於 AI 的運作方式。

AI的運作基於大量的數據和模式預測，而不是像人類助手那樣能夠記住用戶的偏好。當我們要求AI執行某項任務時，AI會根據其訓練過程中學到的模式來生成回應，這意味著它可能會偏離用戶的具體要求，回到它所熟悉的統計常規中。例如，若大多數商業寫作中使用了特定的標點符號，AI可能會自動選擇這些標點符號，即使用戶明確表示不希望使用。

根據今年5月量子位（QbitAI）發布的研究，推理能力越強的模型（如採用監督微調SFT和強化學習RL）往往越難絕對服從指令，因為訓練目標偏向提高問題解決能力，而非嚴格遵守格式或字數限制。為了提高AI的表現，專家建議用戶在每次請求中重申自己的要求，這樣可以幫助AI更好地理解並遵循指示。儘管AI的記憶功能可以在某種程度上提供一致性，但目前主流大型語言模型（LLM）多為無持久記憶，除非有特定設計。AI的記憶更像是基於概率生成的參考筆記，而不是強制執行的規則，因此用戶仍需在不同的上下文中重申自己的偏好。

此外，使用者的互動歷史也會影響AI的回應。不同的帳戶可能會因為記憶、歷史或系統更新的微妙差異而產生不同的結果。因此，專業人士應該測試和調整提示，而不是逐字複製他人的提示，以便更好地適應自己的工作流程。

在數據分析方面，AI的表現也可能不如預期。大型語言模型如ChatGPT並不是精確的計算工具，而是基於文本的預測引擎。當用戶要求進行數學計算時，AI可能會根據訓練示例生成答案，這可能導致數字的替換或改變，影響結果的準確性。因此，專家建議用戶在進行精確的統計工作時，應使用專門的工具來檢查計算結果。

最後，AI在語音回應方面也可能出現不一致的情況。雖然用戶可以選擇語音風格，但AI有時會添加不必要的過渡語句，這可能與模型生成性質及語音合成引擎設計相關，讓用戶感到困擾。專家建議用戶應該簡化指令，並嘗試不同的措辭，以減少這些多餘的內容。

總之，AI的運作方式與人類助手截然不同，這使得它在遵循指令方面存在挑戰。專業人士在使用AI時，應該保持耐心，重複指示，並根據自己的需求調整提示，以獲得最佳的使用效果。

錄自：科技新報