提示工程概述

提示工程比其他模型行為控制方法（如微調）快得多，並且通常可以在更短的時間內產生巨大的性能飛躍。以下是一些考慮選擇提示工程而非微調的原因：

• 資源效率：微調需要高端 GPU 和大內存，而提示工程只需要文本輸入，使其更加資源友好。
• 成本效益：對於基於雲的 AI 服務，微調會產生巨大的成本。提示工程使用基礎模型，通常更便宜。
• 維護模型更新：當提供商更新模型時，微調版本可能需要重新訓練。提示通常可以在不同版本間工作而無需更改。
• 節省時間：微調可能需要數小時甚至數天。相比之下，提示工程幾乎可以立即提供結果，允許快速解決問題。
• 最小數據需求：微調需要大量特定任務的標記數據，這可能稀缺或昂貴。提示工程可以使用少樣本甚至零樣本學習。
• 靈活性和快速迭代：快速嘗試各種方法，調整提示，並立即看到結果。這種快速實驗在微調中很難實現。
• 領域適應：通過在提示中提供特定領域的上下文，輕鬆將模型適應到新領域，無需重新訓練。
• 理解力改進：提示工程在幫助模型更好地理解和利用外部內容（如檢索的文檔）方面比微調更有效。
• 保留一般知識：微調有catastrophic forgetting的風險，即模型可能失去一般知識。提示工程保持了模型的廣泛能力。
• 透明度：提示是人類可讀的，準確顯示模型接收到的信息。這種透明度有助於理解和調試。