調校簡介

模型調整是讓 Gemini 更精準地執行特定工作的重要程序。模型調整的運作方式是為模型提供訓練資料集，資料集內有特定下游任務的一系列範例。

本頁面將概略說明 Gemini 的模型調整功能，並說明 Gemini 可用的調整選項，協助您判斷何時應使用各項調整選項。

模型調整的優點

模型調整是針對大型模型進行自訂，以符合工作需求的有效方法。這是提升模型品質和效率的重要步驟。模型調整可提供下列優點：

  • 為特定工作提供更高品質的結果
  • 提升模型穩健性
  • 由於提示內容較短，推論延遲時間和成本也降低

微調與提示設計的比較

  • 使用預先訓練的 Gemini 模型提供提示：提示是指設計有效的指示，引導 Gemini 等 AI 模型產生所需的輸出內容。這包括設計���示，清楚傳達任務、所需格式和任何相關背景資訊。您只需進行最少的設定，即可使用 Gemini 的功能。最適合用於：
    • 標籤資料有限：如果您只有少量標籤資料，或無法進行冗長的微調程序。
    • 快速原型設計：當您需要快速測試概念或取得基準效能，而不需要大量投資精細調整時。
  • 自訂微調 Gemini 模型：為了提供更貼近需求的結果，Gemini 可讓您根據特定資料集微調模型。如要建立在特定領域中表現出色的 AI 模型，請考慮微調。這項操作會根據您自己的標記資料集重新訓練基本模型，並根據工作和資料調整權重。您可以根據用途調整 Gemini。精細調整最適合用於下列情況：
    • 您擁有標記資料：可用於訓練的大量資料集 (例如 100 個以上樣本)，可讓模型深入學習任務的具體內容。
    • 複雜或特殊任務：在進階提示策略不足以應付的情況下，您必須使用專為資料量身打造的模型。

建議您先從提示開始，找出最合適的提示。接著，請進行微調 (如有需要)，進一步提升效能或修正經常發生的錯誤。雖然增加更多範例可能有助於改善模型，但在增加更多資料之前，請務必先評估模型出錯的地方。高品質且標籤正確的資料，比大量資料更能提升成效。此外，用於微調的資料應反映模型在實際工作環境中會遇到的提示分布、格式和背景資訊。

與提示設計相比，調整有下列優點：

  • 可進一步自訂模型，並在特定工作上獲得更佳成效。
  • 將模型與自訂語法、指示、特定領域語意規則對齊。
  • 提供更一致且可靠的結果。
  • 可同時處理更多範例。
  • 移除提示中的少量樣本和冗長操作說明，節省推論成本

調整方法

高效參數調整和完整微調是兩種自訂大型模型的方法。這兩種方法在模型品質和資源效率方面各有優點和影響。

理想情況下

高效參數調整 (又稱為適配器調整) 可讓大型模型針對特定任務或領域進行有效調整。在調整過程中，參數效率調整會更新模型參數的一小��分。

如要瞭解 Vertex AI 如何支援轉接器調整和服務，請參閱以下白皮書「大規模基礎模型的調整」中的詳細資訊。

全面微調

全面微調會更新模型的所有���數，������型������適應高難度任務，並有機會達到更高的品質。不過，完整的精細調整需要更多運算資源才能進行調整和服務，導致整體成本提高。

高效參數調整與全面微調的比較

與完整微調相比，高效參數調整可更有效率地運用資源，且更具成本效益。訓練所需的運算資源大幅減少。這項功能可使用較小的資料集，更快地調整模型。參數調整效率的彈性，可提供多工作學習的解決方案，而無需進行大量的重新訓練。

支援的調整方法

Vertex AI 支援監督式微調，可用於自訂基礎模型。

監督式微調

透過監督式微調，模型能學會新技能並增進效能。含數百個有標籤樣本的資料會用於指導模型，讓模型可以模仿所需行為或工作。每個標記範例都會示範您希望模型在推論期間輸出什麼內容。

執行監督式精修作業時，模型會學習額外參數，以便將必要資訊編碼，並執行所需工作或瞭解應有行為。這些參數會在推論期間使用。微調工作的輸出內容是新模型，將新學習的參數與原始模型結合。

如果您的文字模型輸出內容不複雜且較容易定義，對模型進行監督式微調會是不錯的選擇，建議您使用監督式精細調整功能，用於分類、情緒分析、實體擷取、摘要不複雜的內容，以及撰寫特定領域查詢。對於程式碼模型，監督式調整是唯一的選項。

支援監督式微調的模型

  • gemini-2.0-flash-001
  • gemini-2.0-flash-lite-001

如要進一步瞭解如何使用監督式精修功能搭配各個模型，請參閱以下頁面：調整文字、圖片、音訊和文件資料類型。

後續步驟