Transformers documentation
Trainer
はじめに
ベースクラス
モデル
プリプロセッサ
推論
Pipeline API
Generate API
最適化
モデルとチャットする
サービング
トレーニング
ハードウェア
量子化
エコシステム統合
リソース
API
Trainer
Trainerは、Transformersモデル用の完全な学習および評価ループです。開始するには、モデルとデータセットがあれば十分です。
内部では、Trainer がデータセットのバッチング、シャッフル、テンソルへのパディングを処理します。トレーニングループはフォワードパスを実行し、損失を計算して勾配の逆伝播を行い、重みを更新します。TrainingArguments を設定することで、バッチサイズやトレーニング期間から分散戦略、コンパイルなど、あらゆる項目をカスタマイズできます。
次のステップ
- ファインチューニングのチュートリアルから始め、Trainerを用いた大規模言語モデルの学習について学びましょう。
- Trainer メソッドのサブクラス化ガイドを参照し、Trainerメソッドをサブクラス化する例を確認してください。
- カスタムなバッチ組み立て用のデータコラテーターの作成方法については、Data collatorsガイドを参照してください。
- トレーニングイベントにフックする方法を学ぶには、Callbacksガイドを参照してください。