QATrainer.Options クラス

FFN レイヤーでのアクティブ化後のドロップアウト率。 [0, 1] 以内にする必要があります。

Adam オプティマイザーのベータ。

Adam オプティマイザーの Epsilon。

応答インデックスの開始列名

注意の重みのドロップアウト率。 [0, 1] 以内にする必要があります。

ミニバッチ トレーニングに使用するサンプルの数。

グラデーションのクリッピングしきい値。 [0, +Inf)] 内にする必要があります。 0 は、標準をクリップしないことを意味します。

コンテキスト列名

一般的な状況のドロップアウト率。 [0, 1] 以内にする必要があります。

動的ドロップアウトを使用するかどうか。

各エンコーダー ブロックの前にレイヤー正規化を適用するかどうか。

多項式減衰スケジューラの最終的な学習率。

エンコーダー パラメーターを固定するかどうか。

転送モジュールのパラメーターを固定するかどうか。

ラベル列名。

レイヤーノルムパラメータをトレーニングするかどうか。

最初の N エポックの学習率。LR_Nを >使用するすべてのエポックN。 注: これは、スケジューラによって解釈方法が異なる場合があります。

損失をログに記録する頻度。

このエポック数に達したら、トレーニングを停止します。

マスクされた言語モデル プーラー レイヤーのドロップアウト率。 [0, 1] 以内にする必要があります。

予測された回答の回答列名

予測列名。

質問の列名

[スコア付け] 列名。

最初の文の列。

2 番目の文の列。

多項式減衰スケジューラの学習開始率。

タスクの種類。これはモデルヘッドに関連しています。

問題の回答タスクで予測された上位の回答の数。

トレーニング データの回答列名

モデルの品質を向上させるためにトレーニング中に使用される検証セット。

多項式減衰スケジューラのウォームアップステップの割合。

重量減衰の効率。 [0, +Inf)] 内にする必要があります。