Slide 8
Slide 8 text
ChatGPT をカスタマイズする方法
Fine-tuningとは、機械学習モデルの訓練
法で、大規模なデータセットで事前に訓
練されたモデル(通常は言語モデル)
を、特定のタスクやドメインに適応させ
るために再訓練する手法です。
モデルのパラメータは、小さなデータセ
ットで微調整され、モデルの振る舞いを
調整します。Fine-tuningは、限られたデ
ータからでも特定の問題に対するモデル
のパフォーマンスを向上させる効果的な
方法です。
Embedding
Fine-tuning
一人暮らし
Embeddingとは、高次元のカテゴリデー
タを低次元の実数ベクトルに変換するこ
とで、機械学習の処理を可能にする手法
です。
最も一般的な形式は単語のembedding
で、単語やフレーズをベクトル空間に埋
め込むことで、単語間の意味的・文法的
な関連性を捉えます。
例えば、"king"と"queen"のベクトルは
近く、"walk"と"walking"も近くなるよ
うに設定されます。このような
embeddingは、自然言語処理(NLP)タス
クで広く使われています。