Prompt Engineering
Fine Tuning
モデルを新たな学習データで追加学習させ、モデルのパラメータを更新し、精度を高めようというもの。いわゆる普通の機械学習。
Zero-Shot / Few-Shot
ここでいうShotは、例示の意味。Zero-shotだと、例示なし。Few-shotだと、2, 3個の例示をという意味。
Hallucination
いわゆるGPT嘘つき問題。 LLMは、あくまでも次のワードとして確率が高いものを出しているだけで、別に事実確認はしていないし、論理的に考えているわけでもありません。まったく学習していないものに対して、それっぽいけど間違っているものを出力してしまいます。 これは実用上の問題になることが多く、さまざまな対応策が提案されています。主アプローチは以下の2つです。
- 飛躍が起きないように段階的に考えさせる。
- 知らないものは調べさせる
Chain of Thought
あらかじめ関連するQuestionとAnswerを例示し、推論の道筋を方向づけします。
ポイントは
- 同じ構造の問題を選んで例示する
- 例示の解答部分で問題の構造を分解して答えを示す
Zero-shot-CoT
「段階的、論理的に考えて」をつけておけば、とりあえず性能があがると一時流行っていたやつです。英語だと、”Let’s think step by step”
Automatic Chain of Thought
Zero-shot-CoT + Manual CoT + Retriever。(Retrieverとは、検索エンジンだと思ってください。) これで、最適なQAを選択し、例示することで性能を上げます。
Self-consistency
多数決 CoT。 たくさんのCoTの結果をマージすることで解答の精度を高めます。