GPT-3 (Davinci / InstructGPT)
GPT-3 is, 2020年6月にOpenAIが発表した、現代の「巨大モデル(LLM)革命」の真のパラダイムシフトとなった歴史的マイルストーンです。1750億ものパラメータを巨大なインターネットデータで事前学習させるアプローチにより、「スケールすることでAIが創発的な知能を獲得する」ことを実証し、競合他社がLLM開発へ追随するきっかけを作りました。
コンテキスト許容量2,049 トークン
対応フォーマットテキスト
有料プランなし(サポート終了・廃止済み)
主な強み・メリット
- 膨大なパラメータ(1750億)により、学習していないタスクをいくつかの例示だけで実行する能力を初めて証明した
弱み・注意点
- 指示への正確な追従(Instruction Tuning)が不完全で、文脈を無視した意味不明な出力を頻発した
- チャットのような双方向の対話を行うには、プロンプトの設計が非常に難解であった
ビジネスでの具体的な活用シーン
1
初期のプロンプトエンジニアリングの研究、Few-shotインコンテキストラーニングの再現
顧問直伝!効果を高めるプロンプトのコツ
指示を直接与えるのではなく、文章の「続き」を埋めさせるように記述すると比較的安定します。