Llama 3.3 (70B)
Llama 3.3(70B)は、Metaが2024年12月にリリースしたオープンソースLLMです。オープンソース特有の「カスタマイズの自由度」を保ったまま、クローズドな有償モデル(GPT-4等)に迫る極めて高い翻訳精度や論理構成力を発揮します。データの安全性を最優先するエンタープライズ企業で絶大な支持を得ています。
コンテキスト許容量128,000 トークン
対応フォーマットテキスト、コード解析
有料プラン無料(インフラ運用コストのみ)
主な強み・メリット
- オープンソース(Llama 3ライセンス)最高峰の性能を持ち、企業内での商用利用も無償
- 70B(700億パラメータ)と程よいサイズでありながら、GPT-4クラスに匹敵する多言語・コード能力
- 独自のサーバー環境にデプロイすることで、社外にデータを1バイトも出さない完全なガバナンスを実現
弱み・注意点
- 自社でモデルを動かす(ホストする)ためのGPUサーバー構築・保守に関するインフラ知識が必要
ビジネスでの具体的な活用シーン
1
顧客の機密データ(氏名・住所・クレジットカード等)を含むテキストデータの、社外APIを介さない安全な要約・分類
2
社内のオンプレミスサーバーに構築した、完全クローズド環境用のドキュメント検索(RAG)システム
顧問直伝!効果を高めるプロンプトのコツ
モデルサイズに対して日本語処理能力が非常に高いため、プロンプトに「あなたは優秀な日本語アシスタントです」と明確な役割を設定すると精度が跳ね上がります。