Llama 3

Llama 3は公開データから収集した15兆トークン超の高品質データセットで訓練されており、コードと推論に特に強く、30言語（英語中心）に対応します。グループ化クエリアテンション（GQA）で推論を高速化し、教師あり微調整や方策最適化などの後処理により、指示追従と選好整合を強化しています。MacBook Pro M4 64GB上ではllama.cppを使って約71トークン/秒で動作し、ネット接続なしで数時間のプロジェクト作業が可能です。

主な利点は完全オープンソースかつ年商1億ドル未満の商用利用が無償であること、プライベートなオフラインでの推論ができること、英語におけるコーディングや文書理解に優れることです。

一方で、70Bモデルのローカル実行には48GB以上のメモリが必要で、ハードウェア要件が高いこと、中国語をはじめとする非英語の性能が比較的低いこと、量子化や環境構築に技術的知識が必要なことが欠点です。さらに訓練データの低品質部分がモデルの真の認知能力を圧迫しているとの指摘もあります。

データ主権とプライバシーを重視し、自前のインフラを管理できる開発者やチームに適しています。ハードウェアが限られている場合や、日本語・中国語などの強い言語対応を求めるユースケース、AIエンジニアがいないチームにはあまり向きません。