2026年8月18日、国立情報学研究所(NII)の大規模言語モデル研究開発センター(LLMC)が、新たに約332億パラメータのDense型大規模言語モデル(LLM)「LLM-jp-4 33B」を公開したことを発表しました。
公開されたモデルは、事前学習と中間学習までを行ったベースモデル「llm-jp-4-33b-base」と教師ありファインチューニング(Supervised Fine-Tuning:SFT)および直接選好最適化(Direct Preference Optimization:DPO)による事後学習までを行った事後学習済みモデル「llm-jp-4-33b-thinking」の2種類です。
約332億パラメータのDense型LLM「LLM-jp-4 33B」モデルを公開(LLM-jp, 2026/8/18)
https://llm-jp.nii.ac.jp/news/20260818/
参考:
国立情報学研究所(NII)、約12兆トークンのコーパスで学習した新たな国産大規模言語モデル(LLM)をオープンソースライセンスで公開 [2026年04月08日]
https://current.ndl.go.jp/car/277042
国立情報学研究所(NII)、大規模言語モデルのプレビュー版「LLM-jp-3 172B beta1」を公開 [2024年09月20日]
https://current.ndl.go.jp/car/225658
