NVIDIAは2026年7月、自己回帰型の大規模言語モデル「Nemotron-3-Nano-30B-A3B」をベースに、拡散モデル方式でテキストを生成する新モデル「Nemotron-Labs-TwoTower」をオープンウェイトで公開した。既存の自己回帰型バックボーンの重みを凍結したまま、ノイズ除去を担う第2のネットワーク（セカンドタワー）を追加で学習させるという手法により、ベースラインモデルと比べて品質を98.7%維持しながら、スループットを2.42倍に引き上げたという。

トークンを1つずつ生成する方式との違い

現在主流のLLMは「自己回帰型」と呼ばれ、直前のトークンを踏まえて次の1トークンを予測する処理を繰り返しながら文章を生成する。この仕組み上、生成は本質的に逐次処理になり、長い出力ほど時間がかかる。

一方、画像生成でおなじみの拡散モデルは、ノイズを含んだ状態から少しずつノイズを取り除いていく過程で、複数のトークンをまとめて（並列で）確定していくことができる。TwoTowerは、この拡散モデルの並列生成能力を、既存の自己回帰型モデルに後付けする形で実現した点が新しい。

フローズン・バックボーンという設計

TwoTowerの核心は「既存の学習済みモデルの重みを一切変更しない」という制約にある。Nemotron-3-Nano-30B-A3Bの重みを凍結したまま、その上に拡散生成を担当する第2のネットワークだけを追加学習する。これにより、ゼロから拡散モデルを事前学習し直す必要がなく、比較的少ないデータ量・計算量で既存の自己回帰型モデルに拡散生成能力を「移植」できる。オープンウェイトの学習済みチェックポイントを持つ研究機関にとっては、追加投資を抑えながら推論効率を改善できる現実的な選択肢になる。

実務への影響

推論のスループット向上は、そのまま推論コストの削減とレイテンシの改善に直結する。特に、AIエージェントが自律的に判断・実行・検証を繰り返す「ハーネスループ」型のワークロードでは、1回のセッションで大量のトークンを生成し続けるため、生成速度の改善効果が単発の応答生成よりも大きく効いてくる。

ただし、TwoTowerは研究公開されたばかりのオープンウェイトモデルであり、既存の商用プロダクトにすぐ組み込めるものではない。日本のエンジニアやIT管理者としては、今すぐ本番導入を検討する段階ではなく、「自己回帰型の資産を活かしたまま生成速度を上げる」という設計思想そのものを押さえておくのが実務的な向き合い方だろう。

筆者の見解

正直なところ、こうした推論高速化の研究は地味に見えて実は非常に重要だと思っている。AIエージェントが人間の代わりに判断・実行・検証を回し続ける時代においては、モデルの「賢さ」と同じくらい「1秒あたり何トークン生成できるか」が体験を左右する。TwoTowerのように、ゼロから作り直すのではなく既存の学習済みモデルに後付けで能力を追加するアプローチは、派手さはないが最も再現性が高く現実的な改善策だと感じる。

こうした技術トレンドを逐一追いかけるより、実際に自分の手元で生成速度やコストがどう変わるかを検証してみる方が得るものは大きい。ニュースを消費するだけで終わらせず、実際に触って成果につなげる姿勢を今後も大事にしていきたい。

出典: この記事は NVIDIA Releases Nemotron-Labs-TwoTower: an Open-Weight Diffusion Language Model Built on a Frozen Autoregressive Nemotron-3-Nano-30B-A3B Backbone の内容をもとに、筆者の見解を加えて独自に執筆したものです。