目次

NVIDIAが、社内文書などをAIで検索・活用しやすくするモデル群「Nemotron Retriever」に5種類を追加しました。埋め込み、検索候補の並べ替え、PDFの整形に使えるモデルが公開されており、用途や規模に応じて選べます。

要点#

  • 新モデルは埋め込み用が3種類、再ランキング用が1種類、PDF整形用が1種類です。
  • 8Bの埋め込みモデルは日本語を含む34言語に対応し、画像とテキストを扱えます。
  • NVIDIAの比較では、埋め込みモデルやPDF整形モデルが精度・速度で競合製品を上回る結果を示しています。
  • 5モデルはオープンモデルとして公開され、ライセンスはOpenMDW-1.1です。

5モデルの役割#

RAGでは、資料を検索しやすいデータに変換し、質問に合う候補を探してから、生成AIに渡します。今回のモデル群は、その検索準備から候補の並べ替えまでを支援します。

埋め込み用の「Nemotron-3.5-Embed-8B-BF16」は、テキストや画像を検索に使える表現へ変換します。日本語を含む34言語に対応します。小規模版の「Nemotron-3.5-Embed-1B-BF16」と、そのNVFP4量子化版「Nemotron-3.5-Embed-1B-NVFP4」も用意されました。

「Nemotron-3.5-Rerank-8B-BF16」は、質問と画像・テキストの関連性を評価し、検索候補を順位付けします。「Nemotron-3.5-Parse」はPDFの内容をAIが処理しやすいデータに整えます。検索用データの作成と、候補の選別を別のモデルに任せる構成です。

ベンチマークの見どころ#

NVIDIAが公開した比較では、8Bの埋め込みモデルがQwen3-VL-Embedding-8BやEmbeddingGemma-2を上回るスコアを記録しています。1BのBF16版も、Qwen3-VL-Embedding-8Bに近い性能を示したとしています。処理速度と精度を比べたグラフでは、8B版と1B版、1BのNVFP4版が競合モデルより有利な位置にあります。

同社は、埋め込みモデルとRerankを組み合わせることで、クエリごとのコストを抑えながら精度を上げられるとも説明しています。Parseについても、秒間の処理ページ数と精度を比べたグラフを公開し、競合モデルと比べて高い処理速度をアピールしています。

これらはNVIDIAが示した評価結果です。公開情報だけでは、自社の文書や質問でも同じ精度・速度・コストになるかは分かりません。導入を決める前に、実際のデータで測る必要があります。

試すときの確認点#

まず、扱う資料の種類と言語を確認します。PDFが中心ならParseを含め、画像も検索対象なら画像入力に対応したEmbedモデルを候補にします。計算資源に制約がある場合は1Bモデルから試し、必要に応じて8Bモデルと比べる方法があります。量子化版も選択肢ですが、速度や精度への影響は実環境で確かめてください。

評価用には、代表的なPDFを数十件、実際に使いそうな質問を10件ほど用意します。検索結果の正しさだけでなく、文書の取り込み速度、上位に誤った候補が出る頻度、クエリごとのコストも記録すると、運用時の違いを判断しやすくなります。

公開されていることと、あらゆる使い方が同じ条件で認められることは別です。OpenMDW-1.1の利用条件は、配布ページで用途や再配布方法に照らして確認してください。

次の一歩#

代表的なPDFを数十件選び、Embed-1BとParseで小さな検索セットを作って、社内でよくある質問10件の検索結果を確認してください。

参考#

出典: https://news.livedoor.com/article/detail/32628832/

目次