NVIDIA wydała Nemotron 3 Embed, otwartą kolekcję modeli osadzeniowych (embedding) zaprojektowaną do produkcyjnych zastosowań RAG, agentic retrieval, code retrieval i pamięci agentów. Kolekcja obejmuje trzy warianty: Nemotron-3-Embed-8B-BF16 (8 miliardów parametrów, maksymalna dokładność), Nemotron-3-Embed-1B-BF16 (1,14 miliarda parametrów) oraz Nemotron-3-Embed-1B-NVFP4 (1,14 miliarda parametrów z 4-bitową optymalizacją dla procesorów Blackwell). Wszystkie modele to transformerowe encodery z bidirectionalnym attention masking i maksymalną długością sekwencji 32,768 tokenów, ewaluowane w 34 językach.
Wyniki benchmark RTEB pokazują zdecydowaną dominację największego wariantu - Nemotron-3-Embed-8B-BF16 zajął pierwsze miejsce ogólnie na benchmarku RTEB ze średnim wynikiem 78,46 NDCG@10, znacząco przewyższając poprzednie wersje Llama-Nemotron (odpowiednio 60,47 i 61,98). Model osiąga także doskonałe rezultaty w innych testach - 60,60 w ViDoRe-V3 text i 75,45 w MMTEB retrieval. Mniejsze warianty 1B utrzymują solidne wyniki przy znacznie mniejszej liczbie parametrów, co czyni je atrakcyjnymi dla zastosowań o ograniczonej mocy obliczeniowej.
Modele oparte są na architekturze Mistral - 8B wykorzystuje Ministral-3-8B-Instruct-2512, podczas gdy oba warianty 1B bazują na Ministral-3-3B-Instruct-2512. Osadzenia generowane są poprzez average pooling reprezentacji tokenowych, a wszystkie modele dostępne są na licencji OpenMDW-1.1, co umożliwia ich otwarty rozwój i wdrażanie w komercyjnych aplikacjach.