時刻新聞
首玉韻
henry發(fā)自凹非寺量子位|公眾號QbitAI
眾所周知，老黃不僅賣鏟子（GPU），還自己下場開礦（造模型）。
英偉達最新推出的LlamaNemotronSuperv1.5開源模型就專為復雜推理和agnet任務量身打造。
模型在科學、數(shù)學、編程及agent任務中實現(xiàn)SOTA表現(xiàn)的同時，還將吞吐量提升至前代的3倍，且可在單卡高效運行，實現(xiàn)更準、更快、更輕的“既要又要還要”。
這是怎么做到的？
模型介紹
LlamaNemotronSuperv1.5是Llama-3.3-Nemotron-Super-49B-V1.5的簡稱。它是Llama-3.3-Nemotron-Super-49B-V1的升級版本（該模型是Meta的Llama-3.3-70B-Instruct的衍生模型），專為復雜推理和智能體任務設計。
模型架構(gòu)
LlamaNemotronSuperv1.5采用神經(jīng)架構(gòu)搜索（NeuralArchitectureSearch，NAS），使該模型在準確率和效率之間實現(xiàn)了良好的平衡，將吞吐量的提升有效轉(zhuǎn)化為更低的運行成本。
（注：NAS的目標是通過搜索算法從大量的可能架構(gòu)中找到最優(yōu)的神經(jīng)網(wǎng)絡結(jié)構(gòu)，利用自動化方法替代人工設計神經(jīng)網(wǎng)絡架構(gòu)，從而提高模型的性能和效率。）
在LlamaNemotronSuperv1.5中，NAS算法生成了非標準、非重復的網(wǎng)絡模塊（blocks）。相較于傳統(tǒng)的Transformer，其包含以下兩類變化：
跳過注意力機制（Skipattention）：在某些模塊中，直接跳過了注意力層，或者只用一個線性層來代替?？勺兦梆伨W(wǎng)絡（VariableFFN）：在前饋網(wǎng)絡（FeedforwardNetwork）中，不同模塊采用了不同的擴展/壓縮比。
由此，模型通過跳過attention或改變FFN寬度以減少FLOPs，從而在資源受限時更高效地運行模型。
之后，研究團隊還對原始的Llama模型（Llama3.370BInstruct）進行了逐模塊的蒸餾（block-wisedistillation），通過對每個模塊構(gòu)造多個變體，并在所有模塊結(jié)構(gòu)中搜索組合，從而構(gòu)建一個模型。
使它既能滿足在單個H10080GB顯卡上的吞吐量和內(nèi)存要求，又盡量減少性能損失。
訓練與數(shù)據(jù)集
模型首先在FineWeb、Buzz-V1.2和Dolma三個數(shù)據(jù)集共400億個token的訓練數(shù)據(jù)上進行了知識蒸餾（knowledgedistillation，KD)，重點關注英語單輪和多輪聊天。
在后訓練階段，模型通過結(jié)合監(jiān)督微調(diào)（SFT）和強化學習（RL）的方法，以進一步提升模型在代碼、數(shù)學、推理和指令遵循等關鍵任務上的表現(xiàn)。
這些數(shù)據(jù)既包括來自公開語料庫的題目，也包含人工合成的問答樣本，其中部分題目配有開啟和關閉推理的答案，旨在增強模型對推理模式的辨別能力。
英偉達表示數(shù)據(jù)集將在未來幾周內(nèi)發(fā)布。
總的來說，LlamaNemotronSuperV1.5是一個通過NAS自動優(yōu)化架構(gòu)、精簡計算圖的Llama3.370BInstruct變體。它針對單卡運行場景做了結(jié)構(gòu)簡化、知識蒸餾訓練與后訓練，兼顧高準確性、高吞吐量與低資源占用，特別適合英語對話類任務及編程任務的部署。
此外，在部署方面，英偉達延續(xù)了其一貫的生態(tài)優(yōu)勢：
我們的AI模型專為在NVIDIAGPU加速系統(tǒng)上運行而設計和/或優(yōu)化。通過充分利用NVIDIA的硬件（如GPU核心）和軟件框架（如CUDA庫），相比僅依賴CPU的方案，模型在訓練和推理階段實現(xiàn)了顯著的速度提升。
該模型現(xiàn)已開源。開發(fā)者可以在build.nvidia.com體驗LlamaNemotronSuperv1.5或直接從HuggingFace下載模型。
Onemorething
作為英偉達最新發(fā)布的開源大語言模型，LlamaNemotronSuperv1.5隸屬于英偉達Nemotron生態(tài)，該生態(tài)集成了大語言模型、訓練與推理框架、優(yōu)化工具和企業(yè)級部署方案，旨在實現(xiàn)高性能、可控性強、易于擴展的生成式AI應用開發(fā)。
為滿足不同場景需求與用戶定位，英偉達在此生態(tài)的基礎上推出了三個不同定位的大語言模型系列——Nano、Super和Ultra。
其中，Nano系列針對成本效益和邊緣部署，適合部署在邊緣設備（如移動端、機器人、IoT設備等）或成本敏感型場景（比如本地運行、離線場景、商業(yè)小模型推理）。
Super系列則針對單個GPU上平衡的精度和計算效率，它可以在一張高性能GPU（如H100）上運行，不需要多卡或大型集群。它的精度比Nano高，但比Ultra小巧，適合企業(yè)開發(fā)者或中型部署。我們上面提到的LlamaNemotronSuperv1.5就屬于這一系列。
Ultra則致力于數(shù)據(jù)中心的最大精度，專為在數(shù)據(jù)中心、超算集群、多張GPU上運行而設計，面向復雜推理、大規(guī)模生成、高保真對話等對精度要求極高的任務。
目前，Nemotron已獲得SAP、ServiceNow、Microsoft、Accenture、CrowdStrike、Deloitte等企業(yè)支持或集成使用，用于構(gòu)建面向企業(yè)級流程自動化和復雜問題解決的AI智能體平臺。
此外，在AmazonBedrockMarketplace中也能通過NVIDIANIM微服務調(diào)用Nemotron模型，簡化部署流程，支持云端、混合架構(gòu)等多種運營方案。
[1]https://www.marktechpost.com/2025/07/27/nvidia-ai-dev-team-releases-llama-nemotron-super-v1-5-setting-new-standards-in-reasoning-and-agentic-ai/[2]https://developer.nvidia.com/blog/build-more-accurate-and-efficient-ai-agents-with-the-new-nvidia-llama-nemotron-super-v1-5/[3]https://huggingface.co/nvidia/Llama-3_3-Nemotron-Super-49B-v1_5[4]https://www.nvidia.com/en-us/ai-data-science/foundation-models/nemotron/
《我的美女總裁老婆未婚妻》:他就愛她這一款,將她寵成掌中寶!
“隊長美女，我只是想混口飯吃而已，現(xiàn)在國家政策允許擺攤了，你咋還管起來了？”段長青一雙眼睛如同探照燈一般，上上下下肆無忌憚的打量著這個美女大隊長。說真的，眼前這個美女辦事員不管在身材上還是顏值上居然比他那個老婆也是不遑多讓|。都說蘇市自古出美女，果然誠不欺我！“小子，你看夠了沒，信不信本小姐是什么_。
言情小說《我的美女總裁老婆》為什么大家看了都忍不住點贊作者
不過，不管如何，他只能乖乖的跟著趙青青下樓，誰讓對方是自己的上司兼老婆呢。要是不聽話，回家給自己小鞋穿不說，在公司恐怕也饒不了自己——。兩人來到樓下的停車場，入眼的就是一輛紅色法拉利。段長青一看，眼睛大亮。好漂亮的小汽車啊?！皶粫_車啊。”趙青青拿出車鑰匙，瞥了段長青一眼，淡淡說道——-?！皶_好了吧！
私藏好書《我的美女總裁老婆》,命運不公,我就要逆天改命!
“你安排瑩瑩姐留下？夠下本兒的啊，不怕她被林蕭勾跑了？”臉上浮起一絲笑容，陳雪妃打趣道，方瑩瑩，明面兒上是遠通物流副總裁，私底下卻是自己哥哥陳卓的紅顏之一?！敖杷麄€膽子！”冷哼一聲，陳卓道|-。雖然嘴上這么說，但想到林蕭那帥氣的容貌，陳卓又忍不住有些擔心，要不然，換另外的人？“哈哈，那我就有幫助請點贊_|。
來源：紅網(wǎng)
作者：楊惠雯
編輯：強立火
本文為紅辣椒評論 原創(chuàng)文章，僅系作者個人觀點，不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。