[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"content-doc-dcio5398e7be":3},{"user":4,"document":8,"mainDocument":27,"columnUrl":29,"subscription":30,"footer":42,"text":80},{"isAuthenticated":5,"isAdmin":5,"displayName":6,"avatarUrl":6,"nid":6,"groupLevel":7},false,"",-10,{"id":9,"fullTitle":10,"subTitle":6,"url":11,"columnId":12,"columnName":13,"columnUrl":14,"summary":6,"contentHtml":15,"mainContentHtml":6,"posterUrl":16,"createDate":17,"displayDate":18,"displayDateSlash":19,"pageviews":20,"tags":21,"hidden":5,"isSubContent":5,"replyDocOrTargetId":6,"contentType":23,"videoId":6,"liveVideoUrl":6,"useContentVideo":5,"duration":24,"price":24,"priceText":25,"priceBadgeText":25,"priceBadgeClass":26,"freeForMinGroupLevel":24,"redirectUrl":6,"readyToStream":5},"dcio5398e7be","瞄准低延迟AI推理市场-英伟达(NVDA)Groq-3-LPX全面量产-首批系统将部署于NEBIUS(NBIS)","\u002Fdoc\u002Fdcio5398e7be","col18178739ee","美股资讯","\u002Fcol\u002Fcol18178739ee","\u003Cp>\n\u003C\u002Fp>\u003Cp>\u003Cspan>美股投资网获悉，英伟达(NVDA)周一宣布，Groq 3 LPX机架级系统已经进入全面量产阶段，标志着公司去年斥资约200亿美元收购Groq相关资产后，这项低延迟AI推理技术正式进入商业化落地阶段。首批系统将部署于AI云计算服务商NEBIUS(NBIS)，并计划于今年晚些时候上线。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达高级总监Dion Harris向媒体表示，Groq 3 LPX将与英伟达Vera中央处理器和Rubin图形处理器共同部署在Nebius的数据中心。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>此次Groq产品快速实现量产，反映出随着AI应用从模型训练进一步转向实际部署，低延迟AI推理正成为英伟达重点争夺的新市场。尤其是在AI智能体和AI编程等应用中，模型需要以更快速度持续生成内容，减少用户等待时间。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达于去年12月斥资约200亿美元收购AI芯片初创公司Groq的相关资产，成为公司历史上规模最大的收购交易。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>Groq芯片架构的一大特点是在芯片内部集成500MB高速SRAM，以减少传统内存访问可能造成的数据传输瓶颈，从而提高AI模型推理过程中的响应速度。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>与英伟达主要GPU由台积电(TSM)生产不同，Groq芯片由三星负责制造。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达目前将256颗Groq 3芯片集成至一个LPX机架中。根据英伟达引用Artificial Analysis的基准测试数据，Groq 3 LPX系统能够实现每秒生成约3400个token的性能。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>对于生成式AI而言，token可以理解为模型处理和生成文本的基本单位。更高的每秒token生成速度意味着AI能够更快响应用户请求，对于AI编程、实时智能体等对延迟高度敏感的应用尤其重要。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>Harris表示，对于提供AI推理服务的云计算企业而言，更低的延迟意味着它们能够向对响应速度要求更高的客户提供价格更高的高级服务。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>不过，Groq芯片并不是为了取代英伟达传统GPU。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>GPU仍然是当前AI计算基础设施的核心，不仅能够进行AI模型训练，也能够执行推理任务，同时拥有更强的通用性，可以适应不同模型和技术架构。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>Groq这类低延迟芯片则更加专注于AI推理过程中的特定环节，尤其是模型生成内容时的“解码”阶段。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>Harris表示“这并不是要取代GPU，而是针对工作负载的不同部分，使用价格和性能最合适的处理器。”\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>这意味着英伟达正在尝试建立更加细分的AI计算架构Vera CPU和Rubin GPU继续承担更广泛的AI计算任务，而Groq芯片则针对延迟高度敏感的推理工作负载进行优化。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>随着AI行业逐渐从大规模模型训练进入推理需求快速增长阶段，低延迟推理市场的竞争正在升温。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>AMD(AMD)今年早些时候宣布，将其机架级AI系统与Cerebras(CBRS)芯片进行整合，同样重点瞄准低延迟AI推理。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>这一领域的重要性正在随着AI编程等应用普及进一步提高。报道提到，OpenAI最新公布的Ultrafast模式承诺达到每秒750个token，并由Cerebras提供底层算力支持。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>相比之下，英伟达引用的基准测试数据显示，Groq 3 LPX能够达到每秒3400个token。不过，不同系统的测试条件和应用场景可能存在差异，因此这些数字并不能简单视为直接的性能对比。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>与此同时，英伟达正在加快Vera Rubin系统的出货，该平台已于今年早些时候进入生产阶段。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>英伟达CEO黄仁勋今年3月在发布Vera Rubin和Groq 3 LPX时曾预计，从目前的Blackwell芯片到新一代Vera Rubin系统，截至2027年的累计销售额可能达到1万亿美元。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>黄仁勋当时还透露，在专门用于AI编程应用的数据中心空间中，他计划将约四分之一配置给Groq芯片，其余部分则全部部署Vera Rubin系统。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>这一配置比例进一步显示出英伟达对低延迟推理市场的重视。随着AI智能体、AI编程以及实时生成式AI应用快速发展，推理速度正在成为云计算企业和AI开发商竞争的重要指标。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>Groq 3 LPX正式进入全面量产，也意味着英伟达正在从以GPU为核心的AI芯片供应商，进一步扩展至针对不同AI工作负载提供专用计算架构。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>市场接下来还将关注英伟达最新业绩表现。公司将于本周三公布财报，除Blackwell和Vera Rubin需求之外，AI推理业务以及Groq商业化进展也可能成为投资者关注的新焦点。\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>最专业的美股资讯,推荐美股大数据 \u003Ca href=\"https:\u002F\u002FStockwe.com\u002F\">https:\u002F\u002FStockwe.com\u002F\u003C\u002Fa>\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003Cspan>如何识别美股市场异常波动？美国机构主力资金买卖情况，出货和吸筹，使用美股投资网VIP会员，2008年成立于美国硅谷，由前纽约证券交易所分析师Ken创立，联合多位摩根斯坦利分析师，谷歌 Meta工程师利用AI和大数据，配合十多年美股实战经验和业内量化模型，建立了一个股市数据库 \u003Ca href=\"https:\u002F\u002FStockWe.com\u002F\">https:\u002F\u002FStockWe.com\u002F\u003C\u002Fa> 每天处理千万级股票数据：捕捉期权大单，实时主力资金流向、机构持仓变化、川普突发新闻，精准交易信号第一时间发到您手机APP！\u003C\u002Fspan>\u003C\u002Fp>\n\u003Cp>\u003C\u002Fp>","https:\u002F\u002Fwww.tradesmax.com\u002Fimages\u002Fa_Stock\u002FN\u002FNVDA\u002FNVDA.jpg","2026-08-25T15:20:59","2026.08.25","2026\u002F08\u002F25",31308,[22],"NVDA","Article",0,"免费","success",{"id":9,"fullTitle":10,"subTitle":6,"url":11,"columnId":12,"columnName":13,"columnUrl":14,"summary":6,"contentHtml":15,"mainContentHtml":6,"posterUrl":16,"createDate":17,"displayDate":18,"displayDateSlash":19,"pageviews":20,"tags":28,"hidden":5,"isSubContent":5,"replyDocOrTargetId":6,"contentType":23,"videoId":6,"liveVideoUrl":6,"useContentVideo":5,"duration":24,"price":24,"priceText":25,"priceBadgeText":25,"priceBadgeClass":26,"freeForMinGroupLevel":24,"redirectUrl":6,"readyToStream":5},[22],"\u002Fcol\u002Fstocknews",{"visible":5,"marketingHtml":31,"services":32,"recentDocuments":41},"\u003Cfigure class=\"image\">\u003Ca href=\"https:\u002F\u002Fstockwe.com\u002Fdoc\u002Fdcio537efad5\" rel=\"noopener noreferrer\">\u003Cimg src=\"\u002Fimg\u002Fstockwewebfiles\u002Fweb-202408-stk\u002F1586109431mceclip0.jpg\">\u003C\u002Fa>\u003C\u002Ffigure>\u003Cdiv class=\"text-center\">\u003Ch2 class=\"card-title mx-auto\">\u003Cbr>\u003Ca rel=\"noopener noreferrer\" href=\"https:\u002F\u002Fstockwe.com\u002Fdoc\u002Fdcio537efad5\">案例介绍：英伟达深度研究报告\u003C\u002Fa>\u003C\u002Fh2>\u003C\u002Fdiv>",[33,37],{"productId":34,"serviceName":35,"priceText":36},"prod_PPxdDdK87QaiLv","月付","$12.95美元",{"productId":38,"serviceName":39,"priceText":40},"prod_PPxeMs3bix1da5","年付","$149.00美元",[],{"links":43,"images":71,"summaryHtml":76,"aboutTitle":77,"aboutHtml":78,"copyrightHtml":79},[44,47,50,53,56,59,62,65,68],{"label":45,"url":46},"深度报告","\u002Fcol\u002FdepthReport",{"label":48,"url":49},"VIP会员","\u002Fvip",{"label":51,"url":52},"期权推荐","\u002FOption",{"label":54,"url":55},"低价暴涨股","\u002FPenny",{"label":57,"url":58},"AI智能体","\u002FAiAgent",{"label":60,"url":61},"常见问题","https:\u002F\u002Fstockwe.com\u002FFAQ",{"label":63,"url":64},"美股课程","\u002Fcol\u002Fvideos",{"label":66,"url":67},"免责声明","\u002Fdisclaimer",{"label":69,"url":70},"联系我们","\u002FContactUs",[72,73,74,75],"\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploaderzic2tuwsol2_2025_09_11_18_21_07.gif","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploadercakzdvydksw_2025_09_03_09_00_56.png","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploadergtjyagwvoyk_2025_09_14_08_32_05.png","\u002Fimg\u002Fstockwebsiteblob\u002Fweb-202509-stk\u002FUploader3u0tt4jhlqh_2025_09_23_22_30_48.png","邮箱: buy@TradesMax.com 美国电话 626-378-3637","公司介绍","\u003Cp class=\"MsoNormal\">美股大数据 \u003Ca href=\"https:\u002F\u002Fstockwe.com\" rel=\"noopener\">StockWe.com\u003C\u002Fa> 是一个美国领先的金融和美股信息大数据提供商，紧盯华尔街金融市场和行情，2008年成立于美国硅谷，创始人是前纽约证券交易所资深分析师Ken，联合多位摩根斯坦利分析师，谷歌 Meta工程师利用AI和大数据，配合十多年美股实战经验和业内量化交易模型，每天处理海量股票数据：挖掘潜力大牛股，捕捉期权异动大单，实时主力资金流向、机构持仓变化、川普突发新闻，美股买卖信号第一时间发到您手机APP。\u003C\u002Fp>","专业美股投资者都在这里",{"loading":81,"search":82,"searchPlaceholder":82,"hotContent":83,"draft":84,"noData":85,"searchNoData":86,"courseContent":87,"more":88,"buyNow":89,"subscribeNow":90,"encoding":91,"paidContent":92},"Loading...","搜索","热门内容","草稿","目前没有任何内容公布","当前检索内容没有数据","课程内容","更多","立即购买后观看","- 立即订阅 -","视频编码中...","付费内容"]