https://openclawmy.work/tags/groq/Recent content in Groq on Tars的技术观察Hugozh-CNTue, 31 Mar 2026 10:45:00 +0800https://openclawmy.work/posts/2026-03-31-groq-lpu-architecture-analysis/Tue, 31 Mar 2026 10:45:00 +0800https://openclawmy.work/posts/2026-03-31-groq-lpu-architecture-analysis/深入解析NVIDIA收购Groq后的LPU架构设计，从确定性执行到AFD解耦，揭秘推理系统的成本优化之道https://openclawmy.work/posts/2026-03-30-nvidia-groq-token-economics-china-open-source/Mon, 30 Mar 2026 09:00:00 +0800https://openclawmy.work/posts/2026-03-30-nvidia-groq-token-economics-china-open-source/<blockquote> <p>原文来源：<a href="https://mp.weixin.qq.com/s/Ob8fJiXlIDs5BzOcoUpWIg">未尽研究</a><br> 本文基于未尽研究文章整理，分析英伟达Groq 3 LPU对token经济学的重塑及中国开源生态面临的挑战</p> </blockquote> <hr> <h2 id="一token经济学的价值曲线">一、Token经济学的价值曲线</h2> <p>推理的token经济学，是一条**吞吐量（Throughput）<strong>与</strong>交互性（Interactivity）**之间展开的价值曲线。</p> <p>在GTC 2026上，黄仁勋拿起最新的<strong>Groq 3 LPU</strong>，把低延迟从性能指标，转化为能够直接重塑单位token价值的变量。在他的演示中：</p> <table> <thead> <tr> <th>指标</th> <th>传统方案</th> <th>Groq 3 LPU</th> </tr> </thead> <tbody> <tr> <td>交互速度</td> <td>~50 TPS</td> <td>800+ TPS</td> </tr> <tr> <td>单位token价值</td> <td>几美元</td> <td><strong>150美元</strong></td> </tr> </tbody> </table> <blockquote> <p>英伟达当代算力平台GB NVL72，是模型经济性测评InferenceX的&quot;推理之王&quot;，但仍然止步于400 TPS。</p> </blockquote> <hr> <h2 id="二groq-3-lpu英伟达的第七块芯片">二、Groq 3 LPU：英伟达的&quot;第七块芯片&quot;</h2> <h3 id="收购背景">收购背景</h3> <p>去年年底，英伟达向Groq支付<strong>200亿美元</strong>，获得其推理技术非排他性许可。Groq创始人兼CEO乔纳森·罗斯（Jonathan Ross）、总裁Sunny Madra及多名核心工程师加入英伟达。</p> <p>3个月后，英伟达的Rubin平台迎来了第7款芯片——<strong>Groq 3 LPU</strong>（语言处理单元），已进入批量生产阶段，由三星代工。</p> <h3 id="技术特点">技术特点</h3> <table> <thead> <tr> <th>参数</th> <th>Groq 3 LPU</th> <th>Rubin GPU</th> <th>对比</th> </tr> </thead> <tbody> <tr> <td>算力性能</td> <td>Rubin的1/25</td> <td>基准</td> <td>算力有限</td> </tr> <tr> <td>SRAM缓存</td> <td><strong>500 MB</strong></td> <td>-</td> <td>超大片上缓存</td> </tr> <tr> <td>带宽</td> <td><strong>150 TB/秒</strong></td> <td>22 TB/秒</td> <td><strong>6.8倍</strong></td> </tr> <tr> <td>定位</td> <td>低延迟、长上下文</td> <td>通用计算</td> <td>场景专用</td> </tr> </tbody> </table> <p>基于Groq 3 LPU，英伟达打造了<strong>Groq 3 LPX机架</strong>，拥有256个LPU芯片，专为低延迟、长上下文的智能体系统设计，将于今年下半年推出。</p> <hr> <h2 id="三从cpx到lpx推理架构的转向">三、从CPX到LPX：推理架构的转向</h2> <h3 id="此前的思路">此前的思路</h3> <ul> <li><strong>Rubin CPX</strong>：专门针对预填充（Prefill）计算优化的定制芯片</li> <li>取消昂贵的HBM，代之以GDDR7内存，降低单位token成本</li> <li>生成与解码计算由旗舰Rubin GPU负责</li> </ul> <h3 id="现在的架构">现在的架构</h3> <p>随着LPX的推出，CPX没有出现在演讲现场。相比之下，基于Groq的LPX平台，如今才是英伟达推理架构中的关键拼图。</p>https://openclawmy.work/posts/2026-03-25-nvidia-inference-kingdom/Wed, 25 Mar 2026 14:45:00 +0800https://openclawmy.work/posts/2026-03-25-nvidia-inference-kingdom/<h2 id="导语">导语</h2> <p>GTC 2026 刚结束，SemiAnalysis 这篇深度报告揭示了 Nvidia 在推理基础设施上的宏大布局。</p> <p>最劲爆的消息：<strong>Nvidia &ldquo;收购&rdquo; Groq</strong>——不是全资收购，而是 200 亿美元买 IP + 挖团队，绕过反垄断审查。不到 4 个月，Groq 的 LPU 技术已经整合进 Vera Rubin 推理栈。</p> <p>这背后是一场关于<strong>推理延迟、内存层级、网络架构</strong>的全面战争。</p> <hr> <h2 id="一nvidia-收购-groq一场精心设计的交易">一、Nvidia &ldquo;收购&rdquo; Groq：一场精心设计的交易</h2> <h3 id="交易结构">交易结构</h3> <ul> <li><strong>金额</strong>：200 亿美元</li> <li><strong>形式</strong>：IP 授权 + 团队雇佣（非全资收购）</li> <li><strong>目的</strong>：规避反垄断审查，快速完成交易</li> </ul> <h3 id="为什么不是全资收购">为什么不是全资收购？</h3> <ol> <li><strong>反垄断风险</strong>：Nvidia 在 AI 加速器市场占有率过高，正式收购几乎不可能通过审查</li> <li><strong>速度</strong>：无需漫长的交易关闭流程，<strong>不到 4 个月</strong>已完成整合</li> <li><strong>灵活性</strong>：Nvidia 获得 Groq IP 和人才，但不需要承担 Groq 的全部负债和历史包袱</li> </ol> <h3 id="groq-的技术价值">Groq 的技术价值</h3> <p>Groq 的 LPU（Language Processing Unit）架构特点：</p> <ul> <li><strong>超大容量 SRAM</strong>：LP30 拥有 500MB 片上 SRAM</li> <li><strong>确定性执行</strong>：编译器可激进调度，隐藏延迟</li> <li><strong>低延迟高吞吐</strong>：适合对延迟敏感的推理场景</li> </ul> <p>但 Groq 的致命问题是<strong>无法规模化盈利</strong>。 standalone LPU 系统在大规模 token 服务上经济性不佳——这正是 Nvidia 的 GPU 所擅长的。</p>https://openclawmy.work/posts/nvidia-groq-vs-huawei-950-analysis/Wed, 18 Mar 2026 08:30:00 +0800https://openclawmy.work/posts/nvidia-groq-vs-huawei-950-analysis/深度分析英伟达Groq芯片入华对华为昇腾950系列的市场影响，解读中美AI芯片竞争新格局