E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”

2026-08-05 · Show: 硅谷101 · 6387s · Source

对话盛颖:从 SGLang 到 AI Infra 的浪漫、开源与平权

概览

本期围绕盛颖的个人路径和技术选择展开:从江西到上海交大、哥大、斯坦福,从形式化验证转向大模型推理,再到 xAI 和 Redix ARK。她反复谈到一个核心驱动力:只能把真正让自己兴奋、能进入心流的问题做好。

技术主线是 SGLang 和 AI Infra。盛颖把 SGLang 视为博士阶段的收官之作,也把推理、RL、工具链、模型 checkpoint 等看成制造 AI 能力的基础设施;她强调 Infra 不只是 support 角色,而是本身就应被当作产品来追求美感和可靠性。

价值观主线是开源、平权和去中心化。她把开源视为自己成长环境中的“空气”,同时也承认可套利空间会改变开源社区;在 AI 未来上,她主张让更多人拥有创造和使用强 AI 的能力,而不是把能力集中在少数闭源玩家手中。

分段落总结

[00:00] 节目背景与 SGLang 的行业位置

[事实] 主持人介绍盛颖是 Redix ARK 的联合创始人与 CEO,公司在 2026 年 5 月宣布 1 亿美元种子轮融资,并获得多家 AI 与半导体相关投资方支持。 [事实] SGLang 被介绍为一个没有靠市场和销售推广、却已运行在全球数十万张 GPU 上的开源推理引擎。 [事实] 节目说明 SGLang 起点来自盛颖在斯坦福博士最后阶段与 LM-SYS 社区研究者的合作,之后她曾加入 xAI 为 Grok 搭建推理系统。

[02:27] 从江西到纽约:被打开的边界

[事实] 盛颖说自己最初对出国了解很晚,原本已接受香港中文大学 PhD offer,后来收到哥大 master offer 后决定去美国看看。 [事实] 她把从江西到上海、再到纽约的经历都视为“圈层被打破”,但纽约带来的 shock 更像从限制状态进入自由状态。 [事实] 她在哥大最初并没有明确要做研究,是因为计算复杂性课程和理论方向朋友的影响,才开始走向研究。

[05:00] 数学心流与形式化验证

[事实] 盛颖回忆普林斯顿 workshop 的氛围让她感到数学的确定性、纯粹性和心流状态,并一度想成为数学家。 [事实] 到斯坦福后,她在 rotation 中最终与 Clarke Barrett 教授匹配,进入形式化验证方向。 [事实] 她解释形式化验证是把代码映射到底层数学逻辑,再从数学角度证明程序是否满足某些性质;她的工作集中在 SMT Solver 的优化与语义定义。

[10:00] 博士低谷、导师支持与转向 AI

[事实] 盛颖说斯坦福前几年并不顺利,第一篇 IJCAR Best Paper 对她而言很意外,之后又进入接近一年的 depression 状态。 [事实] 她提到导师 Clarke Barrett 非常 supportive,没有施加持续产出论文的压力,只关心她能否恢复精神状态。 [事实] 她后来逐渐看到形式化方法理解程序语言的优美之处,但也认为形式化验证现实应用场景太少、验证成本太高,因此希望做更接近真实世界的事情并转向 AI。

[15:18] 不能妥协的性格、ADHD 与心流

[事实] 盛颖说自己无法把不感兴趣的事情做好,直到博士最后一两年才完全接受这一点。 [事实] 她认为自己是“必须 intense”的人,slow down 的环境会影响 mental healthiness;但真正吸引她的问题能让她进入强烈心流。 [事实] 她提到了解 ADHD 后像获得了“使用自己的手册”,意识到应顺着自己的特点做事;她还说一次看《甄嬛传》时突然想到论文解法。

[21:13] 天才、论文与科学家的区别

[事实] 盛颖不太愿意把自己称为天才,认为天分与兴趣相关:当外界不把研究当回事时,仍然想做它,才更接近真正的兴趣。 [事实] 她区分了“发 paper”“做研究”和“科学家”:发 paper 是可训练的技能,做研究是一种职业,而真正推动人类知识边界的人非常少。 [推测] 这段讨论把学术评价体系拆开了:论文数量能代表某种能力,但不等同于突破性科学贡献。

[26:01] Google AI for Code 与转向 LLM Infra

[事实] 盛颖在 Google 实习前已经想转 AI,并通过 AI for Code 岗位进入大模型相关工作。 [事实] 她说 2022 年 ChatGPT 出来前,Google 内部已有 PaLM、LaMDA 等模型经验,让她看到大模型的 powerful。 [事实] 她发现传统 program analysis 技术在 AI coding 面前很无力,反而坚定了进入大模型方向的决定。

[29:13] SGLang 的起点与开源生产化

[事实] 盛颖说自己博士最后两年做 LM inference,SGLang 是一系列工作的“收官之作”,从一开始就希望做成 production ready 的开源推理引擎。 [事实] 她提到已有 VLM 项目后仍继续做 SGLang,是因为自己想把多个 serving 方向的研究和思想集中到一个 general engine 中。 [事实] 她认为不同 serving engine 会相互学习并逐渐 converge,但不同阶段的 focus 不同,比如 SGLang 更早强调大规模 production serving。

[34:35] xAI 的 support、freedom 与早期团队文化

[事实] 盛颖加入 xAI,是因为那里同时给了她和连敏支持 SGLang/推理系统的 support 与 freedom。 [事实] 她形容早期 xAI 是自己回忆中最美好的工作经历之一,团队里人才密集、互相支持、非常直接,几乎没有 people game 和 politics。 [事实] 她也观察到 xAI 从小团队变大后面临组织架构阵痛,这让她意识到公司 scale up 后必须有体系支撑,而不能只靠人和文化。

[44:05] 离开 xAI 创业与 Two Sigma 体验

[事实] 盛颖离开 xAI 的原因是 SGLang 社区需求增长太快,兼职开源团队已无法 deliver,她觉得必须出来把公司建起来。 [事实] 她说自己离开时还差约两个月到 one-year cliff,但当时焦虑到无法继续专注 xAI 工作。 [事实] 她回顾哥大毕业后在 Two Sigma 工作半年,主要是想体验金融和聪明人密集的环境;后来认为 Two Sigma 是非常 organized、infra 稳定的公司。

[51:08] Redix ARK 的 AI Infra 版图

[事实] 盛颖把 Infra 定义得很宽,包括推理、训练、代码库、工具箱、sandbox、environment、中间模型 checkpoint,目标是让不同使用场景能不断产生适配的模型。 [事实] 她说公司当前 focus 在 Inference 和 RL,因为它们处在模型生产链路末端,并且在 AI 进入更多场景后需求正在爆发。 [事实] 她认为 inference 市场中目前多个玩家同步增长,竞争并没有让某一方明显消减。

[56:42] Infra 的美感与 infra first

[事实] 盛颖非常在乎系统不是“豆腐渣工程”式跑起来,而是以 well designed 的形式跑起来,这被她称为 taste。 [事实] 她认为很多模型或产品导向公司会在 Infra 美感上妥协,而 Redix ARK 想做一家 infra first 的公司。 [事实] 她说 Infra 不只是 support 角色,Infra 本身就是产品,也应该追求好用、优美和击中真实痛点。

[60:00] Radix Attention、day zero 与模型变化

[事实] 盛颖解释 Radix Attention 是用 Radix 树管理共享前缀,复用已计算的 KV cache,减少重复计算。 [事实] 她说多轮对话和 agent 场景中大量存在前缀复用;SGLang 最初还希望成为人与 AI 交互的 interface 和 language。 [事实] 她说 day zero 兼容重要是因为市场希望新模型第一天就可用;DeepSeek V4 的 day zero 支持因架构创新而需要大量适配和重写。

[65:07] 团队文化、竞争关系与下一代 AI

[事实] 盛颖认为当模型架构和推理范式变化时,技术总能做,真正难点仍在人和团队。 [事实] 她希望 Redix ARK 的文化是 focus、humble、精益求精,团队成员对自己和作品都很挑剔。 [事实] 她说 Redix ARK 的长远使命不只是 inference engine 或 infra implementation,而是想做“下一代 AI”,但没有展开具体形态。

[71:20] 客户、RL 与管理责任

[事实] 盛颖列举目标客户包括 data center、neo cloud、hyperscaler、inference provider、AI 公司和想用 AI 改造业务的传统大公司。 [事实] 她说同时做 Inference 和 RL 是因为公司要做整个 AI Infra,而 RL rollout engine 与 inference engine 有很大重叠。 [事实] 她在 xAI 学到 authority 和 responsibility 要 match;创业后她必须做决定,也必须承担结果。

[76:22] 融资、身份与人性规则

[事实] 盛颖说融资经历曲折,她最初甚至不了解 termsheet、估值、seed 轮、pitch deck 等基础概念,只能边做边学。 [事实] 她认为学术、投资等体系规则不同,但底层仍是人与人、人性和利益平衡。 [事实] 她说早期投资会同时看人和技术,而后续轮次可能更看数字与业绩。

[79:30] 开源、闭源与强 AI 的分配

[事实] 盛颖说自己小时候学编程主要靠互联网上陌生人留下的帖子和代码,因此 sharing 和 open 对她像空气一样自然。 [事实] 她认为开源越来越被认可,但也开始混入功利主义,可能削弱原本相信开源的人对纯粹性的信任。 [事实] 她主张开源和闭源共存,但不希望闭源能力 centralize;她希望提供工具,让更多人拥有制造属于自己 AI 的能力。

[87:01] LM-SYS、LM Arena 与平权

[事实] 盛颖说 LM-SYS 最初是她和连敏希望建立的机构,让不同学校的人都能参与研究;即使 Redix ARK 不走到底,LM-SYS 也是她想终身做的事业。 [事实] 她认为 LM-SYS 和 Redix ARK 共享关于平等和平权的价值,希望好项目能被托举,未 established 的真实开发者能掌握项目权利。 [事实] 她提到 LM Arena 是 LM-SYS 中一个意外获得关注的项目,后来交给新的团队继续壮大并走向商业级规模。

[94:08] 性别不平等、相信美好与执行意志

[事实] 盛颖认为 research 界存在很多微妙的性别不平等:女性赢了常常需要被解释,而不是被自然承认为强。 [事实] 她认为解决这类问题最终需要弱势者真正拥有权力,教育本身不足以改变结构。 [事实] 结尾她说好的导师、投资人、采访者都真实存在,只是需要耐心筛选和等待;她也强调每个人应按照自己的想法认知和行动,而不是被别人牵着走。

播客点评/总结

[推测] 这期的价值在于它不是单纯的创业公司访谈,而是把 AI 推理基础设施、开源社区、组织管理和个人精神结构放在同一条线上讨论,适合想理解 SGLang 背后动机的人。

[推测] 节目的亮点是盛颖对“Infra 的浪漫”和“平权”的表达非常具体:一边讲 KV cache、day zero、RL rollout,一边讲开源如何影响个人成长,以及权力结构如何影响技术共同体。

[推测] 局限在于部分公司战略和“下一代 AI”的具体形态没有展开,部分技术段落对非技术听众会有门槛;但对于关注 AI Infra、开源商业化、xAI 早期文化和研究者创业的人,这期信息密度很高。