锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾
从强化学习到后训练:MineLab 的技术路径与 New Lab 方法论
概览
本期播客邀请 MineLab 联合创始人兼首席科学家马肖腾,围绕强化学习、模型后训练、New Lab 的商业闭环及国内外模型竞争展开讨论。他认为,后训练是一项类似互联网推荐系统的基础技术,其价值在于利用真实场景的数据,持续提升模型在垂直任务中的表现。
讨论从强化学习延伸到个人选择与创业哲学。马肖腾用“探索与利用”“策略与价值一致”“折扣因子”三个概念解释自己的行动原则:保留探索空间、通过实践修正判断,并在长期目标与现实可执行性之间取得平衡。
对于模型产业,他判断当前竞争的关键仍是基础设施与数据。通用训练方法正在标准化,但模型架构与硬件的协同设计、专有数据、真实交互环境以及持续训练能力,仍会形成显著差异。创业公司因组织目标更集中、投入意愿更强,可能比大厂更容易做出前沿模型。
MineLab 当前通过后训练服务接触企业真实数据和环境,并探索以 LoRA 为基础的低成本、多样化模型体系。马肖腾最终强调,他希望未来不是由单一全能模型垄断一切,而是形成拥有不同能力、偏好和“品味”的多模型生态。
分段落总结
[00:18] 嘉宾背景与 MineLab 的技术定位
[事实] 马肖腾介绍自己毕业于清华大学自动化系,研究方向长期集中在强化学习和模型后训练。
[事实] 他表示,无论此前参与应用公司,还是后来创办 MineLab,核心目标始终是利用强化学习提升模型能力。
[事实] MineLab 的业务形态从面向消费者的应用转向面向企业的强化学习与后训练服务,但底层目标仍是训练大模型,使其在特定垂直任务上取得性能提升。
[推测] 在他看来,具体产品只是后训练技术的阶段性载体,建立可复用的训练能力比押注单一应用形态更重要。
[03:05] 强化学习如何塑造创业与人生选择
[事实] 马肖腾把强化学习中的探索与利用、策略与价值一致、长期回报三个概念,视为指导个人选择的原则。
[事实] 他认为,适度随机探索看似低效,却是跳出局部最优的必要条件,因此自己倾向于“90 分主义”,把剩余精力用于尝试新方向。
[事实] 他将“策略与价值一致”对应到知行合一:持续更新判断,通过行动收集经验,再用结果修正价值观。
[事实] 他用折扣因子解释长期主义,认为既不能只看眼前,也不能因过度关注遥远且充满噪声的未来而无法行动。
[推测] 创业之所以吸引他,是因为它提供了更完整、快速的现实反馈循环,适合不断验证和更新认知。
[09:05] 从学术研究到大规模模型训练
[事实] 马肖腾曾考虑成为教授,但认为教职的大量时间会用于基金等事务,未必能持续专注于研究和学生培养,最终选择创业。
[事实] 他在博士期间参与过大规模对战训练项目,较早接触上万核 CPU、百张 V100,以及 Ray、Kubernetes 等集群训练技术。
[事实] 他认为,大模型强化学习与早期研究面对的核心问题并未根本改变,仍包括奖励投机、模拟环境、奖励设计和基准评测,只是网络更大、成本更高。
[事实] 他把自己的优势归因于跨方向研究经历和较强的泛化能力,认为不同领域的知识交叉可能带来新的研究洞见。
[推测] 相比单一方向的极致专精,他更看重从多种研究经历中提炼可迁移的方法论。
[15:03] 强化学习研究生态与中美模型差距
[事实] 马肖腾表示,自己早期进入强化学习领域并非预判到它会重新流行,而是因为导师和项目安排;当时该方向论文发表机会较少。
[事实] 他认为国内并不缺少优秀的强化学习研究者,但相较硅谷,国内不同研究方向之间的融合不足,研究者更容易被贴上 RL、CV 等固定标签。
[事实] 他判断 OpenAI 等美国头部机构的领先来自更早的数据积累、大规模强化学习实践和更充足的算力。
[事实] 他认为 1T 参数以下模型的预训练与后训练已逐渐形成标准配方,主要竞争转向数据规模、模型效率和更大规模的系统能力。
[推测] 国内短期会受算力与前沿训练范式限制,但国产算力改善和数据组织能力可能在长期缩小部分差距。
[20:21] 数据稀缺、模型蒸馏与企业私有数据
[事实] 马肖腾认为,公开互联网数据已接近被充分利用,当前大量训练数据来自既有数据、其他模型输出以及模型自身历史轨迹的再加工与蒸馏。
[事实] 新的数据竞争正转向专业领域、企业内部和真实生活场景,这些数据通常不会自然流向基础模型厂商。
[事实] 他提到,部分海外公司通过收购获取未公开数据,反映了头部模型公司争夺专有数据的决心。
[事实] 他认为,面向企业的后训练之所以有价值,正是因为它可以连接难以公开获得的场景数据。
[推测] 当公开数据红利减弱后,谁能合法、稳定地进入真实业务环境并形成数据闭环,谁就更可能建立长期壁垒。
[22:33] 大厂与 AI 创业公司的竞争结构
[事实] 马肖腾承认大厂在资金、算力和运营资源上更有优势,但指出近年的优秀模型往往来自专注于 AI 的创业公司。
[事实] 他认为,大厂的模型团队需要面对集团内部的投入产出评估,还可能与既有业务发生冲突,因此较难长期保持不受干扰的前沿探索。
[事实] 创业公司如果做不出模型便可能失去生存空间,因此更容易集中资源全力投入。
[事实] 大厂即使未能做出最领先的模型,也可以通过销售算力、云服务或股权投资从产业增长中获益。
[推测] 模型技术上的赢家与商业上的赢家可能不是同一类公司,未来更可能形成大厂提供资源、创业公司承担前沿创新的分工。
[28:34] 下一阶段竞争:基础设施、架构与环境
[事实] 马肖腾把下一阶段竞争概括为基础设施和数据两个方向,其中模型与硬件的协同设计尤其重要。
[事实] 他认为,通过优化模型架构以适配不同硬件,可以在一定程度上弥补算力不足,并降低训练与推理成本。
[事实] 数据的概念正在从静态样本扩展为可供模型尝试、获得反馈并持续学习的环境。
[事实] 对没有标准答案的任务,仅有监督微调数据并不足够,还需要构造能够支持强化学习或其他探索方式的环境。
[推测] 未来高价值的数据服务可能不只是出售数据集,而是提供任务、反馈、评测和交互机制组成的训练环境。
[30:42] 对国内外模型公司的判断
[事实] 马肖腾在海外模型公司中更看好 OpenAI 和 Anthropic,并表示若必须选择一家,会倾向 OpenAI。
[事实] 在国内,他尤其看好 DeepSeek 在模型与基础设施协同设计上的投入,认为其系统优化可以降低成本、支持更多数据和更快训练。
[事实] 他也认可智谱模型的实用性和数据生产能力,认为其路线重视把模型真正做得可用。
[事实] 对其他模型公司,他强调技术、产品和商业化之间存在顺序问题:应先形成可靠技术能力,再自然推进产品化和商业化。
[推测] 他的评价标准不是单项榜单成绩或传播声量,而是模型效率、数据能力、实际可用性和长期技术投入能否形成统一体系。
[35:33] 什么才是真正的 New Lab
[事实] 马肖腾认为,New Lab 不应只是发表论文和申请基金的传统实验室,而应研究能够商业化并产生实际价值的问题。
[事实] MineLab 强调研究、产品与设计协同,从真实场景反推研究方向,以技术是否有用而非是否发表论文作为主要判断标准。
[事实] 他认为,只讲新架构或宏大目标却没有商业闭环的团队,本质上仍未回答技术要解决什么实际问题。
[事实] 理想路径是先用产品原型进入市场并收集真实数据,但不急于大规模投流,再根据数据开展研究和迭代。
[推测] New Lab 的“新”不在组织名称,而在于能否把研究发现、用户反馈与商业价值连接成可重复的闭环。
[41:55] RSI 的实际含义与边界
[事实] 马肖腾认为,递归自我改进目前更多是一种宣传口号,其实际内容是提高 AI 在模型训练和数据构建流程中的参与比例。
[事实] 他将其解释为自动寻找或生成数据、构造可验证反馈,再把结果用于训练的自动化流水线。
[事实] 他不相信模型迭代最终可以完全排除人类,因为奖励设计仍需回答“人到底需要什么”。
[事实] 写作偏好、审美判断以及无法公开获得的企业数据,都难以仅靠模型自我迭代解决。
[推测] RSI 更可能先在数学、代码等反馈明确的任务上提高训练自动化程度,而不会迅速演变成脱离人类与现实数据的全面自我进化。
[44:22] MineLab 的企业后训练服务
[事实] MineLab 将为企业训练模型视为接触真实环境的研究方式,而不是单纯的软件外包。
[事实] 企业场景可提供材料研发、金融、医疗等公开语料难以覆盖的数据,还会持续产生新问题和用户负反馈。
[事实] MineLab 希望利用这些动态数据构造环境,持续训练模型,并以能否为客户交付实际价值检验研究成效。
[事实] 马肖腾认为,企业开展后训练的前提是拥有自己的基准评测,否则无法判断模型是否改善,也无法明确优化方向。
[推测] 最适合后训练服务的客户,是已有产品市场匹配、真实使用数据和评测体系,并希望进一步提升效果或降低成本的头部公司。
[51:01] 后训练的价值、成本与实施门槛
[事实] 后训练可以沿两个方向创造价值:提高模型在企业自有基准上的表现,或将较强模型的能力迁移到更便宜的模型上以降低成本。
[事实] 相关服务通常按训练数据的 token 数量计价,与实际算力消耗相关。
[事实] 马肖腾给出的经验范围是,前沿模型单次训练迭代约需数万元,一个完整项目可控制在数十万元至一百万元人民币左右。
[事实] 企业合作中的主要障碍之一是数据访问和隐私要求,部分客户会要求本地部署,而本地部署的成本高于服务化方案。
[事实] 企业也可以自建团队,但要在大模型上实现稳定、快速、低成本训练,需要较强的基础设施与并行训练工程能力。
[推测] 标准化并不会消灭专业后训练服务;它更可能让企业按模型规模、数据敏感度和内部能力,在外部服务与自建团队之间选择。
[54:56] LoRA 的规模化探索与多样化模型社会
[事实] MineLab 最初因为算力有限而采用 LoRA,在少量 H800 上开展大模型训练,后来确认 LoRA 在许多任务中可以接近全量训练效果。
[事实] 团队围绕 LoRA 建立了名为 Mint 的训练服务,并从模型规模、适配器成本和适配器数量三个方向推进扩展。
[事实] 马肖腾把基础模型比作人类共享的大部分基因,把小型 LoRA 适配器比作造成个体行为差异的少量变化。
[事实] 团队曾尝试构建在一个基础模型上支持大量 LoRA 推理的系统,并设想由许多不同能力和行为的适配器组成类似智能体社会的结构。
[推测] 这一路线试图以共享基础能力降低训练成本,同时保留模型在角色、偏好和专业能力上的多样性。
[57:22] 持续学习、长期记忆与模型的“品味”
[事实] 马肖腾当前最关注持续学习,尤其是模型如何保存长期积累形成的“品味”。
[事实] 他以研究者阅读大量论文为例:人未必记得每篇论文的全部细节,却会压缩出判断新工作的直觉和研究品味。
[事实] 他认为现有模型缺乏储存这种压缩经验的合适位置,未来需要轻量、可持续更新的记忆单元。
[事实] 这种结构可能类似 LoRA,但需要新的更新方法,以处理更长期的记忆并提高学习效率。
[推测] 如果这一问题得到解决,AI 科研系统的关键进步可能不只是更快阅读资料,而是能跨时间积累判断力并形成稳定研究方向。
[59:03] 全能模型会不会取代垂直模型
[事实] 对于通用大模型能否覆盖具身智能等垂直领域,马肖腾认为,更大的模型可能拥有更强的物理世界理解,但落地仍要解决延迟、基础设施和本体交互问题。
[事实] 他强调,产品是获得真实数据的重要入口,并以编程产品积累数据、反哺模型能力为例说明产品与模型之间的闭环。
[事实] 他提出两种未来:一种是全能模型重塑整个社会秩序,另一种是多种模型拥有不同能力、品味与偏好,服务不同个人和行业。
[事实] 他选择为第二种未来努力,希望 AI 让世界和个人生活拥有更多可能性,而非把社会压缩成单调、同质化的状态。
[推测] MineLab 的后训练与多 LoRA 路线,本质上是在押注基础模型能力持续增强的同时,专业化和个性化仍具有长期价值。
播客点评/总结
本期的突出价值,在于把强化学习从算法概念扩展到研究方法、创业选择和组织策略。嘉宾没有把后训练描述为单一技术技巧,而是将其放入数据来源、真实环境、模型评测和商业交付构成的完整闭环中。
讨论对 New Lab、RSI 和模型公司竞争的判断较为鲜明,尤其强调“有用”应先于新名词和技术叙事。关于企业自有基准、数据访问、成本与自建团队门槛的内容,也为理解后训练服务提供了较具体的产业视角。
局限在于,部分公司与技术路线的评价主要基于嘉宾个人经验和行业观察,转录稿中没有提供独立数据验证;关于未来国产算力、模型格局及全能模型的判断,也具有明显前瞻性,应视为观点而非确定结论。
本期适合关注强化学习、大模型后训练、AI 基础设施、模型创业和企业 AI 落地的研究者、创业者与投资人,也适合希望理解“技术研究如何与真实产品形成反馈闭环”的听众。