AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员

AI 时代如何读好 PhD:研究方法、影响力与职业选择

Episode guide Published 十字路口Crossing 51 min

概览

本期嘉宾是小米大模型后训练研究员、香港大学在读博士生李磊。讨论围绕一个核心问题展开:在 AI 快速改变研究、论文评价和人才市场的背景下,怎样读好 PhD,并获得真正有价值的成果。

李磊将自己的研究方法概括为快速迭代、主动获取反馈,以及选择“难而正确”的问题。他认为,论文录用不应成为研究的最终奖励;比论文数量更重要的是问题本身的价值、论证是否扎实,以及研究成果能否在真实世界中产生影响。

节目也讨论了博士生的冷启动、导师与地区选择、学术自媒体、工业界转型,以及是否还有必要读 PhD。后半段延伸到智能体、大规模强化学习、训练直播、高质量数据、递归式自我改进和 benchmark 设计,呈现出学术研究与工业实践日益融合的趋势。

分段落总结

[00:05] 嘉宾背景与读博动机

[事实] 李磊是小米大模型后训练研究员、香港大学 NLP 方向在读博士生,也是腾讯首届青云奖获奖者之一,其参与的论文曾获 EMNLP 最佳论文奖。

[事实] 他本科就读于西安电子科技大学,之后在北京大学计算语言学研究所读硕士,2023 年进入香港大学攻读博士。

[事实] 他决定读 PhD 的重要原因,是担心十年后会后悔没有经历过一段可以集中探索自己真正想做之事的时期。

[推测] 对他而言,读博的价值不只体现在学历或收入回报上,也在于为长期好奇心保留一段相对完整的探索时间。

[02:35] 快速迭代与“难而正确”的研究

[事实] 李磊将自己的 PhD 方法概括为保持高强度、快速迭代,并及时向社区、老师和更资深的同学获取反馈。

[事实] 他主张选择兼具难度和重要性的问题,因为简单问题往往竞争者更多,也更容易被迅速超越。

[事实] 对公认困难的问题,即使只取得一小步扎实进展,也可能成为后续研究的重要里程碑。

[推测] 这种策略并不是盲目追求高难度,而是先判断问题的重要性,再寻找可以验证和推进的切入点。

[05:19] AI 时代的博士焦虑与研究价值

[事实] 博士生常见的焦虑包括论文发表、研究是否仍有意义、毕业要求,以及能否顺利从学校进入职场。

[事实] 李磊认为,不应因为社交媒体展示了模型的突出能力,就认定某个研究领域已经失去价值;模型仍有大量不易被看到的能力缺口。

[事实] 他建议研究者亲自做实验、检查数据和模型表现,具体分析能力来源、仿真与真实环境之间的差距,以及模型的泛化问题。

[推测] AI 的进步并没有消除研究问题,而是在迫使研究者从追逐表面指标转向识别更隐蔽、更关键的能力边界。

[08:16] 论文评审系统、数量竞争与评价变化

[事实] AI 论文数量增长显著增加了审稿人与领域主席的工作负担,也使录用判断具有更大的随机性。

[事实] 社区正在尝试限制投稿数量、让资深审稿人承担更多责任、引入 AI 辅助审稿,并通过多人讨论改善最终决策。

[事实] 李磊反对用模型批量生产大量论文来碰录用概率,认为这相当于对评审系统发动“DDoS 攻击”。

[事实] 他强调论文首先是分享知识的载体,关键在于问题是否有价值、假设是否得到严密论证,而不是最终有没有被某个会议录用。

[11:00] 从论文指标转向真实影响力

[事实] 在候选人筛选中,论文正在从“金标准”变成加分项;开源项目、代码与数据是否公开、问题是否得到维护,也会被纳入判断。

[事实] 模型下载量等真实使用指标,可以辅助判断一项工作是否解决了重要问题,但这些指标同样存在被操纵的可能。

[事实] 李磊会检查论文对应的代码、数据、项目维护情况和实际使用量,而不是只看论文数量。

[推测] 当论文供给过剩后,持续维护、实际采用和用户反馈正在成为更难伪造的影响力证据。

[12:33] 博士生为什么要经营学术自媒体

[事实] 李磊认为社交媒体能提供比论文周期更快的反馈,也能帮助研究者找到研究品味相近的人。

[事实] 当会议论文数量达到数千篇时,研究者难以逐篇筛选,论文推荐与社交媒体逐渐承担了重要的传播和分发功能。

[事实] 他将自媒体经营原则总结为利他、坚持和做自己,认为粉丝数量不是唯一目标,建立与同频者交流的平台更重要。

[事实] 他早期持续发布论文笔记,后来通过更具传播性的内容获得增长,但仍将个人工作、生活与研究兴趣作为主要内容。

[推测] 学术自媒体并非研究成果的替代品,而是帮助成果穿过信息过载、获得讨论和反馈的放大器。

[17:01] 读博的三个成长阶段

[事实] 第一阶段是掌握研究基本功,包括机器学习、统计学、操作系统等基础知识,以及实验设计、论文写作和假设论证。

[事实] 李磊认为,即使 AI 可以辅助学习,研究者仍有必要从头实现和理解部分经典算法与基础概念。

[事实] 第二阶段是培养领导力,从独立完成研究转向指导更初级的同学,并根据不同人的特点调整监督方式。

[事实] 第三阶段是完成从学术界到工业界的转变,在资源、产品、竞争和现实目标更加多维的环境中继续学习。

[20:14] 研究生涯如何冷启动

[事实] 李磊在本科阶段曾发送约十封联系邮件,只收到一封回复,但这次机会帮助他进入研究、发表论文并继续深造。

[事实] 他建议没有大量算力的学生通过 GitHub 项目、评测工具、应用、研究博客和小型实验展示创造力与基本功。

[事实] 面对联系邮件没有回复等负面反馈,应继续学习、创作和公开作品,让自己的能力逐渐被他人看见。

[事实] 他认同“只要一直 build,就有好事发生”,并用持续冒泡来比喻作品和个人影响力逐渐进入关键传播节点的过程。

[推测] 冷启动的重点不是一次联系就获得机会,而是建立一条可持续、可验证、能不断增加被发现概率的公开作品轨迹。

[25:34] 选学校、选导师与提前合作

[事实] 李磊认为选导师的优先级远高于选学校,因为不同课题组之间的差异,可能大于排名接近的学校之间的差异。

[事实] 他建议观察课题组毕业生的成果和精神状态,并私下询问在读及已毕业博士的真实体验。

[事实] 公开履历、论文和演讲不足以反映导师的全部合作风格,双方通常需要合作半年甚至更久,才能判断是否匹配。

[事实] 他建议有条件的申请者先做研究助理,借此了解课题组的工作方式,并与组内学生交流。

[28:18] “慢研究”与快速验证并不矛盾

[事实] 李磊认为“学生慢研究倡议”并不是反对本科生做研究,而是反对为了简历快速挂名或生产粗糙论文。

[事实] 真正重要的是打好基础,并能清楚说明做了什么、为什么做以及怎样完成。

[事实] 他曾因没有先验证关键假设而花费半年调试算法,最后发现假设本身错误。

[事实] 此后他会先提取最小假设,用小规模实验快速验证;方向确定后,再利用 AI 和并行方法加速执行。

[推测] 合理的研究节奏应当是“选题慢、验证快、执行快”,而不是简单地追求整体速度或整体放慢。

[31:13] 内地、香港与美国读博的差异

[事实] 内地读博更容易接触国内工业界,但部分课题组可能受到传统师徒关系和高校考核压力影响,需要谨慎筛选导师。

[事实] 香港与内地联系密切,同时具有吸引不同背景研究者的区位优势,但也存在生活方面的压力。

[事实] 李磊明确表示自己不够了解美国情况;据朋友反馈,美国读博当前可能面临签证和实习方面的困难,但更接近硅谷与美国学术圈。

[推测] 地区本身并不能决定读博体验,导师匹配、资源条件、生活偏好和个人承压能力可能更具决定性。

[33:25] AI 分化、教授创业与博士生选择

[事实] 博士生除学术外也经常讨论薪酬、就业和工业界正在关注的研究方向,希望毕业后顺利完成职业转换。

[事实] 李磊认为 AI 看似制造了行业鸿沟,但模型也显著降低了获取知识和改变工作方式的门槛。

[事实] 教授创业可以通过融资更快聚集算力、数据和工程人才,放大研究项目的规模与影响力。

[事实] 与此同时,资本也会带来交付要求,学生可能需要承担部分学术之外的工作,因此需要权衡资源与代价。

[推测] 未来更明显的差距可能不是“AI 从业者”和其他人之间的差距,而是能否主动使用 AI 改造本领域工作方式的差距。

[37:01] 今天是否还有必要读 PhD

[事实] 如果读博只是为了进入大公司,李磊认为并非必要,因为真正决定机会的是个人做出的成果,而不是博士学位本身。

[事实] 如果希望用数年时间集中研究自己真正好奇、且可能无人代为解决的问题,PhD 仍然具有独特价值。

[事实] 读博期间还可以系统补充知识,学习研究方法和扩大成果影响力。

[推测] PhD 更适合作为一段以问题和成长为中心的特殊旅程,而不应被简单理解为获得高薪职位的必经资格。

[38:29] 智能体与大规模强化学习的进展

[事实] 李磊认为,智能体范式走向前台是近期重要变化:模型获得工具和脚手架后,已经可以自动完成大量现实任务。

[事实] 他回顾了机器学习从情感分类、机器翻译和文本生成,到智能体触达生活各个环节的发展过程。

[事实] 他期待智能体从数字世界进一步进入物理世界,并认为大规模强化学习能够带来较全面的模型能力提升。

[推测] 智能体的重要性不仅在于单项模型指标提高,还在于它开始改变普通人与机器学习系统交互的方式。

[40:03] 小米模型后训练直播的目的与反馈

[事实] 团队希望通过公开后训练过程,回应围绕中国大模型训练能力的部分质疑,并向业界展示大规模强化学习可以实施且有效。

[事实] 直播也用于获取外部反馈,改进不足之处,并配合开放部分相关资源。

[事实] 国内观众尤其关注页面实时展示的训练费用;海外讨论则对工业级训练过程的透明程度感到惊讶。

[事实] 公开训练动态也为研究者分析大规模训练过程提供了新的材料。

[推测] 这场直播既是技术透明度实验,也是一次面向研究社区的信任建设和知识共享尝试。

[42:11] 高质量数据产业的价值与挑战

[事实] 李磊将算力、数据和人才视为大模型发展的三项昂贵要素,认为高质量数据是模型能力的重要燃料。

[事实] 随着模型进步,数据生产的复杂度和质量要求显著提高,能稳定提供高质量数据的公司可以持续创造价值。

[事实] 数据质量必须相对于具体模型来判断;过难的数据可能超出模型当前学习能力。

[事实] 数据公司还需要在展示效果与实际经济价值之间取得平衡,并建立专家组织、质量评估和规模化交付能力。

[推测] 低门槛的数据生产会随着模型能力增强而快速商品化,长期竞争力将来自持续发现模型缺口并为其生产恰当数据的能力。

[46:07] 递归式自我改进与研究品味

[事实] 李磊认为模型帮助生成训练数据、搜索参数和优化算法,都可以视为模型协助改进自身的形式。

[事实] 对于目标定义清楚的问题,模型擅长搜索,也可以通过扩大计算规模寻找更优方案,因此相关进展可能很快。

[事实] 当前更缺乏的是判断什么问题重要、下一阶段应解决什么问题的“品味”和问题定义能力。

[事实] 现阶段通常仍由研究者决定改进方向,再让模型辅助生成数据、训练和执行其他环节。

[推测] 在模型能够可靠地定义重要问题之前,研究者的核心作用会从具体执行逐渐上移到目标选择与方向判断。

[47:51] 怎样设计有影响力的 Benchmark

[事实] 好的 benchmark 首先应测量一种新的或重要的模型能力。

[事实] 李磊以 Video-MME 为例,说明其将视频理解从约六秒延伸到一小时以上,形成了新的能力维度。

[事实] 测评任务应尽量来自真实使用场景;过度人工化的任务可能让模型意识到自己正在被测试,从而与真实用户体验产生差距。

[事实] Benchmark 还需要具备易用性、可复现性和生态兼容性,让其他团队能够一键运行并接入主流测评工具。

[推测] 一个 benchmark 能否成为行业标准,既取决于科学问题是否重要,也取决于它是否足够方便他人采用。

[49:37] 专业选择与给学生的最后建议

[事实] 主持人提到美国四年制本科 CS 入学人数下降等现象,李磊认为初级编程需求可能会有一部分被 AI 替代。

[事实] 他同时认为,计算机知识和在 AI 辅助下编程仍可能成为不同专业学生都需要掌握的基础能力。

[事实] 面对高三学生的专业选择,他不会直接指定某个专业,而是认为各行各业都有取得杰出成就的机会。

[事实] 他建议学生持续与自己比较、每天取得进步,不必执着于成为行业第一。

[事实] 他给焦虑中的学生和博士生的最后建议是:论文迟早会中,饭要吃、觉要睡,先照顾好生活,再继续写论文。

播客点评/总结

本期最有价值之处,是没有把“如何读好 PhD”简化为发论文技巧,而是将选题、快速验证、基础能力、作品传播、团队领导和职业转换串成了一条完整成长路径。关于“选题慢、验证快”和“论文不是最终奖励”的讨论,尤其具有可操作性。

另一亮点是学术与工业视角的结合。节目既讨论审稿系统、导师选择和研究训练,也深入模型后训练、数据产业、智能体与自我改进,使博士生能够看到研究成果如何进入真实的模型开发与人才评价体系。

[推测] 节目的局限在于不少判断主要来自 AI 与 NLP 领域,未必可以直接推广到实验周期更长、设备依赖更强或评价机制不同的学科;关于不同国家和地区读博的比较,嘉宾也明确表示对美国情况了解有限。

[推测] 本期尤其适合正在考虑读博、处于研究冷启动阶段、担心论文评价体系变化,或希望从学术转向大模型工业实践的学生与年轻研究者。