vol.114.AI的2025和DeepSeek们的未来 | 对谈复旦张奇教授

2025-01-29 · Show: 起朱楼宴宾客 · 5069s · Source

AI的2025和DeepSeek们的未来:对谈复旦张奇教授

概览

本期是主播大胃翁与复旦大学张奇教授的一场 AI 年度复盘,对话围绕 DeepSeek 出圈、生成式 AI 的能力边界、2024 年关键应用变化,以及 2025 年可能爆发的 Agent 展开。节目一开始就给出了基调:DeepSeek 值得兴奋,但不等于当前大模型已经突破到真正通用智能。

张奇教授反复强调,当前大模型底层仍是基于数据、训练和统计机器学习的范式。它相比过去的自然语言处理模型确实具备长文本、跨语言、多任务和生成四类重要能力,但它并没有真正建立类似人类的因果推理能力,因此更适合在具体场景里做深,而不是自然地通向 AGI。

节目后半段转向商业和产业判断:大模型预训练和后训练都极其烧钱,国内创业公司如果继续拼通用大模型会非常艰难;更现实的机会在于垂直场景、存量行业的体验升级,以及能够利用大模型核心能力的新产品。张奇教授认为,2025 年最值得期待的方向是带有反思和自我修正能力的 Agent。

分段落总结

[00:10] DeepSeek出圈与本期讨论基调

[事实] 主播介绍本期是在 1 月中旬回上海时与复旦大学张奇教授录制的 AI 行业年度复盘,因为 DeepSeek 突然出圈而提前在大年初一发布。

[事实] 主播认为 DeepSeek 的新版本在使用体验、训练量和算力要求压缩上都有里程碑意义,也验证了节目中关于 Agent 可能成为 2025 年重要方向的判断。

[事实] 主播同时强调,张奇教授在节目中的观点会给市场对 DeepSeek 的热情“泼点冷水”:大模型仍是数据训练和统计机器学习的产物,不是真正有自我意识的智能体。

[推测] 这一开场把节目定位成一场“既承认技术突破、又警惕叙事过热”的讨论。

[03:05] 嘉宾背景与学界视角

[事实] 张奇教授是复旦大学计算机科学技术学院教授、博士生导师、上海市智能信息处理重点实验室副主任,也是复旦 MOSS 大模型负责人。

[事实] 主播强调,中文播客里谈 AI 的嘉宾常来自业界、媒体或投资界,学术界视角相对少见。

[事实] 张奇教授长期从事自然语言处理研究,主播认为他的表达对 AI 门外汉也比较深入浅出。

[04:12] 从金融NLP挫折到日常AI使用

[事实] 主播回忆自己曾在金融行业尝试用自然语言处理抽取研报内容,但金融文本覆盖行业、宏观和国家等复杂范围,打标签和结构化非常困难。

[事实] 主播现在最常用 ChatGPT 写日文邮件和回复信息,认为生成式 AI 相比 Google Translate 等传统翻译工具,在自然表达、敬语和上下文记忆方面明显更好。

[事实] 张奇教授指出,大模型出现前,自然语言处理基本不敢碰开放式生成任务;大模型的文本生成能力给整个 NLP 研究领域带来巨大变化。

[09:30] AI编程的实际价值

[事实] 张奇教授主要把 AI 用在编程、论文阅读写作、PPT 和报告中,编程工具上提到 ChatGPT、Claude 和 Cursor。

[事实] 他认为 Cursor 在切换新语言、新框架或快速搭 demo 时很有帮助,即使 80% 到 90% 的代码不能直接用,也能提供框架和起点。

[事实] Cursor 读取项目后可以补全注释、规范性内容等“体力活”,在长期项目中大约能节省 20% 左右时间。

[推测] 节目对 AI 编程的判断偏务实:它显著降低入门和切换成本,但仍需要使用者具备判断和修改能力。

[13:40] AI的核心是场景,而不是大行业

[事实] 张奇教授认为,AI 的核心是场景,而不是宽泛的垂直行业;Cursor 之所以好用,是因为它围绕代码场景做了专门优化。

[事实] 他把 AI 编程用户进一步拆成小白用户和专业程序员,认为两者需要的产品形态并不一样。

[事实] 他认为特别专注某个场景的 AI 辅助工具,往往会比通用聊天机器人更好用。

[15:00] 通用化幻觉与能力边界

[事实] 张奇教授认为,当前 AI 的能力边界仍然是场景化学习,即使有 o1、o3 这样的模型,也不等于实现通用化。

[事实] 他用“考研数学能拿高分但数不清 strawberry 里有几个 r”说明,对人类来说可迁移的能力,对机器可能是完全不同的场景。

[事实] 他还举例说,如果模型只训练过上海考题,换到山东考题可能大幅下降,因为训练数据、偏重点和语言风格不同。

[推测] 这里的核心意思是,大模型看起来“什么都能答”,但很多能力是由大量场景堆叠出来的,而不是统一心智能力的自然外溢。

[18:10] 训练数据、知识记忆与后训练

[事实] 张奇教授提到,他们研究 GPT-4 技术报告中关于“训练前预测评测准确率”的线索,认为 OpenAI 并不是盲目炼丹,而是掌握了一些底层公式或方法。

[事实] 他表示,如果模型在预训练中已经记住某类知识,那么只需大约 60 条匹配的训练数据,就可能让模型具备回答这类问题的能力。

[事实] 如果模型在预训练中没有记住相关知识,即使在有监督微调阶段加入大量训练数据,也可能把模型表现搞乱。

[事实] 他认为模型知识主要来自预训练,并受知识出现频次和特异性影响;例如容易混淆、出现频次低的知识,模型可能很难记住。

[21:10] 大模型与旧NLP的真正差异

[事实] 张奇教授认为,大模型和过去模型在最底层逻辑上没有本质变化,仍然依赖统计机器学习和数据驱动。

[事实] 他总结大模型明确具备的四个能力是:长文本、跨语言、多任务和生成。

[事实] 过去类似 BERT 的小模型受限于 token 长度、语言、任务类型和不能生成,因此需要很多独立模型处理不同任务。

[事实] 大模型把许多自然语言处理任务转化为生成式任务,可以用自然语言指令完成抽取、翻译等多种任务。

[26:20] 涌现、AGI与可见的天花板

[事实] 张奇教授认为,所谓“涌现”的能力仍然可以回到预训练数据里寻找来源;如果要让任务稳定可用,后训练阶段仍需要精心构造的数据。

[事实] 他强调,训练数据要和模型已经记住的知识紧密匹配,不是专家随便写高质量数据就可以。

[事实] 主播总结说,这一轮生成式 AI 是阶段性进步,但因为底层逻辑没有变,所以极限可能已经能看到;张奇教授表示认可。

[推测] 这一段是节目最重要的技术判断之一:当前路线能产出大量可用产品,但不应被直接等同于通向 AGI 的最终方案。

[29:15] AI工具拼装与Prompt热度下降

[事实] 主播提到年轻学生像拼积木一样组合使用不同 AI 工具,例如 GPTZero、Grammarly 等,而不是所有任务都扔给 ChatGPT。

[事实] 张奇教授认为 Prompt Engineer 在 2024 年已经不太被提,因为效果差异常常不是 prompt 本身决定,而是训练方式和场景优化决定。

[事实] 他举例说,Cursor 针对代码训练,Grammarly 针对语法纠错训练,Perplexity 针对 AI Search 场景训练,所以在特定场景能超过通用模型。

[事实] 张奇教授使用 AI 辅助论文语言修改和书籍写作,提到新版大模型书写作中大约 60% 的工作量被节省。

[34:50] 垂直工具、订阅制与能力退化担忧

[事实] 主播提到自己常用沉浸式翻译插件,并尝试接入 DeepSeek API,认为翻译效果甚至好于 DeepL。

[事实] 主播还使用播客音频后期处理工具,一键去除噪音、平衡声音,并愿意为这些垂直 AI 工具付费订阅。

[事实] 主播和张奇教授都提到,过度依赖 AI 可能导致英文、日文或写作能力退化。

[推测] 这说明 AI 工具已经从“尝鲜”进入部分用户的刚需工作流,但长期能力依赖问题也开始显现。

[38:10] 统计学习缺少因果能力

[事实] 张奇教授用“尿布和啤酒销量正相关”的例子解释,统计机器学习可以学到相关性,但无法仅靠数据理解背后的因果原因。

[事实] 他认为人类能力提升依赖建立一个又一个因果联系,并把它们串联起来做归纳和推理。

[事实] 他判断,要突破当前 AI 范式,需要类似新数学工具或自然科学基础的变化,而不只是 AI 行业内部继续堆数据和模型。

[推测] 这也是他不认为当前大模型路线能很快走向真正 AGI 的主要原因。

[42:40] 2024年的图像与视频生成进展

[事实] 张奇教授认为,2024 年视频生成和图像生成的进步非常明显,从年初 Sora 发布到年底,行业质量和时长都有显著提升。

[事实] 他认为这些进步背后需要巨大训练数据和资源投入,ChatGPT 的成功让行业更愿意投入几亿、十几亿成本训练这类模型。

[事实] 他指出,中国团队在路径清晰、资源充足、工程目标明确的情况下推进很快,并提到国内图像、视频生成以及文字生成、人脸参考生成等改进。

[推测] 节目把国内 AI 视觉生成的优势更多归因于工程化、资源投入和快速复现,而不是底层范式突破。

[46:30] o1/o3与反思范式

[事实] 张奇教授认为,o1、o3 的重要性在于引入了反思和多路径推理,不再要求模型一次性给出正确答案。

[事实] 他表示,在数学任务上加入反思机制可能带来约 20% 的提升,量级很大。

[事实] 他认为这种反思思想也能用于 RAG 和搜索,例如模型先生成搜索词,发现不对后再改写 query。

[事实] 他把这种范式与 Agent 思想联系起来,认为它会影响未来很多工具的设计。

[51:20] OpenAI没有只押注Scaling Law

[事实] 张奇教授认为,OpenAI 并不是盲目坚持扩大模型规模,而是在探索不同路径,包括多模态、生成、推理范式和不同模型规模。

[事实] 他提到 GPT-5 可能面临把所有模态和生成能力融合到一起的巨大训练难度。

[事实] 他认为 OpenAI 的技术积累很深,能够看到一些基础公式和限制,并在多条路径上做探索。

[推测] 节目对 OpenAI 的评价并不是“神秘领先”,而是认为其领先来自长期昂贵试错和体系化经验。

[53:00] DeepSeek的工程优势与后训练难题

[事实] 张奇教授认为 DeepSeek 的 MoE 架构非常大,但每次只激活部分专家,因此训练成本接近较小模型,外加极致工程优化进一步降低成本。

[事实] 他提到 DeepSeek 有来自阿里背景的工程团队,阿里的特点是会把工程优化做到极致。

[事实] 他强调预训练只是万里长征第一步,真正困难的是后训练;OpenAI 没有公开后训练细节,需要大量试错。

[事实] 他用 Llama 3 强化学习阶段公开提到的 400 万条标注数据举例,说明后训练标注不仅数量大,而且需要专业人士判断,成本极高。

[58:40] 通用大模型创业的资本压力

[事实] 张奇教授认为,通用大模型是极其烧钱的生意,国内真正能长期投入的可能是字节、阿里这类巨头。

[事实] 他提到阿里通义千问投入很大,国内外使用量也很高。

[事实] 对“六小虎”这类公司,他认为继续做预训练会很难,01 卖掉预训练团队、转向产品是一个合理选择。

[事实] 他认为百川做医疗也要面对具体变现问题,比如服务医院、病人、家属还是医生,以及如何支撑高估值。

[63:50] 订阅制、估值与巨头降维打击

[事实] 张奇教授指出,海外用户已经习惯为多个 AI 工具订阅付费,而中国用户的订阅习惯没有完全培养起来。

[事实] 他认为做通用模型需要极厚资本,OpenAI 在 ChatGPT 出来前已经烧了大量资金,如果只复现 GPT-4 级别也可能需要十亿美元量级投入。

[事实] 主播将 AI 创业公司的处境类比新能源汽车:当华为、小米这类巨头进入,原有新势力会面对不同维度的竞争。

[推测] 在资本和巨头竞争双重压力下,独立大模型公司的出路更可能是产品化、场景化,而不是继续拼底座。

[66:45] 存量公司与客服场景的机会

[事实] 张奇教授认为,2025 年对现有公司可能是巨大机会,尤其是那些能用 AI 带来明显体验提升的业务。

[事实] 他以客服为例,认为大模型和语音能力让外呼、接电话变得自然,且迁移成本可能从过去重做 70% 工作量降到只需 10% 左右。

[事实] 他强调客服不是小创业公司容易切入的领域,因为它不只是语音模型,还涉及管理端、转接端和大量工程系统。

[推测] AI 在客服这类成熟行业中,可能首先改变老大、老二、老三之间的市场份额,而不是凭空创造一个全新行业。

[70:10] AI Search与大公司的左右互搏

[事实] 张奇教授认为,创业公司更适合做过去不存在的新产品,并且要充分利用大模型的长文本、跨语言、多任务和生成能力。

[事实] 他认为 AI Search 是一个很好的新物种,因为传统小模型做不好,而大模型能完整发挥能力。

[事实] 他指出,百度、Google 等传统搜索巨头做 AI Search 会面临左右互搏,因为 AI 搜索会冲击原有搜索流量和广告收入。

[事实] 他认为豆包这类没有独立搜索品牌包袱的产品,反而更容易推进 AI Search。

[73:15] 2025最明确的方向是Agent

[事实] 张奇教授认为,2025 年明确值得期待的是 Agent。

[事实] 他认为 2023、2024 年很多所谓 Agent 更像 Workflow 或 RPA,只是在流程某些环节使用大模型,不是真正 Agent。

[事实] 在 o1、o3 范式出现后,他认为真正的 Agent 会开始出现,因为它具备反思、自我修正和自我决策机制。

[事实] 他举例说,未来 Agent 可以帮用户操作手机设置、订机票、规划行程,并在步骤出错后反思修正。

[75:00] Devin、实习生替代与技术加速

[事实] 主播提到海外 Agent 工具 Devin,有投资人付费使用后认为它至少能抵几个实习生,并且具备多任务、学习和反思能力。

[事实] 张奇教授认为,类似 Agent 的方向在 2025 年会有更快发展,关键在于创业公司如何选择场景。

[事实] 他认为 AI 变化速度已经非常快,年初和年尾的产品体验可能会有很大差异,甚至每个月都在变化。

[推测] Agent 被节目视为从“辅助工具”走向“可持续执行任务的助手”的关键过渡形态。

[77:20] AI研究员可能先被AI冲击

[事实] 张奇教授认为,最可能先受到冲击的是 AI 研究员和算法工程师,尤其是原来维护大量小模型的岗位。

[事实] 他举例说,过去搜索引擎背后可能有上千个小模型,需要几百个研究员维护;大模型多任务能力出现后,这类团队可能从 300 人降到 30 人。

[事实] 他认为工程架构人员相对不容易被动,因为大型系统的稳定性和事故处理依赖长期技术积累。

[事实] 他判断激进公司可能在 2025 年开始做这类调整,慢一点也可能在 2026 年出现。

[80:00] 回到AGI:天花板与现实价值

[事实] 主播总结说,当前生成式模型的底层逻辑和过去没有本质差异,因此极限在那里;要突破可能需要数学或自然科学层面的新范式。

[事实] 张奇教授表示赞同,并认为当前大模型的天花板就是长文本、跨语言、多任务和生成四种能力。

[事实] 他指出,如果要做推理,必须限制在很小的场景,并有大量训练数据;数学能做得较好,是因为数学题目可以大量获得或生成。

[事实] 他认为即使 AGI 尚未到来,大模型仍可能替代脑力劳动中 10%、20% 甚至 30% 的体力活,例如整理文件、填报表等。

[推测] 节目最后的落点是:真正通用智能仍远,但 AI 作为提高效率、重塑场景和替代部分重复脑力劳动的工具,已经进入现实应用阶段。

播客点评/总结

[推测] 本期最大的价值在于把 DeepSeek 热潮放回大模型技术范式中理解:既不否认其工程和体验突破,也不把它过度解释成 AGI 临近或中国已经拥有 OpenAI 级“核弹”。这种克制判断对当时过热的市场叙事有校正作用。

[推测] 节目的亮点是张奇教授用大量具体例子解释抽象技术问题,包括 strawberry 数字母、60 条训练数据、尿布和啤酒、Cursor、Grammarly、Perplexity、客服和 AI Search。这些例子让“场景化”“后训练”“因果缺失”“Agent 反思”等概念变得容易理解。

[推测] 局限在于,对 DeepSeek、新模型参数、OpenAI 内部路线和部分商业判断的讨论,很多来自嘉宾基于公开信息和研究经验的判断,不等同于已被完全验证的事实。节目也更偏宏观技术和商业分析,对具体产品实测细节展开不多。

[推测] 这期适合 AI 从业者、投资人、产品经理、创业者,以及想理解 2025 年 AI 应用机会的普通听众。尤其适合那些已经在用 AI 工具、但想弄清楚“它为什么好用、为什么又经常犯低级错”的人。