把 AI 吹成核武器的人,亲手拉下了新冷战铁幕
把 AI 吹成核武器的人,亲手拉下了新冷战铁幕
概览
本期从 WWDC 上中国和欧盟用户无法使用部分 AI 功能聊起,转向 Anthropic 高端模型开放后又被限制使用的争议。节目核心问题是:当 AI 被公司和政策制定者描述成“核武器级”能力时,它会不会真的被按核武器逻辑管制。
讨论的主线围绕 Anthropic 模型、安全护栏、越狱、美国政府出口管制,以及中国开源模型的快速跟进展开。主播认为,AI 服务作为通过网络交付的无形产品,很难沿用传统实体商品的出口管制方式。
节目后半段把这件事放到“新冷战”的语境中比较:上一轮冷战管的是实体、人员和军事资源,而今天更多是信息、模型和 API 的流动。主播倾向认为,这种封锁未必能奏效,甚至可能反向削弱美国 AI 公司的商业模式。
分段落总结
[00:00] 开场与 WWDC 引入
[事实] 主播说明上周停更是因为去宁德霞浦参加活动,本期不展开聊旅行,而是继续聊 AI。 [事实] WWDC 的内容被认为难以单独撑起一期节目,因为不少 AI 功能中国用户用不了,欧盟用户也有类似限制。 [推测] WWDC 成为本期的引子,是因为它体现了技术服务按区域分割、全球共享时代变复杂的趋势。
[02:00] 技术全球可用性的退潮
[事实] 主播提到,很多人由苹果 AI 功能限制联想到:一个技术能全球共享的时代可能过去了。 [事实] 他们认为区域限制不仅让代码复杂,也让商业模型更复杂。 [推测] 这为后文讨论 AI 出口管制埋下背景:AI 不再只是产品能力问题,也变成合规、地缘和商业分发问题。
[03:00] Anthropic 高端模型的前史
[事实] 节目介绍 Anthropic 的模型命名带有文学意味,如 Haiku、Sonnet、Opus 等。 [事实] 他们提到一个更强模型最初没有公开给普通用户,而是给部分机构或大公司内部测试,用来寻找漏洞。 [事实] 主播提到当时有公司频繁发布安全补丁,说明模型可能确实被用于发现问题。
[06:00] 模型开放、传闻与安全护栏
[事实] 主播说该高端模型后来短暂开放,很多人称其效果很好,但主播本人当时没来得及体验。 [事实] 节目称模型在原有强模型上加入安全护栏,遇到找漏洞、核武器、生化武器等议题会降级到较低版本。 [事实] 主播提到安全护栏可能依赖系统提示词,而提示词存在被绕过的可能。
[08:00] 越狱与 Agent 争议
[事实] 节目提到一种说法:AWS 安全人员发现可以用某些语言绕过安全护栏,因为护栏识别不了但模型能理解。 [事实] 他们还提到另一个传闻:所谓强模型可能不是单一模型,而是背后有 agent 工程实现。 [推测] 这让“模型能力”与“系统工程能力”的边界变得模糊,也使外界更难判断到底该管制什么。
[10:00] 美国政府介入与使用限制
[事实] 节目称一种故事线是:亚马逊安全人员发现越狱方式并上报美国政府,政府随后要求 Anthropic 加强安全。 [事实] 主播说 Anthropic 方面认为提示词护栏无法完全防止绕过。 [事实] 美国政府随后要求限制使用,结果模型权限被整体关闭,外国公民无论在美国境内还是境外都无法使用。
[12:00] SK 电信与中国联通的另一条说法
[事实] 节目提到另一种说法:更强、无护栏的模型曾提供给韩国 SK 电信,而 SK 电信与中国联通有密切合作,因此引发怀疑。 [事实] 主播认为“SK 电信把东西提供给中国联通”的说法有点扯,但给 SK 电信本身可能确实有争议。 [推测] 这一段反映出 AI 能力一旦被安全化,跨国合作关系也会被重新审视和政治化。
[14:00] “核武器”叙事的回旋镖
[事实] 主播认为,Dario 一再向政府渲染大模型威力,把它说成核武器级工具,导致政府真的按核武器逻辑理解。 [事实] 他们指出,当一个被称为“核武器”的模型能被越狱时,政府自然会担心钥匙落到外国人手里。 [事实] 主播也提到,Dario 后来声明类似能力别的模型也能做到,但此时政府和舆论未必还接受这种解释。
[16:00] 只允许美国人使用的荒诞性
[事实] 主播讽刺说,美国历史上不少国内恐怖袭击和刺杀总统事件也是美国人发起的,不能假设美国公民天然安全。 [事实] 他们认为仅凭国籍限制无法防止权限被转交、被收买或被外国势力利用。 [推测] 节目想表达的是,AI API 的真实使用者很难被传统身份边界准确约束。
[18:00] PGP 与无形产品出口管制的历史类比
[事实] 节目回顾 PGP 曾被美国当作可能被敌对势力利用的软件而受到出口管制。 [事实] 主播说源代码被印成书后受到言论自由保护,导致相关出口管制失效。 [事实] 他们借此说明,对开源代码、API、模型这类无形产品做出口管制,历史上就很难有效执行。
[20:00] AI 公司估值逻辑被改写
[事实] 主播认为,如果强模型被当作军事设施或武器管制,AI 公司就不能只按普通商业公司来估值。 [事实] 他们将模型管制类比为高算力显卡触发出口禁令,但指出模型能力不像显卡算力那样容易划线。 [推测] 一旦政府能随时限制强模型销售,闭源 AI 公司的增长叙事和商业上限都会受到影响。
[22:00] 智谱 GLM 5.2 的抢点发布
[事实] 节目提到,中国的智谱在管制指令后发布英文消息,强调大模型智能应属于全人类,并发布开源升级模型 GLM 5.2。 [事实] 主播认为这次发布显得仓促,API 和基准测试都还没完全准备好,但 coding plan 已经可用。 [推测] 智谱的时间点被主播视为对美国出口管制的直接回应。
[24:00] 主播实测国产模型
[事实] 主播说自己测试了 GLM 5.2,认为相比上一代明显提升,和国外可用模型相比差距不再肉眼可见。 [事实] 他特别提到 100 万上下文支持,以及在前端、后端两个简单项目测试中没有明显遗忘问题。 [事实] 主播也指出模型速度较慢,可能与算力紧张有关。
[28:00] 开源模型与闭源模型的竞争
[事实] 节目提到 DeepSeek、智谱等中国模型正在被更多人讨论,微软也被提到可能考虑基于 DeepSeek 微调。 [事实] 主播认为很多场景并不需要最顶级模型,便宜、够用、可自建的开源模型会有吸引力。 [推测] 出口管制可能反而推动全球用户转向中国开源模型或本地部署方案。
[29:00] AI 使用技巧比模型差异更重要
[事实] 主播分享 YC 的 Paxel 工具,它会分析用户与 AI 的交互记录,并生成报告评估是否会用 AI。 [事实] 报告认为主播不只是让 AI 修 bug,而是在持续塑造系统,也会通过 agents.md 等方式训练工作环境。 [事实] 报告同时指出他在分支合并、发布前验证、plan session 等方面有风险。 [推测] 这一段说明模型之间的差异之外,使用方法和工程流程同样影响 AI 编程效果。
[34:00] 闭源 SaaS 的可靠性风险
[事实] 主播认为闭源大模型如果因政策突然不可用,会破坏 SaaS 客户最看重的稳定性和可用性。 [事实] 他们说 AI 服务不只是卖功能,也卖 SLA,但现在多了一个不可控的政策风险。 [推测] 这会让企业更倾向于选择可自建、可控制的开源模型。
[36:00] 从 AI 管制谈到冷战史
[事实] 节目回顾冷战是二战后美苏两大阵营对立,直到苏联解体才结束。 [事实] 主播提到奥本海默、原子弹项目、苏联间谍、电子管与晶体管之争等冷战相关科技背景。 [推测] 主播借冷战史说明,尖端科技常常会被国家安全叙事吸纳。
[40:00] 互联网起源的辟谣
[事实] 主播纠正了“互联网最初为抗核攻击设计”的常见说法。 [事实] 他认为互联网最早是为了解决高校之间协作、资料和数据传输问题,去中心化方案后来天然具备抗单点失效能力。 [推测] 这一段用来强调,技术的原始目的和后来的军事、安全解释可能并不一致。
[44:00] 北约、AI 联盟与新铁幕想象
[事实] 节目提到北约作为冷战产物,在苏联解体后理论上意义变得复杂。 [事实] 主播说 Dario 又倡议建立去中国化的 AI 联盟,节目将其类比为某种 AI 版联盟体系。 [推测] 他们担心 AI 议题会被纳入新的阵营化框架,形成技术版“铁幕”。
[46:00] AI 作为生产力变量
[事实] 主播认为 AI 可能极大改变生产力,甚至改变生产关系,各国政府和大公司应当都清楚这种潜力。 [事实] 他们讨论的焦点是:谁能把这种关系和能力抓在手里,而不是被别人“摘桃子”或卡脖子。 [推测] 这说明 AI 竞争已经不只是产品竞争,也变成对未来产业控制权的竞争。
[48:00] 卡脖子可能变成自我限制
[事实] 主播认为美国在实体产品上能做的管制越来越有限,于是开始在非实体产品上寻找控制点。 [事实] 他们赞同“老黄”的态度:与其靠卡脖子,不如拼命往前走,让别人追不上。 [事实] 节目用中国芯片和国产化率的变化说明,外部封锁会迫使被封锁方走自研路线。
[50:00] 大模型能力来源与 AGI 争议
[事实] 主播说直到今天,大语言模型能力如何涌现仍没人完全知道。 [事实] 节目讨论了 scaling law、参数量、算力、小参数模型、端侧模型等路线变化。 [事实] 主播提到业内对当前路线能否通向 AGI 仍有争议。
[52:00] 把 AI 停留在工具阶段也不错
[事实] 主播认为,如果 AI 停留在当前水平,作为助手提高效率,已经很有价值。 [事实] 他们说模型能帮程序员一天干十天的活,但不必非要发展成有独立人格的存在。 [推测] 这一段呈现了使用者视角:相比追求 AGI,稳定、可控、可用的工具更现实。
[54:00] 今天的新冷战不同于上次冷战
[事实] 主播指出,上一次冷战基于实体、人员和物资流动,而今天更多基于信息流动。 [事实] 他们认为当代社会比苏联时期更开放,互联网和跨国贸易让全面封闭更难执行。 [推测] 因此,AI 新冷战即使发生,也很难完全复刻美苏冷战的效果。
[58:00] 模型幻觉仍未解决
[事实] 主播举例说,用某个模型计算社保费用时,模型把一万一错误判断为低于北京社保基数下限。 [事实] 他们认为这类似“9.9 和 9.1 哪个大”的错误,说明幻觉和不稳定问题仍存在。 [推测] 这提醒听众,即使模型能力快速提升,也不能把它当作无须验证的可靠系统。
[60:00] 新模型发布被政策阴影笼罩
[事实] 主播提到一些模型厂商可能因为担心被举报或被管制,不敢发布新模型。 [事实] 他们调侃说,如果模型只宣传为 coding 模型,也许不会被过度安全化。 [推测] “不要把模型吹成核武器”是本期的核心教训之一。
[62:00] Dario 的个人风格与组织讨论
[事实] 节目提到媒体对 Dario 的评价偏极客,他不像传统硅谷 CEO 那样管理很多直接汇报对象。 [事实] 主播认为他可能真相信自己对模型危险性的判断,但没有充分意识到商业产品必须给外部用户使用。 [推测] 个人叙事、融资叙事和政策游说混在一起,可能放大了这次危机。
[64:00] 硬件与软件管制的差异
[事实] 主播把 AI API 与显卡、机柜等实体硬件对比,指出硬件走私链条复杂、不稳定且没有售后。 [事实] 他们还提到某芯片公司因宣传参数太高,导致生产环节被台积电要求上报,最后被认为是营销话术惹祸。 [推测] 无论软件还是硬件,过度营销都可能触发监管或供应链反噬。
[66:00] Anthropic 的招聘和内部工作方式
[事实] 主播转述与 Anthropic 中层交流的信息:公司招聘偏向有经验的人,或少量背景特别强的毕业生。 [事实] 入职第一天培训、第二天就要能给生产系统提交 issue 或代码。 [事实] 主播说 Claude Code 相关客户端小组只有十个人,但公司内部大量使用 AI,并有多个内部项目赛马。
[70:00] 大模型备案与收尾
[事实] 节目最后聊到国内大模型备案,认为只要产品声称有自研大模型,就需要备案。 [事实] 主播说备案有点像 ICP 备案,细节主要是文字材料,但具体谁来管、怎么管还需要有经验的人补充。 [事实] 节目最后以活动报名和下期再见收尾。
播客点评/总结
这期的价值在于把一个看似技术圈八卦的模型下架事件,放进了商业模式、出口管制、开源竞争和冷战史的框架里讨论。它最强的部分不是复述事件,而是追问“如果你把 AI 说成核武器,政府真按核武器管时怎么办”。
亮点是类比很多:PGP 出口管制、显卡禁令、苹果 WWDC 区域限制、冷战铁幕、北约、开源模型和 SaaS SLA,都被串到同一条线上。节目观点鲜明:无形的信息产品很难被传统出口管制有效锁住,强行封锁可能推动开源和本土替代。
局限也比较明显:很多事件细节来自主播转述的传闻、推特讨论和个人体验,并非逐条核验的新闻报道;其中关于 SK 电信、中国联通、模型真实架构、厂商内部管理等内容,节目本身也多次表现为“说法”“传闻”或个人判断。
[推测] 这期适合关注 AI 产业、开源模型、科技政策和中美科技竞争的听众;如果只想听具体模型评测,可能会觉得政治经济和历史类比占比偏高。