从抢 GPU 到喂 AI,互联网正在悄悄更换主人

AI 算力与 Agent 时代的产品逻辑

Episode guide Published 科技乱炖 1 hr 9 min

概览

本期是一场围绕 AI 行业近况展开的“科技乱聊”。讨论从英伟达的护城河说起,延伸到大模型厂商为什么有动力绕开英伟达、自己做芯片或优化国产 GPU,以及高价 GPU 现货市场背后的供需、合规和交易风险。

中段重点转向模型价格战和企业选型:当国产模型和不同平台上的模型能力逐渐接近,很多生产场景会更关注成本、稳定性和可替换性;但在写代码、长程分析等创造力场景里,用户仍倾向于选择最强、最贵的模型来降低沉没成本。

后半段讨论 AI 对产品设计、网站内容、数据访问和运维工作的改变。主持人认为,未来内容和接口如果不对 Agent 友好,就可能被新的入口规则排除;同时,AI 已经开始在部署、系统升级、网络排障等低频高压力任务中降低人的心智负担。

分段落总结

[00:30] 从英伟达护城河聊起

[事实] 主持人开场表示本期不聊单一大主题,而是随便聊最近发生的科技小事和大事。

[事实] 话题首先落到“老黄的生意”,即英伟达在 AI 产业链中的位置,以及市场开始担心它的“地基”被挖。

[事实] 节目提到,AI 应用厂商、模型厂商和投资人的钱最终大量流向英伟达,形成一种看似强势但依赖单一支柱的循环。

[推测] 主持人把英伟达的风险理解为:越赚钱、毛利越高,越会刺激上下游尝试绕开它。

[02:00] CUDA 与硬件领先构成英伟达核心优势

[事实] 节目认为英伟达的护城河来自软硬结合:硬件是 GPU,软件是 CUDA 生态。

[事实] CUDA 被解释为人类编程与 GPU 沟通之间的中间层、驱动或开发工具。

[事实] 主持人提到,英伟达这套底座不仅服务大模型,也可能进入车机等消费市场。

[推测] 讨论认为,如果硬件领先不再明显,单靠 CUDA 生态也未必能维持当前优势。

[04:00] 大模型厂商有动力自研芯片或优化替代方案

[事实] 节目提到,大模型厂商出于降本增效和提高毛利率的需要,会尝试优化芯片或工程方案。

[事实] 亚马逊和谷歌被举为自研芯片可行性的例子。

[事实] OpenAI 和 Anthropic 等厂商被提到有动力做自己的芯片或算力方案,但相关投入巨大。

[推测] 主持人认为,即使替代方案短期不成熟,厂商也需要向资本市场证明自己没有完全被单一生态锁死。

[06:00] 高端 GPU 现货价格与出口限制

[事实] 节目举例称,一台 8 卡、4T 内存配置的先进 GPU 服务器在国内现货价格约 1400 多万元人民币。

[事实] 同类机器在美国价格约 50 万到 60 万美元,但出口到中国受到 KYC、IDC 证明和运输限制等因素影响。

[事实] 主持人描述了机器经由东南亚等路径流转时,价格会因合规、运输和进口环节继续上涨。

[推测] 这段讨论把高价 GPU 市场呈现为一个由出口管制、稀缺性和灰色流通共同推高价格的市场。

[08:00] 现货交易极度紧张且高风险

[事实] 节目提到,GPU 现货通常按 2、4、8、128、256 台等数量交易,甚至出现过 512 台、70 多亿元规模的询价。

[事实] 大额交易中,买卖双方都要证明资金或货源真实,例如提供账户截图、仓库视频、现场验货等。

[事实] 交货方式被描述为一台一台插电点亮、付款、拉走,重复完成。

[推测] 主持人认为,这类交易的核心不只是技术设备买卖,更像高风险、高信任成本的大宗现货交易。

[10:00] 信用证与 GPU 期货乱象

[事实] 节目解释了信用证的大致机制:银行提供担保,第三方仓库和仓单用于货物交割。

[事实] 主持人认为,现在 GPU 期货市场里有人利用信用证进行验资、抵押或转手操作。

[事实] 节目明确说到,主持人认为“所有期货全是假的”,因为只要到货就可以转成现货高价卖出。

[推测] 这段讨论暗示,在现货和期货价差过大时,卖方有强烈动机违约或转售。

[14:00] 中介、真假买家与市场流动性

[事实] 主持人称,即使 1400 万元的现货也可能“有价无市”,因为买家很难确认货真假,货源保鲜期又很短。

[事实] 节目提到,市场上大量卖家和买家其实都是中介,所谓买家背后未必有真实终端需求。

[事实] 主持人提到,大公司、国企和部分央国企可能通过不同渠道获取机器,小厂很难承担这种价格。

[推测] 讨论认为,GPU 稀缺让中介链条变长,真实需求和投机需求混在一起,进一步放大市场混乱。

[18:00] 算力回本依赖跑满利用率

[事实] 主持人讨论了 1400 万元买 8 卡服务器后如何回本的问题,认为训练至少需要几百台,少量机器更可能用于推理。

[事实] 节目提到,有报道声称部分大模型厂商毛利率可能达到 60% 到 70%,但主持人表示没有细看来源和口径。

[事实] 主持人用转写服务举例,说一小时音频可在较短时间内处理完成,只要有足够任务把卡跑满,利润率会很好。

[推测] 这段的核心判断是,AI 算力生意的关键不是单次任务多赚钱,而是资源闲置时间能否被压低。

[22:00] 弹性算力与批处理降低成本

[事实] 主持人介绍自己的批量处理思路:白天收集任务,晚上两点以后集中开 GPU 资源处理,跑满后关闭。

[事实] 另一位主持人提到,自己编译 Windows 客户端程序时也会临时开阿里云 Windows 服务器,编译完立刻关机。

[事实] 节目认为,云资源按需启停可以显著降低低频任务的成本。

[推测] 这种模式适合不要求实时完成、但可以集中处理的生产任务。

[24:00] 国产 GPU 与国产模型进展

[事实] 节目提到 GLM 相关发布方推出了 5.3 Flash 模型,并声称评分接近顶流模型。

[事实] 主持人认为这次发布中最重要的信息不是评分,而是其声称算力运行在国产 GPU 上,且优化后效率赶上海外 GPU 产品。

[事实] 节目讨论了相关消息对英伟达股价和市场情绪的影响。

[推测] 主持人认为,国产 GPU 能力和产量是两个不同问题,即使效率提升,供给规模仍可能限制冲击速度。

[26:00] 市场情绪与国产模型发布风格

[事实] 主持人认为,市场对 AI 和芯片消息容易在极度乐观与极度悲观之间摆动。

[事实] 节目比较了 GLM 发布方与 DeepSeek 的表达风格:前者更强调理想主义和开源叙事,后者更像理科生,偏向参数和技术说明。

[事实] 主持人提到,近期多个模型陆续发布,行业竞争正在继续加剧。

[推测] 发布叙事本身也可能成为影响市场认知的一部分,而不只是技术指标在起作用。

[28:00] 模型能力接近后,价格变得更重要

[事实] 主持人说自己近期测试多个模型时,经常用着用着忘了当前使用的是哪一个模型。

[事实] 节目提到,通过 harness 把输出框住之后,模型的性格差异会被屏蔽,生产系统里更难看出是谁完成的任务。

[事实] 主持人表示,当模型都能完成任务时,选择会回到“谁便宜用谁”。

[推测] 这说明在标准化、可验证的任务中,模型品牌差异会被工程封装削弱。

[30:00] 模型价格战与企业成本核算

[事实] 主持人提到 DeepSeek 涨价后,自己曾考虑是否买几张卡自跑,但后来认为跑不满就不划算。

[事实] 节目提到,随后 GLM 等模型价格继续卷,某些博客分析任务的成本从使用 DeepSeek 的几分钱降到使用 GLM 的不到两分钱。

[事实] 主持人认为,企业在足够可用的前提下会优先选择便宜模型,最多准备两个模型以防其中一个不可用。

[推测] 模型价格竞争会迫使企业把 AI 调用从“尝鲜”变成更精细的成本中心管理。

[32:00] 创造力场景与生产场景的分化

[事实] 主持人区分了两类场景:写代码、长程分析等创造力驱动场景,以及重复分析、生产任务等成本驱动场景。

[事实] 在创造力场景中,公司内部用户即使有免费模型,也习惯选最贵的 Claude Code 类模型。

[事实] 主持人认为,创造力任务一旦做坏,返工和追赶上下文的沉没成本很高。

[推测] 高端模型仍会在高风险、高不确定性任务中保留定价空间。

[34:00] 模型市场可能走向两极

[事实] 主持人用雇人类比模型选择:保洁类简单重复劳动只要及格和便宜,工程师类创造性工作则愿意付更高成本。

[事实] 节目认为,中间价位、能力不上不下的模型可能两边不靠。

[事实] 主持人提到,企业端大量 AI 使用仍集中在写文档、写代码、做图、做视频等创造性场景,深度嵌入流程的生产应用还刚开始。

[推测] 在一段时间内,最强模型和最便宜可用模型会分别占据不同市场位置。

[36:00] 百炼式模型超市与精品模型策略

[事实] 节目讨论阿里百炼里有很多千问系列模型,覆盖长上下文、响应快、价格低但效果一般等不同特性。

[事实] 主持人把这种策略称为“百货超市式”,与只提供少数 Flash、Pro 模型的精品策略形成对比。

[事实] 主持人表示,自己会让 AI 根据预算和需求在阿里云文档中选择合适模型并接入。

[推测] 当 AI 能代替人完成选型时,过多选项带来的决策成本会下降,模型超市策略的价值会提高。

[38:00] AI 改变产品设计与网站内容逻辑

[事实] 主持人提出,现在做产品要先问这个东西是给 AI 用还是给人用。

[事实] 节目提到,有产品官网被批评文字太多,但主持人认为如果网站未来要给 AI 读取,信息必须写得更完整。

[事实] 主持人提到 GEO 与 SEO 的区别:AI 更需要完整叙事和有效信息,而不只是链接和关键词。

[推测] 未来产品官网可能需要同时服务人类阅读和 Agent 抓取,两套内容策略会并存。

[40:00] 面向 AI 的网页技术适配

[事实] 主持人认为,只有 JavaScript 动态渲染的页面对 AI 不友好,因为很多 AI 抓取端可能拿到空页面。

[事实] 节目提到,SSR 后端渲染可以把内容直接放进 HTML 里,让 AI 更容易读取。

[事实] 主持人还提到,有些网站可根据请求头返回 Markdown,让 AI 拿到更干净、低幻觉风险的内容。

[推测] AI 读取能力的限制正在倒逼前端和内容交付方式重新调整。

[42:00] 内容入口从人转向 Agent

[事实] 主持人表示,自己现在不做移动端,因为网页端更适合被 AI 抓取和读取。

[事实] 节目认为,互联网内容正在变成给 AI 看的,而不只是给人看的。

[事实] 主持人提到,“AI 写给 AI 看”会越来越常见。

[推测] Agent 成为入口后,传统极简页面和移动端优先的产品假设可能被重新评估。

[44:00] AI 作为人与人之间的带宽放大器

[事实] 主持人认为,人和人之间即使语言相同,交流成本和损耗也很高。

[事实] 节目把 AI 描述为中间的翻译者、桥梁和放大器:一端把信息写得更完整,另一端由 AI 总结回去。

[事实] 主持人重申,内容或网站接口如果对 Agent 不友好,未来可能会被排除在游戏规则外。

[推测] 这段把 AI 不仅看作工具,也看作未来信息分发和商业发现的中介层。

[46:00] 数据资产、验证码与 Agent 支付

[事实] 主持人以自己的听记分享页面举例,页面提供给 AI 读取的结构化 Markdown 链接,以减少渲染噪音和幻觉。

[事实] 节目讨论了一个矛盾:内容想给 AI 看,但开放后也可能被同行或爬虫抓走。

[事实] 主持人区分了信息和数据:前端说明“你是干什么的”属于信息,应允许抓取;数据则是资产,不能随便放开。

[事实] 节目提到 Stripe、PayPal、支付宝等公司在做 Agent 支付协议,主持人认为付费和登录问题迟早会被解决。

[推测] Agent 时代的商业服务需要同时解决可发现、可授权、可付费和防滥用的问题。

[48:00] MCP、协议化服务与模型评测

[事实] 主持人认为,许多可封装的数据服务最终可能以 MCP 或某种协议形式暴露出来。

[事实] 节目设想了通过支付获得认证 token,再由 Agent 调用服务并结账的流程。

[事实] 对于模型超市里大量模型如何选择的问题,主持人说可以让 AI 跑 100 个测试并给出理由。

[推测] 当服务和模型都协议化后,人的角色可能更多转向设定目标和验收结果。

[50:00] 专用模型与企业 Agent 工作流

[事实] 主持人举例说,做 OCR 订单识别时,不一定需要昂贵的多模态大模型,只要找 OCR 能力强且便宜的模型即可。

[事实] 节目认为,企业 Agent 开发会遇到大量特定场景和条件,因此需要像超市一样提供多种模型。

[事实] 主持人总结,企业 Agent 往往是把擅长不同环节的模型拼成工作流。

[推测] 未来企业 AI 工程更像模型编排和胶水代码,而不是单一模型包办所有任务。

[52:00] AI 也会改变模型介绍和产品陈列

[事实] 节目继续用超市和精品店类比,认为过去区分客群、装修店面的逻辑,在 AI 代为选择时会被抹平。

[事实] 主持人认为,模型介绍可能不需要大量宣传文案,只要说明任务类型、规格和价格,AI 可以自己测试适配性。

[事实] 节目也提到,并非所有信息都能如此简化,像 IP 地理位置等服务仍需要测试流程和结果解释。

[推测] 面向 AI 的产品陈列会更重视可调用性、规格清晰和可测试性,而不是营销表达。

[54:00] AI 开始承担复杂运维操作

[事实] 主持人分享了 22 端口被封后,AI 通过另一台机器跳转完成部署的经历;后来他认为这种方式有风险,并限制了跳转。

[事实] 主持人还提到,AI 从阿里云文档里找到了类似助手的方式,通过 80 或 443 端口访问主机操作。

[事实] 另一位主持人分享了把德国法兰克福机器从 CentOS 8 升级到 10 的过程,由 AI 给出步骤,中间通过截图排查分区问题。

[推测] AI 在运维中的价值不只是执行命令,还包括查文档、给方案、解释错误和辅助决策。

[56:00] 低频任务中的心智负担下降

[事实] 主持人说,Windows 编译机的依赖、环境和远程启停都由 AI 帮助配置,自己几乎没有登录过那台机器。

[事实] 节目讨论了很多一年才做一次、容易忘记细节的任务,例如系统升级、LVM 扩容、ZFS 配置等。

[事实] 主持人认为,过去这些任务需要重新查文章、重新学习,而且一旦操作错可能丢数据。

[推测] AI 尤其适合降低低频、高风险、文档零散任务的记忆压力和焦虑感。

[60:00] AI 辅助网络排障与交换机配置

[事实] 主持人分享了万兆交换机端口随机断连的排查经历,AI 通过观察和任务监控排除了网卡问题,并把疑点集中到交换机或线路。

[事实] 换线后,AI 继续监测并判断交换机问题更明确,于是主持人决定更换交换机。

[事实] 新交换机是白牌交换机,主持人通过 Console 线接入,让 AI 摸索系统并配置所需参数。

[推测] 这类案例显示,AI 可以把不熟悉设备和陌生命令带来的压力转化为可逐步验证的操作流程。

[64:00] AI 的能力边界与现实接入问题

[事实] 主持人提到光纤口、单模、LC 等问题时,仍会找熟人确认,因为怕买错。

[事实] 节目提到,有些故障最终靠调换 A/B 端位置解决,即使资料说严格来说不应区分收发端。

[事实] 主持人承认,AI 也需要现实世界的接入条件,例如截图、Web 控制台、串口线或能连进机器的通道。

[推测] AI 能解决很多知识和流程问题,但物理世界的连接、传感和确认仍然会限制它的能力。

[66:00] Mac mini、本地大模型与尾声

[事实] 节目临近结尾时提到还想聊新出的 Mac mini,但时间不够。

[事实] 两位主持人都提到已经或准备预定 Mac mini,其中一位关注 Ultra 版本的 1.2TB 带宽,想测试本地跑大模型的收益比。

[事实] 主持人调侃可以把 Mac mini 当理财产品看待,因为供货不足或特定需求可能让价格变化。

[推测] 这个结尾把前面关于算力稀缺、硬件价格和本地模型性能的讨论收束到个人设备选择上。

播客点评/总结

[推测] 本期的价值在于把 AI 产业链上的几个层面串了起来:英伟达护城河、GPU 灰色市场、模型价格战、企业 Agent 工程、AI 友好型网页和运维实践。它不是严肃报告式节目,而是通过一线经历和交易细节展示行业变化的具体质感。

[推测] 亮点是主持人有大量来自实际业务和工程场景的例子,例如 GPU 现货交易、批量转写成本、模型切换、网站给 AI 读、系统升级和交换机排障。这些例子让抽象的“AI 改变生产力”落到了可理解的操作层面。

[推测] 局限是节目中不少数字、新闻和市场判断来自主持人口头经验或未细看的报道,转录稿中没有提供外部来源验证,因此涉及价格、毛利率、模型成绩和市场影响的内容应谨慎看待。

[推测] 这期适合关注 AI 基础设施、模型成本、企业 Agent 落地、云资源调度和技术产品设计的人听;如果只想了解某一个确定新闻事件,节目会显得发散,但它对理解 AI 行业正在如何重塑工程习惯很有参考价值。