Yeekal Logo Yeekal
3,699 字
早报 | MORNING 2026-10-26

TorchTPU 开源,Cerebras 部署 3T 模型

今日要点
  • TorchTPU 开源,Meta 拟迁 LLM 负载至 TPU
  • Cerebras 用 59 个 wafer 部署 Kimi K3 3T 模型
  • OpenAI 与 Anthropic 数月内降价最高 80%
Google 与 Meta 开源 TorchTPU,为 TPU 提供原生 PyTorch 后端;Cerebras 用 59 个 wafer 部署 Kimi K3 3T;OpenAI 与 Anthropic 数月内降价最高 80%。

1️⃣ Google 开源 ML Drift:跨平台 GPU 引擎面向端侧推理#

  • 发布:Google 开源 ML Drift,采用 Apache 2.0 许可,定位跨平台 GPU 计算引擎,面向端侧 AI 与机器学习推理。
  • 接口支持:抽象不同 GPU 硬件与底层 API,支持 OpenGL ES、OpenCL、Metal 和 WebGPU。
  • 影响:为移动端与 WebGPU 环境提供统一推理后端,降低端侧 AI 应用适配多种 GPU 的工程成本。 🔗 InfoQ

2️⃣ Google 与 Meta 开源 TorchTPU:PyTorch 原生后端接入 TPU#

  • 发布:在 PyTorch Conference North America 2026 上,Google 与 Meta 开源 TorchTPU,为 Google TPU 提供原生 PyTorch 后端。
  • Meta 计划:Meta 表示计划借助 TorchTPU 将更大规模的 LLM 工作负载迁移到 TPU。
  • 生态反应:AWS 同周发布面向 Trainium 的 TorchNeuron;开发者关注 TPU 可用性与供应商锁定在硬件供给层的位置。 🔗 InfoQ

3️⃣ 数学家评 OpenAI PDE 论文:流体不稳定性与凸积分的组合无先例#

  • 论文评价:数学家 Scott Armstrong 在 X 上评价 OpenAI 一篇偏微分方程论文,称其将凸积分与流体不稳定性结合,让流动自身产生振荡,雷诺应力进而生成坍缩的平滑涡旋。
  • 技术判断:他称该组合方式在文献中无先例,技术上“难以置信”,但并非超出人类理解;多个 PDE 专家组正在理解论文。
  • 传播:Greg Brockman 转述了这段评价,并引用“任何说这个 OAI 结果不令人意外的人都在胡说”一句。
  • 待验证:评价基于公开讨论,论文细节与复现仍需数学社区消化。 🔗 Greg Brockman 推文 | Scott Armstrong 原推

4️⃣ 前 Cursor harness 工程师:Agent 工作将在 6 个月内 90% 离开笔记本#

  • harness 变化:Jediah Katz 称模型已学会部分原本由 harness 教的代码库探索、持续工作与测试能力,旧防护可删;但邮件、行程等新任务又需要新的 prompt 与防护。
  • 成本差异:不同 harness 在编程评测分数接近,但单任务成本差别明显;优化缓存、token 使用效率与模型搭配后,Grokbot 成本下降、速度加快。
  • 运行趋势:Agent 任务时长从几分钟延长到几天,云端运行成为自主工作的前提;他预测 6 个月内 90% 的 agent 工作会在笔记本电脑以外运行。
  • 来源:前 Cursor 长期从事 agent-harness 的工程师,现加入 SpaceX 参与 Grokbot。 🔗 播客链接

5️⃣ AI 短剧占国内 Token 55% 说法不准确,上半年 AI 微短剧约 27 万部#

  • 数据辨析:咨询公司纪要称 AI 短剧与视频生成占国内 Token 消耗 55%,文章指出底层日志难以区分业务类型,Token 与算力占比也不能直接换算。
  • 实际供给:中国网络视听节目服务协会称 2026 年上半年上线微短剧约 36.7 万部,其中 AI 微短剧约 27 万部,占比超过 74%;抖音上半年上线 22.19 万部 AI 剧,仅 1055 部播放量过亿。
  • 算力需求:NVIDIA 测试显示,5 秒 720P 视频需对约 7.2 万枚时空 Token 重复计算约 40 次;郑州出现面向短剧公司的“Token 工厂”,西安 AI 短剧增量约 35 亿元。
  • 分析结论:文章认为短剧可能在创造新增推理需求,而非简单挤占既有科研或编程算力;芯片、电力与补贴的分配仍是待解问题。 🔗 硅星人Pro

6️⃣ 开源项目 earshot 三天获近 3000 Star,为 Agent 提供声音分析与合成#

  • 功能:earshot 可将声音转成文字描述与测量结果,比较多个声音匹配描述,定位长录音中的目标片段,并检查音量、爆音等问题。
  • 合成:可配合 AI 用代码合成点击声、提示音、碰撞声,自带 252 个音效,支持本地 CPU 生成,无需联网调用付费模型。
  • 状态:开源三天获得近 3000 Star。
  • 影响:Agent 的多模态工具链从视觉、文本扩展到音频分析与生成,本地合成降低调用成本。 🔗 GitHub | 介绍文章

7️⃣ Hypit 提出 SVML 语义视频标记语言,把视频制作写成可编译源码#

  • 产品能力:Hypit 支持复刻参考视频的编排结构,再替换人物、产品、台词或语言,批量生成不同版本。
  • 技术路径:SVML 将台词、素材、字幕、动效及其关系写入 .svml 源码;编译器转换为执行计划,运行时调用模型、处理媒体并合成视频。
  • 使用门槛:目前更适合会用 Coding Agent、能配置运行环境的创作者与开发者;框架免费,外部模型调用另行计费。
  • 影响:视频制作流程被拆成可编辑、可复用的源码与组件,Agent 可在结构化流程中调用模型与媒体工具。 🔗 硅星人Pro

8️⃣ [持续跟踪] PHP 发布四个版本补丁,修复两个在野 RCE 漏洞#

  • 前情提要:此前 PHP 被披露存在两个未授权远程代码执行漏洞,Cloudflare 提前部署 WAF,社区围绕 PoC 与利用条件存在讨论。
  • 最新进展:PHP 发布 8.5.12、8.4.27、8.3.36、8.2.35,修复两个严重 RCE 漏洞;Amazon 在补丁发布前四天记录到利用尝试。
  • 运维影响:管理员需确认是否运行 PHP、获取对应版本包,并验证补丁已落地。
  • 影响:在野利用早于补丁发布,修复窗口与资产盘点成为运维重点。 🔗 InfoQ

⭐ GitHub 趋势#

📊 类别速览

项目类别Stars
TauricResearch/TradingAgentsAI Agent(多智能体)114.6k
JetBrains/thinkrailAI 集成的开发者工具1.7k

1. TauricResearch/TradingAgents ⭐ 今日 +381#

语言/许可: Python / Apache-2.0
总 Stars: 114.6k
仓库: GitHub

项目定位:
面向量化研究者和多智能体系统开发者,把投研流程拆成分析师、研究员、交易员、风控与组合经理等角色,并跑通从数据获取、辩论、决策到回测的闭环。与单 Agent 提示链相比,强调角色分工、结构化输出和 point-in-time 数据约束,定位为研究框架而非投资建议。

核心功能:

  • 多角色协作:基本面、情绪、新闻、技术分析师并行产出报告,研究员多空辩论,交易员与风控/组合经理分层决策。
  • 回测与可复现:按决策日截断数据,记录运行配置,支持 LangGraph checkpoint resume 和隔离运行。
  • 多模型/多数据源:按模型层级配置 provider,接入 OpenAI-compatible、Bedrock、Ollama 等;数据侧覆盖 SEC EDGAR、FRED、Polymarket 等。
  • CLI/Docker/报告输出:支持参数化运行、报告落盘、持久化记忆和本地/容器化部署。

技术亮点:
基于 LangGraph 的多 Agent 编排,带 checkpoint 恢复与 point-in-time 数据校验;Research Manager、Trader、Portfolio Manager 使用结构化输出约束决策链路。


2. JetBrains/thinkrail ⭐ 今日 +51#

语言/许可: TypeScript / Apache-2.0
总 Stars: 1.7k
仓库: GitHub

项目定位:
面向使用 AI 编码 Agent 的开发者与团队,解决 Agent 缺少隔离工作区、持久项目上下文和可审阅变更的问题;以 git worktree、规格图和可插拔 Agent Skills 组织多会话开发。项目为 JetBrains 孵化中的 agentic IDE。

核心功能:

  • 基于 git worktree 创建隔离 workspace,每个 Agent 会话拥有独立分支和工作目录,可并行开发并选择性合并。
  • 每个 workspace 支持多个 pi 会话并行,独立模型、token/cost 统计,支持 steer、queue、subagent 和共享计划。
  • 将 SPEC.md 组织为可连接的规格图,Agent 通过 spec_* 工具读取、搜索和维护项目意图。
  • 接入 MCP 服务器并进行工具调用权限确认;提供桌面端与浏览器 CLI 两种运行形态。

技术亮点:
以 git worktree 做 Agent 运行隔离,规格图和 MCP 工具权限模型将项目知识与外部工具调用纳入 IDE 控制面,而不是仅停留在聊天式代码生成。

🟧 Hacker News 热议#

The State of Context Engineering#

57 pts · 12 comments · dbreunig.com

📌 内容总结

  • 背景 / 作者意图:Drew Breunig 在 AGNTCon 以 “Context Fails & Fixes” 梳理上下文工程:模型能力升级会把问题从“窗口不够大”转向“如何管理上下文”,工程职责是决定哪些交给确定性代码、哪些留给概率模型。
  • 关键要点:
    • 长上下文不是解药:context poisoning、distraction、confusion、clash 四类失败;Gemini 2.5 玩旧版 Pokémon 时被 FireRed 的“茶”任务污染,且上下文显著超过 100k token 后倾向重复历史动作而非新计划。
    • 六类修复已基本固定:augmentation、tool loadout、quarantine、pruning、offloading、summarization;在 DSPy harness 中可各用少量代码实现,但 pruning 要注意 prompt caching。
    • 新失败模式:fighting the weights(模型被训练环境偏置,如 Claude Code 系统提示反复要求并行工具调用)与 context inertia(过度执着错误假设/子任务);Memento、Fork-and-Flush、Scaling Discovery Requires Forgetting 都用“定期清空上下文、保留环境产物”缓解。
    • 实战约束:作者约 200k token 即建议重置;长期个人 agent 的记忆/skill 会累积冲突,未来问题是 strategic forgetting。
  • HN 关注点:输入未包含 top_comments,无法从评论区提炼。

💬 讨论总结

  • 该条 top_comments 为空,无法可靠归纳 HN 侧的支持、质疑或工程经验;不编造社区观点。

🔗 原文 · HN 讨论页

OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why?#

80 pts · 102 comments · minimaxir.com

📌 内容总结

  • 背景 / 作者意图:汇总 2026 年 6–9 月 OpenAI/Anthropic 的发布与降价,解释为何数月内价格可降 80%,并反驳“先补贴、后涨到真实成本”的叙事。
  • 关键要点:
    • 价格时间线:GPT-5.6 Luna 7/30 降 80% 至 $0.20/$1.20/$0.02;GPT-6 Sol 9/22 至 $2/$10/$0.20;GPT-6.1 Sol 再把 cache read 减半至 $2/$10/$0.10;Opus 5.5 9/22 至 $4/$20/$0.20,官方称所需 compute 更少;Fable 5.1 将 cache read 从 $1 降至 $0.25。
    • Agent 成本结构:coding agent 的 token 支出 96–99% 是 cache read,命中率约 90–100%;cache read 降 75% 约等于总成本降 70–75%,常被忽视。
    • 竞争面:模型商品化、切换成本低;OpenRouter 上 DeepSeek V4.1 Flash 1017 有 29 个 provider,Cloudflare/DeepInfra 有效成本接近 DeepSeek;Kimi K3.1 Pro 性能接近 Opus 5.5,价格约为一半。
    • 作者结论:降价不只是亏损换市场,也来自推理效率/缓存优化与边际成本竞争;只要多家 provider 能以低于收入的价格服务,价格难突然回涨;若资本紧张,订阅配额可能先被削减。IPO 前降价看似反直觉,但推理毛利可能仍健康。
  • HN 关注点:
    • 主流解释是价格战、无护城河、中国开源权重模型与多家推理供应商。
    • 技术解释包括 KV cache 优化、较小模型、硬件效率。
    • 对“无限量套餐”和商业可持续性存在明确反驳。

💬 讨论总结

  • 共识/主线:价格下行由竞争驱动,尤其 DeepSeek/Kimi/GLM 等开源权重模型和 OpenRouter 上多家 provider;模型切换成本低,OpenAI/Anthropic 难以维持高价。Cache/硬件效率是可信的第二解释。
  • 工程经验:有评论直接用 Kimi/GLM 替代 OpenAI/Anthropic,因更便宜且更少安全拒答;DeepSeek 已证明推理可按盈利价格出售,削弱“不可持续”判断。TPU 代际提升、训练/推理芯片分工、KV cache 优化被列为降价来源。
  • 被反驳 / 质疑:
    • “token 会像移动数据一样出现无限套餐”被回复集中反驳:推理成本随使用和能耗近似线性增长,移动数据边际成本近零;消费者电力按 kWh 计费,flatrate 不成立。自动化任务和子 agent 会快速放大消耗。
    • “价格战对消费者总是好事”有异议:可能导向泡沫破裂、信任下降、诈骗增加;也有人认为实际收益只是更快产出 7/10 代码。
    • 对商业模式的怀疑:两家公司当前巨亏,技术有用不等于商业模型成立;反驳“它们知道自己在做什么”的评论被指为 yessayer,并与 2008 银行家类比。
    • 监管动机:有观点认为推动监管可阻挡中国开源模型、形成护城河;反驳称可通过硬件饱和、自研芯片和训练成本下降证明 ROI,且监管通常推高价格、集中市场。
    • 个别意见:GPT-6 Sol 被视为回应 Opus 5.5 的 panic release,且过拟合聊天图表;Anthropic 速度曾落后,Opus 5.5 回升。

🔗 原文 · HN 讨论页

Cerebras Deploys Trillion-Parameter AI Models#

348 pts · 127 comments · cerebras.ai

📌 内容总结

  • 背景 / 作者意图:Cerebras 解释如何把万亿参数前沿模型放到 wafer-scale 芯片上,用 Kimi K3 3T 作示例,目标 1000–2000+ tokens/s。
  • 关键要点:
    • WSE-3T 单 wafer 44GB on-chip SRAM;3T 参数按 4-bit 约 1.5TB,分 93 层约 16GB/层。
    • 线性注意力层无 KV cache,每 wafer 放 2 层;dense/full-attention 层需为每个在途请求存 KV cache,每 wafer 放 1 层并留 28GB 给 cache。69 个线性层 -> 35 wafers,24 个 dense 层 -> 24,总 59 wafers。
    • 执行方式:模型层按流水线映射到 wafer,权重常驻,只有 activation 跨 wafer,RDMA over Ethernet 约 2µs/hop;不同请求/微批同时占用不同 stage,并发上限由 dense wafer 的 KV cache 容量决定。
    • 指标取舍:Cerebras 强调比较推理系统应看相同输出速度下的 tokens/s/MW;扩展更大模型靠增加 wafer 同时增加算力与 on-chip memory。
  • HN 关注点:输入未包含 top_comments,无法从评论区提炼。

💬 讨论总结

  • 该条 top_comments 为空,无法可靠提炼 HN 评论区对 wafer-scale、成本、功耗或部署真实性的观点;不编造。

🔗 原文 · HN 讨论页

2,165 字
晚报 | EVENING 2026-10-26

国内大模型均价上涨98%,SpaceX融资400亿美元采购GPU

今日要点
  • 国内大模型均价上涨 98%,Token 日均消耗达 500 万亿
  • SpaceX 完成 400 亿美元债务融资,GPU 明年 Q1/Q2 交付
  • 微软发布 MCP C# SDK 2.0,默认无状态 HTTP
中国信通院报告显示国内大模型均价从 6.8 元涨至 13.46 元,涨幅近 98%;SpaceX 完成 400 亿美元债务融资采购 GPU;微软发布 MCP C# SDK 2.0,默认采用无状态 HTTP 服务器。

1️⃣ 国内大模型均价上涨 98%,Token 日均消耗达 500 万亿#

  • 价格数据:中国信通院人工智能研究所等机构联合发布的《大模型词元服务性能监测报告(2026 年)》显示,国内大模型服务的归一化均价从 2025 年下半年的 6.8 元上涨至今年以来的 13.46 元,涨幅接近 98%。国外典型模型平均归一化价格约为 117.8 元,仍是国内的近 9 倍。
  • 用量与性能:今年 6 月国内 Token 日均消耗量达约 500 万亿,是去年 12 月的近 4 倍;今年 8 月国内模型平均每秒输出 78.23 个 Token,较 2025 年平均水平翻倍。
  • 行业意义:持续两年的价格战出现退潮,模型服务定价开始向成本与收入匹配回归;用量与性能同步抬升,说明涨价并未抑制调用规模,模型服务进入量价齐升阶段。
  • 🔗 爱范儿报道

2️⃣ SpaceX 完成 400 亿美元债务融资,用于采购 GPU#

  • 融资结构:马斯克称 SpaceX 已完成 400 亿美元债务融资,主要用于购买 GPU;这笔债务可提前赎回,对应芯片将于明年第一、第二季度交付,对本季度影响不大。
  • 信用基础:马斯克将融资成功归因于公司的投资级信用,以及 Starlink 卫星互联网和火箭发射业务带来的收入。
  • 市场判断:他认为,没有 AI 数据中心以外大量收入的企业几乎已被债务市场挡在门外;预计专为 AI 客户提供算力的新型云服务商将出现整合与倒闭,SpaceX 不会收购这类企业。
  • 待核实:路透社指出,马斯克帖文尚不能说明债务是否已与投资者敲定定价。
  • 🔗 爱范儿报道

3️⃣ Cerebras 详解三万亿参数模型部署:需 59 片晶圆#

  • 背景约束:单片 WSE-3T 晶圆拥有 44 GB 片上 SRAM,无法单独容纳万亿参数模型,必须将模型层分布到多片晶圆。
  • 容量估算:Cerebras 以约三万亿参数的 Kimi K3 为示例,假设权重采用 4 位量化、KV 缓存采用 8 位、平均请求长度 256k,则每层权重约 16 GB;69 个线性注意力层按每片两层安排,24 个全注意力层按每片一层并预留 KV 缓存空间,合计 59 片晶圆。
  • 互连与服务:权重尽量常驻片上,晶圆之间通过以太网 RDMA 传递激活值,每跳开销约 2 微秒;不同流水线阶段同时处理不同请求,并可通过微批在单请求速度与吞吐之间调节。
  • 边界说明:这是布局与容量示例,并非完整披露成本、预填充性能及故障恢复的独立基准。
  • 行业意义:万亿参数模型的推理正从单卡优化转向跨晶圆的系统工程,故障域、请求排空和滚动升级成为新的工程约束。
  • 🔗 Cerebras 博客 | HN 讨论

4️⃣ 微软发布 MCP C# SDK 2.0:默认无状态 HTTP,支持多轮往返请求#

  • 协议版本:该版本实现 2026-07-28 修订版的 Model Context Protocol,默认采用无状态 HTTP 服务器。
  • 新增能力:标准化路由头、多轮往返请求(Multi Round-Trip Requests);后续 2.1 至 2.3 版本增加了混合会话服务、subscriptions/listen 处理器,以及发现、OAuth 和关闭相关修复。
  • 行业意义:MCP 从本地工具调用协议向可水平扩展的无状态服务演进,C# 生态的 Agent 工具链获得官方实现,服务端部署不再依赖长连接会话状态。
  • 🔗 InfoQ 报道

5️⃣ Laurie Voss 谈 Agent 评估:可操作性从 5/16 到 48/48,忠实度仍未跟上#

  • 问题案例:一个金融分析 Agent 把两次网页搜索中不同数据集的比例拼在一起,算出分析师建议比例合计 116%,并写进结论;错误不在搜索结果,而在 Agent 没有正确推理。
  • 评估方法:Trace 是日志,eval 是对运行记录做测试;先通读十几条追踪记录,再写代码评估、LLM 裁判并接入 npm test 和 CI。按维度拆分评估器,避免一个“上帝评估器”在失败时无法定位问题。
  • 实验数据:修改 Prompt 后,可操作性评估从 16 份中 5 份通过提升到 48 份全部通过;但忠实度仅从 2/16 变为 3/48。换成 Haiku 5.5 后忠实度提高 3 倍多,成本变为 4 倍,但模型几乎每次都建议持有——分数变好不等于 Agent 更有用。
  • 方法论价值:用人工标注的黄金数据集核对裁判,修改后用相同数据和指标做对照实验;评估标准需要能被人复核,而不是天然可信。
  • 🔗 播客链接

6️⃣ Dan Luu:AI 让更有野心的软件项目变得可行#

  • 核心论点:编程代理正在改变软件项目的成本结构,过去不值得投入一年开发的专用工具,如今可能只需数小时人工指导就能达到“自己够用”的水平。开发者不应继续沿用代理出现前的成本估计。
  • 案例与边界:作者以 pgrust、正则引擎、ripgrep 分支和 Rust 工具链为例,其中 pgrust 的测试还帮助发现了 PostgreSQL 中的问题。但他明确区分个人工具与面向公众长期使用的产品,后者仍需大量工作;模型实现能力与自主验证能力之间的落差正在扩大。
  • 反对意见:文末附录收录相反观点——没有清楚的验收条件、架构判断和维护能力,扩大野心可能只会制造更复杂的黑箱。
  • 社区热度:HN 736 分、675 条评论,讨论集中在“快速原型不等于可维护产品”以及代码审查仍不可省略。
  • 🔗 Dan Luu 原文 | HN 讨论

7️⃣ Apollo 经济学家:AI 财务回报仍集中在七大科技巨头#

  • 对比数据:Apollo 首席经济学家 Torsten Slok 将科技“七巨头”与标普 500 其余 493 家公司比较:前者人均营收和利润率上升,后者相关指标大致持平,宏观生产率指标也未显示明显提振。
  • 解释框架:风投支持的企业仍在增加 Token 消费,但更多传统企业将 AI 视为压低利润的成本,而非已经兑现的增长来源。模型商品化之后,关键问题是企业能否把更便宜的智能转化为收入、利润和更好的商业判断。
  • 边界说明:这是基于汇总图表的宏观判断,不是逐一审计;指标尚未改善与证明每个 AI 项目都没有收益,是两个不同结论。
  • 社区反应:HN 609 分、645 条评论,多名从业者表示 AI 对个人项目有帮助,但日常工作净生产率暂未改善。
  • 🔗 Apollo 原文 | HN 讨论

8️⃣ CapCut 将于 11 月接入 ChatGPT,跨端公测#

  • 产品形态:CapCut 在洛杉矶 CapCut World 活动上宣布,将把视频生成和编辑工具以插件形式接入 ChatGPT;公开测试计划于 11 月覆盖移动端、桌面端和网页端。
  • 工作流:用户在 ChatGPT 中描述创意,插件生成视频初稿,再将项目带到 CapCut 网页编辑器继续调整、分享和发布;对话负责发起制作,精细编辑仍回到时间线完成。
  • 时间口径:官方于北京时间 10 月 25 日凌晨发布公告,使用“即将推出”的表述;洛杉矶场活动于当地时间 10 月 24 日举行。
  • 行业意义:视频编辑工具以插件形态进入对话界面,ChatGPT 作为创作入口的角色进一步向专业工具链延伸。
  • 🔗 爱范儿报道