OpenAI把推理成本砍了一半：AI普惠化正在加速 | OpenAI Halves Inference Cost: The AI Commoditization Race Accelerates
OpenAI本月悄悄做了一件事：把 ChatGPT 免费用户的推理成本砍了超过一半，所需的 NVIDIA GPU 池缩减到”只需几百张”。
技术细节没有公开，但结果是真实的。
为什么这件事重要
AI成本通常不是用户关心的事——那是服务商的事。但这次不一样，因为它揭示了一个更大的趋势：
AI基础服务正在被商品化。
类比2006-2010年的云计算：AWS先把服务器成本打到地板，基础算力变成商品。在这之上，Stripe、Twilio、Datadog这些垂直服务商才能成立。
现在AI正在走同样的路：
- OpenAI砍基础推理成本 → 基础对话变商品
- Anthropic去做Claude Science（高价垂直应用）→ 在专业领域捞高价值
市场分层正在形成：底层卷价格，上层卷专业化。
对开发者意味着什么
如果你在用OpenAI API构建产品，这是好消息：边际成本在下降，用户规模扩张的成本压力减小。
但同时这也是一个信号：如果你只是”AI的转发器”——包一层API做个聊天机器人——你会越来越难收费，因为用户可以直接用ChatGPT免费版。
有价值的产品要做的是：把AI嵌入特定工作流，解决特定领域的具体问题。
被忽视的另一面：模型安全在高压场景下退化
同日发布的 IMCBench 医疗对话基准测试显示：即使是 Claude Opus 4.6（整体评分最高3.61），在处理恶性病例时，安全性能也会明显下降。
成本越来越低，能力越来越强，但在高风险场景（医疗、法律、金融），模型的”安全底线”仍然不稳定。
这是一个值得关注的矛盾：部署越广泛，高风险场景被触发的概率越高。
English below
OpenAI quietly cut inference costs for free ChatGPT users by more than half this month, reducing the required Nvidia GPU pool to “just a few hundred.” The exact techniques remain undisclosed.
The Market Signal
This mirrors the cloud computing transition a decade ago: Amazon Web Services commoditized basic infrastructure, enabling specialized providers like Stripe and Twilio to capture value in vertical applications.
The pattern is repeating in AI:
- OpenAI drives down cost of basic inference → conversation becomes a commodity
- Anthropic builds premium Claude Science → captures high value in specialized domains
Bottom tier competes on price, top tier competes on specialization.
What It Means for Developers
Good news: shrinking cost per API call. Bad news: if your product is just an API wrapper, you’re competing against free. Build into specific workflows, solve domain-specific problems.
The Safety Caveat
IMCBench medical conversation benchmark showed that even Claude Opus 4.6 — top overall scorer at 3.61 — shows degraded safety performance on malignant cases. Wider deployment = higher probability of hitting edge cases in high-stakes scenarios.
Source: AI Daily Digest, July 1, 2026