Ex-infra engineer on OpenAI's post-Astra degradation and quota resets
Using active users rising from 25M to 40M, the author argues Astra's token appetite overwhelmed capacity, pushing inference-effort cuts and quantization, with the 28-day resets favoring Work over Code users.
😡 Tibo发重置卡了，也救不了 OpenAI。 Astra 发布以来，OpenAI 这一轮降智，很明显算力不够了。 我在 Infra 上干过十年，看到这一个多月发生的事情，有一些自己的猜测。 先看数据。 9 月 3 日，Astra 发布。 8 月 31 日，Codex + Work 活跃用户还是 2500 万。到了 10 月 7 日，直接冲到 4000 万，增长了 60%。 用户疯狂涌入，但算力不可能凭空变出来。 按照我过去做 Infra 的经验，接下来很可能发生了这样的事情。 🔥第一阶段，服务开始卡顿，排队越来越长。 推理服务最怕接近满载。利用率从 80% 涨到 95%，在经典排队模型下，等待时间可能不是增加一点，而是几倍地往上涨。 特别是 Astra 这种疯狂消耗 Token 的推理模型，大量 Agent 同时运行，算力很容易被打穿。 🔥第二阶段，我猜他们开始在推理侧疯狂优化成本。 最简单的就是降低推理努力程度。更进一步的比如 FP8 量化，如果不够，再尝试更激进的 NVFP4。这样能释放显存、提升吞吐，但也可能牺牲部分模型精度。 🔥第三阶段，用户开始大规模抱怨模型降智。 10 月 2 日，官方承认遭遇大规模负载冲击。 10 月 4 日，Tibo 开始搞连续 28 天的改进或重置额度活动。 这就很耐人寻味了。 这 28 天重置活动是为了挽留 Work 用户，驱逐 Code 用户。毕竟 Code 用户都是重度的，一个人可能顶 5 个 Work 用户，同样的 200 刀。 🔥 大部分人的注意力从降智变成了什么时候重置？ 还有个推友分享，用 OpenAI 的模型折腾了 6 个小时，任务还没完成。 切换到 Opus 5.5，同样的任务 30 分钟解决，只消耗了 13% 的周额度。 虽然只是个例，但这个反差实在太夸张。 🔥不用怀疑，从 GPT-5.6 到 GPT-6、6.1，OpenAI 的推理模型存在一个问题：贵，烧 token，从 8 月份定位这么久到现在，已经明显确定不是 Harness的问题了。 现在回头看看 DevDay 上那些效率宣传，再看看用户这一个多月的体验，真有点讽刺。 🤡
This post quotes another post: x.com/minlibuilds/status/2111501695498977740