推理

X.com 讨论转向 AI 基础设施成本与推理效率

今日高互动推文中，推理成本、长上下文缓存、GPU 利用率和端侧模型成为主要话题。