标签：sglang

2026-07-03andy阅读(650)

引言：推理成本正在经历一场”静默革命” 2024年初，调用GPT-4 API处理100万token的成本约为30美元。到了2026年中，这个数字已经跌到了不足3美元——降幅超过90%。这并不是某个单一技术突破的结果，...