标签：context

2026-02-27andy阅读(29)评论(0)

如何在 Go 中正确使用 context.Value 传递链路信息并规避内存泄漏 在 Go 微服务开发中，context.Value 是在函数间传递 Request ID、UserID 或 Trace 信息的最常用工具。然而，由于 cont...

2026-02-11andy阅读(62)评论(0)

处理百万级（1M）上下文长度是大型语言模型（LLM）面临的巨大挑战。传统的自注意力机制（Self-Attention）在序列长度$N$上具有$O(N^2)$的计算复杂度和内存占用，导致单个GPU无法容纳如此巨大的KV Cache和中间激活。...