一、背景在LLM推理中，经常会驳回KVCache来缓存之前Token的两边结果，以清楚缩小重复计算，从而降落自回归生成中的提前，但是，KVCache的大小与序列长度成正比，在解决长序列时会面临极大的应...