KV Cache不用「精挑细选」？随机删除媲美最强基线，推理吞吐最高再提43%(kv cache 和moe)

也正因为如此，作者把 Random Attention 同时看作一个可部署的方法和一个 null baseline：如果一个更复杂的selection signal 在相同 cache budget 和相…...