Brenda Z. Yang

流式传输，快与慢：认知负载感知的流式传输实现高效LLM服务

Xiao等人提出认知负载感知的自适应流式传输方法，根据推断的认知负载动态调整LLM输出速度，在复杂信息片段降速，可有效降低计算消耗同时保持阅读速度。