LLMLingua 是微软研究院提出的 Prompt 压缩技术,用小模型或专用分类器在请求进入大模型前删掉冗余 token。它适合 RAG、长对话和长文档问答场景,可降低推理成本、减少延迟,并缓解长上下文中的信息丢失问题。