模型窗口有限，遇到几百页文档或超长对话就装不下。长文本处理的核心不是硬塞，而是用压缩、检索、分段把该看的喂给模型，而不是全堆进去。
快速结论
- 长文本处理解决模型窗口装不下大材料的问题。
- 三条主路：摘要压缩、检索捞相关、分段逐个处理。
- 选哪条看任务：要全局综述用摘要，要定点问答用检索。
- 压缩要保出处，分段要保衔接，否则信息丢链。
窗口为什么是天花板
大模型一次能看到的文本量有上限，超出就截断或报错。长文档、长对话、多资料问答，天然就容易撞这堵墙。窗口不是无限抽屉，是固定大小的桌面。
硬塞的后果是后面的内容被丢掉，模型答非所问。所以长文本处理的本质，是在有限窗口里把最该看的摆对，而非把全部塞进去。
摘要压缩法
做法是把长材料逐步压成要点：每处理一段就生成摘要保留，原始细节丢弃，模型始终面对压缩后的精华。像写层层纪要，越往后越精炼。
压缩要保结构和出处，否则后续无法溯源。好的压缩留结论加来自哪段，而不是把过程抹平。压得有度，模型才既看得见全貌又不撑爆。
检索捞相关法
不把全文喂进去，而是先建索引，按问题捞最相关的几段给模型。模型每次只看当前要用的那几块，窗口永远够用，且噪音小、命中准。
这就是长文档问答的常见做法：把文档切片入库，问什么取什么。检索法和压缩法不互斥，很多系统先检索再对捞到的做轻压缩。
分段逐个处理法
把长材料切块，逐块交给模型处理，再汇总各块结果。适合对每部分都做同样操作的任务，比如逐章提取要点、逐段分类。
难点在衔接：块与块之间的上下文会断。化解是每块带一点前情，或最后用一轮综合把分散结果串成整体。分段不丢全局，靠这步兜底。
三种怎么选
要全局综述、把握整体脉络，用摘要法；要针对某点的精确问答，用检索法；要对每个局部都处理，用分段法。任务形状决定路线。
复杂场景常组合：先分段提取、再检索定点、最后摘要综合。把三种当工具箱而非单选，长文本才真正可控，而不是卡在窗口上。
压缩的质量陷阱
压太狠丢关键信息，模型看着精简实则漏料；压太轻又撑爆窗口。平衡点靠任务：问答要保细节可溯源，综述可适当更粗。
还要防幻觉式压缩：模型压着压着把没说的编进摘要。压缩结果也要核对原段落，关键结论标出处，压缩才可靠而非自说自话。
检索的切片讲究
长文档做检索，切片粒度决定命中质量。太粗捞回一堆无关、太细丢上下文。按自然章节或语义断点切，每块自成一个意思单元，检索才准。
还要带元数据（章节、页码），让模型知道这段来自哪。长文本问答里能定位原文比答得顺更重要，溯源是长文档处理的硬需求。
分段如何保衔接
逐块处理最容易丢跨块信息，比如前文定的规则后文忘了。化解是维护一个全局笔记，每块处理完更新笔记，后续块带着笔记继续，衔接不断。
最后一轮综合要把分散结论归并去重，避免各块各说各话。分段法成败在分得开、合得拢，合的那步往往比分的更关键。
和上下文工程的衔接
长文本处理是把材料变短变准，上下文工程是把变短后的材料摆好。两者接力：长文本处理产出窗口装得下的精华，上下文工程决定摆法和顺序。
理解这层，你就不会只做一端。材料压得好但摆得乱，模型照样答不好；两端都做，长文本任务才既装得下又答得准。
常见三个坑
坑一：硬塞全文导致截断，答非所问。坑二：压缩丢出处，后续无法溯源。坑三：分段不断衔接，结论各说各话。
三者都靠按需取料而非全堆、压缩保出处、分段保衔接化解。长文本处理的技术不在多新，而在把取舍做对。
和 RAG 的关系
RAG 解决用上外部资料，长文本处理解决资料太长装不下，两者高度重叠：RAG 的检索本质就是一种长文本处理。理解其一，另一半就通了。
区别在于视角：RAG 强调检索加生成的闭环，长文本处理强调窗口有限怎么破。落地时往往是一套系统，名字不同而已。
衡量处理得好不好
看两件事：模型在长材料上的答对率、以及关键信息有无丢失（抽样核对）。答得对且没漏，说明处理到位；答得对但漏了点，压缩或检索还有优化空间。
再看成本和时延：处理长文本本就贵，好的做法用最少文本量拿到最准答案。把省下的量和不掉的质量合起来看，才知这步值不值。
图：长文本三法 核心要点（运营GO 整理）
| 法 | 适合 | 注意 |
|---|---|---|
| 摘要 | 全局综述 | 保出处 |
| 检索 | 定点问答 | 切好片 |
| 分段 | 逐块处理 | 保衔接 |
延伸阅读：什么是 RAG 检索增强生成、什么是 Prompt（提示词）。
下一步行动清单
- 按任务形状选摘要、检索或分段。
- 压缩留结论与出处，不抹过程。
- 检索切片按语义断点保命中。
- 分段维护全局笔记保衔接。
- 复杂场景三法组合而非单选。
