LLM 消息截断容错展示
0x01 背景
a. Why
大语言模型(LLM)观测中的消息字段可能因长度限制被截断,形成不完整 JSON。 页面把解析失败的消息视为空数组,导致仍有有效内容的对话历史无法展示。 已核验样本的输出可正常展示,尚未复现输入截断导致输出同时空白。
b. 目标
- 保留截断消息中可解析的内容,明确提示数据不完整。
- 输入、输出分别降级,解析失败时提供原文查看。
0x02 实现路线
a. 建议的方案
由前端消息解析入口统一处理完整、截断和异常数据,优先评估现成的部分 JSON 解析库,详见 问题样例与方案对比。
b. 约束
恢复范围限于留存数据,已丢失的尾部内容无法补回。 文档和测试采用合成样例,不保存真实业务标识、内网地址、消息正文或鉴权信息。