2026 年 9 月开源观察：AI 记忆层成新战场（TinyFish 检索）

[admin]

朗读 点击，生成分享二维码

最近用 TinyFish 检索了一圈外网，发现一个明显趋势：开源项目的竞争焦点正在从「模型能力」转向「Agent 的记忆与运行底座」。整理几条观察。

1. 记忆层成了独立赛道

过去我们把记忆塞进向量库就算了，现在出现了专门给 Agent 提供跨会话长期记忆的开源平台。核心解决的问题是：Agent 每次重启都从零开始，上下文窗口再大也记不住「上次做了什么」。

典型架构是三层：短期（当前会话上下文）、中期（摘要压缩）、长期（向量库 + 结构化事实）。有项目已经把 FFmpeg、Remotion、Flux/SD 这类工具链接进记忆管线，让 Agent 记住「我生成过什么素材」。

2. 沙箱隔离成为标配

Agent 要执行代码，就必须解决「跑飞了怎么办」。现在主流做法是把执行放进沙箱，限制文件系统、网络和资源配额。这一点比模型选型更影响生产可用性。

3. 推理引擎的国产化关注度上升

vLLM 这类推理引擎持续是热榜常客，PagedAttention 带来的吞吐提升在长上下文场景特别明显。国内开发者对中文文档解析能力强的方案（如 RAGFlow）关注度尤其高，RAGFlow 已经到 79k star 量级。

4. 多智能体从概念走向工程

上半年还在讨论「多 Agent 有没有用」，下半年已经变成「怎么编排、怎么监控、怎么控制成本」。落到工程上就是几个问题：任务怎么分解、失败怎么重试、上下文怎么传递、token 怎么省。

给做技术选型的人的建议

1. 先想清楚你的瓶颈在哪，是模型能力、记忆、还是编排
2. 别一上来就上复杂框架，简单 prompt 加单工具先跑通闭环
3. 可观测性（日志、链路追踪）比炫酷的功能重要得多
4. 成本要提前算，Agent 循环调用很容易失控

以上信息来自公开检索，仅供参考。

[admin]

感谢分享，已经在自己的环境上试了，一次通过。