五个 Java Agent 框架,谁能扛住生产环境
做 Agent 选框架,我一般不看 star 数,也不看官网首页的功能矩阵。那些东西只能说明作者想做什么,说明不了你上线之后会遇到什么。
我现在会问五件事:会话能撑多久、断了能不能恢复;危险动作拦不拦得住;出了错查不查得出来;能不能按企业那套方式交付;明年换模型要改多少代码。这五关过不了,功能再多也是 Demo。
Spring AI、LangChain4j、AgentScope Java、Spring AI Alibaba、Embabel 这五个是现在被问得最多的。它们其实不在一个层级上,硬拉在一起比功能,结论一定是错的。
一、先分清聊天机器人和企业级 Agent
这个前提不说清楚,后面的对比没意义。
聊天机器人是问一句答一句,答错了重问。企业级 Agent 不一样,它有三个绕不开的特征。
会话很长。一次任务可能跨几十轮、持续几个小时,中间用户走开了,回来还得接上。这意味着状态不能只放内存,断点必须能恢复。
工具会写数据。查订单是只读的,改工单、发审批、写日报就是写了。写操作一旦发生,回滚、幂等、审计三件事跟着就来了。
失败要能兜底。模型调不通、工具超时、参数不对,这些在生产上每天都会出现。兜底是重试、是转人工、还是直接失败,得由代码决定,不能由模型决定。
带着这三条再看框架,分野就很清楚了。
二、Spring AI:底座,不是编排器
Spring AI 现在的定位很明确——模型接入、RAG、工具调用这一层。2.0 之后它把工具循环提到了 advisor 链上,ToolCallingAdvisor 是个正经的可组合组件,不再绑死在 ChatClient 内部。
它的强项是"接得上":各种模型供应商、向量库、MCP 工具,Spring Boot 里加个依赖配几行就能跑。做知识库问答、文档检索、单轮工具调用,这条路上它最省事。
但要说清楚它不管什么:它不管会话存在哪、不管多智能体怎么协作、不管任务中断之后怎么恢复。这些你得自己搭。
所以 Spring AI 更准确的定位是地基。你不能指望地基给你装修。
三、Spring AI Alibaba:能力最全,但路线调整过
SAA 是在 Spring AI 上面加了一层 Graph 编排。设计思路明确参考了 LangGraph,ReAct Agent、Supervisor、HITL 确认节点、流式输出、状态快照这些都有,国内文档也全。基于它做出来的 JManus、DeepResearch、ChatBI 都是能直接看的参考实现。
放在一年前,国内团队问"Spring Boot 里怎么搭多智能体",我第一个就推荐它。
但这条路线后来变了。阿里把重心放到了 AgentScope Java,SAA 转成向上游 Spring AI 对齐,并在底层接入 AgentScope 作为执行引擎——从 1.1.2.2 起就已经有 AgentScope 的集成,可以把 AgentScope 的 Agent 包装成 SAA 的节点放回 Graph 里编排。
社区把这段变化理解成"SAA 停更了",官方的说法是两者独立发展、不存在替代关系。哪种解读对,看发版节奏就有感觉:AgentScope Java 一直在迭代,SAA 的更新更多是跟着 Spring AI 走。
对选型来说结论是一样的:新项目如果要按 Agentic 的方式做,不该再从 SAA 起手;已有的 Graph 工作流不用急着迁,但要知道上游不会再给你加新东西了。
四、LangChain4j:不绑框架的那条路
LangChain4j 最大的特点是它不绑 Spring。核心库是个普通 Java 库,扔进 Quarkus、Micronaut 还是裸的 main 方法里都能跑。
它的 AiServices 是我见过最省事的声明式写法:定义一个接口,方法上标几个注解,实现类由框架生成。做 RAG 也细,切分、嵌入、检索、重排每一步都能换实现,想调哪一段就调哪一段。
供应商覆盖是它最强的地方。要在一个项目里同时接三四家模型做灰度或者降级,它比 Spring AI 顺手。
代价是编排要自己做。它没有内置的多智能体调度和状态机,长会话的持久化也得自己接。做问答和 RAG 很舒服,做复杂的多步任务就开始写自己的调度代码了。
五、AgentScope Java:直接做 Harness
AgentScope Java 走的是另一条路。它不假装自己只是个库,而是把 Agent 跑起来需要的那一整套东西都做了:会话状态、工具执行、HITL 恢复、沙箱、分布式状态后端。
这个词是 Harness,直译是"挽具",实际意思是给模型套上可控制的运行框架。模型负责决策,Harness 负责让决策安全地落到系统里。
它的定位是分布式、生产环境。会话状态可以放外部存储,多个实例之间共享;工具执行有拦截点,可以在调用前后加校验和审计;HITL 的中断和恢复是一等公民,不是事后补的。
这些能力对一个做平台的团队特别重要,因为你本来就要写这些代码,区别只是自己写还是用现成的。
它的代价是重。如果你只想做个知识库问答,引它进来会觉得杀鸡用牛刀,学习曲线也陡一些。它更适合"要长期跑、要多实例、要能恢复"的场景。
六、Embabel:让流程可预测
Embabel 是 Rod Johnson 主导的项目——对,就是 Spring 框架那位。Kotlin 写的,但 Java 能用。
它的思路跟前四个都不一样。别人在解决"怎么让模型更好地决定下一步",它在解决"怎么让模型只在少数几个点介入,其余全部由代码和类型系统决定"。
做法是用类型化的领域对象描述业务,再让 planner 去组合这些能力。因为每一步的输入输出类型是明确的,整个流程可以写单测,也可以预测——同一个输入,不会今天走这条路明天走那条。
对流程严格、审计要求高的场景,这个方向很对。比如审批、结算、合规检查,你不能接受模型自由发挥。
但要提醒一句:它现在还在早期阶段,版本号没到 1.0,API 还会变。可以研究、可以做预研,不建议直接压在生产上。
七、五关对照
把前面的东西收进一张表,按开头那五关来对。
| 会话与恢复 | 权限与审计 | 可观测 | 交付形态 | 演进成本 | |
|---|---|---|---|---|---|
| Spring AI | 不涉及,需自建 | 需在工具外层包一层 | 有 Micrometer 接入 | Spring Boot 内嵌 | 低,跟随 Spring |
| Spring AI Alibaba | Graph 快照 | 需自建 | 需自建 | Spring Boot 内嵌 | 中,路线已转向 |
| LangChain4j | 需自建 | 需自建 | 有基础埋点 | 任意 Java 环境 | 低,换供应商容易 |
| AgentScope Java | 内置,可外部存储 | 内置工具拦截 | 内置运行指标 | 单机或分布式 | 中,跟着版本走 |
| Embabel | 需自建 | 靠类型约束,不含审计 | 较弱 | Spring 内嵌 | 高,API 仍在变 |
这张表要按"需自建"的格子读,不是按"内置"的格子读。需自建的那几格,就是你要额外投入的人月。
八、现实里都是组合
很少有人只用一种。常见的是底座加编排两层:Spring AI 或 LangChain4j 管模型接入,上面叠 AgentScope 或者自己的调度。
SAA 本身就是这个思路的产物——它没重写模型接入,而是基于 Spring AI 加编排。
组合带来一个不太被提到的坑:两层框架各有一套重试和超时。上层重试一次,下层也重试一次,一次失败会被放大成四五次调用,账单和日志都会很难看。要么把重试收敛到一层,要么给下层显式关掉。
九、我们为什么选 AgentScope Java
BizBuddy 的 Agent 是长会话、会写业务数据、要能中断恢复的,所以一开始就排除了"只做模型接入"的方案。
选 AgentScope Java,主要是三件事已经封好了:会话状态和 TTL 续期、工具执行的拦截与放行、HITL 的中断恢复。我们自己写的话,这三块至少要占掉一半工期,而且第一版一定是错的。
另外它的状态后端可以外置,多实例部署时会话不会丢;写工具能和本地事务对齐,审计和业务数据在同一个事务里落库。
SAA 的路线变化也算一个因素。不是说它不能用,而是新项目没必要把赌注压在一个重心已经移走的项目上。
最后
这五个框架没有高下,只有匹配。
只要回答问题的,Spring AI 和 LangChain4j 都够用,别为了"企业级"三个字给自己找麻烦。要长期跑、要多实例、要能恢复的,AgentScope 这类 Harness 框架省的是工期。流程必须可预测的,Embabel 那条路值得研究,但现在别上生产。
框架决定你能不能上线,不决定你有没有价值。业务逻辑写错了,换框架救不回来。
关于 BizBuddy
BizBuddy 是一个全量开源(MIT)的企业级智能体平台,Spring Boot 4.1.1 + AgentScope Java Harness,PostgreSQL 14 与 MySQL 8.0 双栈交付。上面提到的会话状态治理、工具权限拦截、HITL 恢复,在仓库里都有对应实现。
仓库地址:https://gitee.com/zl3624/biz-buddy
选型阶段想看真实代码怎么写的,可以直接对照;发现问题欢迎提 issue。