首页/详情

Helidon 引入 AI Agent 能力:在 Java 微服务框架中实现可编排的智能体

InfoQ 中文2026/04/06 05:49机翻/自动摘要/自动分类
0 阅读

内容评分

技术含量
7/10
营销水分
4/10

摘要

Helidon 3.2 版新增 AI Agent 模块,允许在 Java 微服务中直接调用 LLM。通过配置即代码、CDI 注入和拦截器,开发者可快速实现自然语言理解、链式编排和安全限流。示例展示了 Agent 的声明、使用以及在云原生环境的部署路径,为企业提供原生的 AI 编排能力。

正文

Helidon 是 Oracle 维护的轻量级 Java 微服务框架,近期在 3.2 版本中加入了 AI 功能,旨在让开发者能够在微服务内部直接调用大型语言模型()并实现业务逻辑的智能化编排。该特性通过 helidon-ai-agent 模块提供,核心概念包括:

  1. Agent 接口:定义 Agent 接口,封装 调用、上下文管理和响应解析。
  2. 配置即代码:在 application.yaml 中声明 名称、模型提供商(如 OpenAI、Azure OpenAI)以及提示模板,框架在启动时自动创建对应实例。
  3. 注入与拦截:利用 Helidon 的 CDI 支持,开发者可以在业务服务类中通过 @Inject Agent myAgent; 直接使用,也可以在 HTTP 路由层面配置拦截器,将请求自动转发给 进行自然语言处理后再返回结果。
  4. 链式编排:提供 AgentChain,允许将多个 按顺序组合,实现复杂对话流或多步骤数据处理,例如先用 解析用户意图,再调用内部业务服务获取数据,最后生成自然语言回复。
  5. 安全与限流:框架内置 API Key 管理、请求超时、并发限流等机制,帮助在生产环境中安全使用外部 服务。

示例代码片段:

@Singleton
public class GreetingService {
    @Inject
    Agent chatAgent; // 自动注入配置好的 Agent

    public String greet(String name) {
        String prompt = "给用户 %s 打招呼,使用友好的口吻".formatted(name);
        return chatAgent.invoke(prompt);
    }
}

application.yaml 中的配置示例:

helidon:
  ai:
    agents:
      chatAgent:
        provider: openai
        model: gpt-4o-mini
        api-key: ${OPENAI_API_KEY}
        prompt-template: "{{input}}"

Helidon 通过统一的拦截器 API 将 能力与 WebServer、Routing、Reactive Streams 等模块无缝集成,开发者可以在不离开 Java 生态的情况下快速构建具备自然语言理解和生成能力的微服务。官方文档还提供了与 Kubernetes、Docker 的部署示例,展示了在云原生环境中使用 AI 的完整流水线。

该特性标志着 Java 框架开始向 AI 编排方向靠拢,为企业级微服务提供了原生的 接入方案,降低了集成成本并提升了业务创新速度。

标签