文章

本文旨在解决 LLM 驱动的 AI 代理在拥有大型工具库时面临的上下文膨胀和工具选择混乱问题。文章引入了“工具搜索工具”模式，该模式受 Anthropic 启发，但通过 Spring AI 的递归增强器 (Recursive Advisors) 为任何 LLM 提供了可移植的实现。此方法在初期会对所有工具进行索引，但只向 LLM 发送一个“工具搜索工具”的定义。随后，LLM 会查询此搜索工具以了解其功能，并仅将相关的工具定义动态注入到后续的提示中。初步的基准测试表明，在 Gemini、OpenAI 和 Anthropic 模型中，该方法实现了显著的 Token 节省（34-64%），并提高了工具选择的准确性，尤其是在处理 30 多个工具时。文章详细阐述了实现过程，展示了可插拔的搜索策略（语义、关键词、正则表达式），提供了代码示例，并讨论了该方法最有利的使用场景，建议将其应用于拥有 20 多个工具或工具消耗超过 5K Token 的系统。

Spring AI 2.0.0-M1 已发布，代表着 2.x 系列的第一个里程碑。此版本基于最新的 Spring Boot 4.0 和 Spring Framework 7.0 构建，需要 Java 21。主要更新包括 25 项功能增强、7 个错误修复以及显著的文档改进。亮点包括平台升级至 Spring Boot 4.0/Spring Framework 7.0，引入了基于 Redis 的聊天记忆（支持高级搜索和 HNSW 索引），以及对 Google GenAI 和 Gemini 模型的增强。值得注意的是，它集成了 OpenAI 官方 Java SDK（默认为 gpt-5-mini），并全面更新了 Anthropic Claude，包括支持 Claude 4.5 模型、引用 API、文件技能 API 和细粒度工具选择。此外，还添加了 Azure Cosmos DB 聊天记忆和 GemFire 向量存储认证。