本文探讨了为何企业会选择自托管大型语言模型（LLM），这主要是出于数据主权和定制化需求，尽管其中涉及管理复杂性。文章强调了 Amazon SageMaker AI 在简化自托管模型基础设施管理方面的作用，它不仅提供托管端点，还支持 vLLM 等推理优化容器。BentoML 的 LLM-Optimizer 旨在解决如何优化配置这些容器这一核心挑战。该工具通过系统的性能测试和理论分析（屋脊模型），自动发现最佳服务参数（如张量并行度、批处理大小），从而取代了传统的手动试错过程。文章提供了分步指南，演示了如何定义约束、执行理论估算、使用 LLM-Optimizer 进行实证性能测试，并将优化后的配置部署到 SageMaker AI 端点。文中强调了理解吞吐量与延迟之间权衡的重要性，并展示了优化如何能显著提升性能并降低成本，实现从假设到数据驱动、生产就绪的 LLM 部署。
这篇 AWS 博客文章提供了一份详细的分步指南，介绍如何利用无服务器 MLflow 将自行管理的 MLflow 跟踪服务器迁移至 Amazon SageMaker AI。迁移过程包括将 MLflow 工件（实验、运行、模型）导出到中间存储，在 SageMaker 上配置一个新的 MLflow App，然后使用开源的 MLflow 导出导入工具导入这些工件。文章强调了无服务器 MLflow 的诸多优势，例如自动扩展、减少管理开销（无需进行服务器补丁修补或存储管理），以及成本优化。它涵盖了先决条件、MLflow 版本兼容性检查、无服务器 MLflow App 的创建、必要工具和插件的安装，以及导出和导入阶段的详细说明。文章还包括验证步骤，以确保成功迁移，并讨论了大规模迁移的注意事项，强调了自行管理解决方案和无服务器解决方案之间的权衡。
本文详细阐述了 AI 智能体驱动的浏览器自动化在企业工作流管理中的变革性作用，解决了传统机器人流程自动化（RPA）、API 集成和业务流程管理（BPM）平台在处理复杂动态 Web 应用程序流程时的局限性。以一个电子商务订单管理平台作为案例研究，展示了 Amazon Nova Act 和 Strands agent 如何与 Amazon Bedrock AgentCore Browser 结合，自动化多个零售商网站的订单处理。这包括智能识别页面元素、自动填写表单和提交订单。文章还强调了人机协作机制对于有效处理验证码（CAPTCHAs）或复杂挑战的重要性，并讨论了高可用性与可扩展性设计以应对高并发场景。提议的解决方案旨在显著提高自动化率，降低运营成本，并使知识工作者能够专注于更高价值的任务，超越传统的人工、监督和自动化任务的 30-50-20 分配比例。
本文旨在解决传统质量保证（QA）测试方法在现代开发中的局限性，特别是其脆弱性和高昂的维护成本。文章提出代理式 QA 自动化，作为利用人工智能实现自主、自适应测试的解决方案。该解决方案的核心是 Amazon Bedrock AgentCore Browser，它为人工智能代理与 Web 应用程序交互提供了安全、基于云的环境，提供会话隔离、可观察性和并发执行等功能。此基础设施与 Amazon Nova Act SDK 相结合，该 SDK 是一个用于构建和管理可靠 AI 代理集群并自动化 UI 工作流程的 AWS 服务。文章通过一个模拟零售应用程序展示了一个实际实现，其中人工智能驱动的编码助手 Kiro 以 JSON 格式生成测试用例。然后，这些测试通过 Pytest 并行执行，利用 AgentCore Browser 的并发会话，并通过 pytest-html 报告结果。该解决方案强调动态适应用户界面（UI）变化、减少人工工作量以及通过实时查看和会话回放增强调试能力。
本文提供了一步一步的指南，介绍如何创建利用 Amazon Bedrock 强大功能的 IDP 解决方案。它强调了使用 Strands SDK 进行代理开发，使用 Amazon Bedrock AgentCore 进行自主代理部署，以及使用 Amazon Bedrock 数据自动化（BDA）作为知识库中的多模态解析器，用于检索增强生成（RAG）工作流。BDA 能够从各种非结构化内容类型（文档、图像、视频、音频）中提取见解。该解决方案通过 Jupyter Notebook 进行演示，使用户能够处理多模态业务文档并检索相关上下文。该架构集成了 Amazon S3 用于存储和 Amazon OpenSearch 用于向量嵌入。本文详细介绍了先决条件、架构组件以及配置 AWS CLI 和部署解决方案的说明，以及安全考虑和自动化文档处理与问答系统的潜在优势。
