BestBlogs.dev 精选文章 第 9 期

文章概述了朗格图 v0.1 和朗格图云的发布，这是两款旨在增强 AI 系统代理工作流的关键工具。朗格图为开发人员提供了对代理任务的精细控制，包括决策逻辑、人机协作和错误恢复功能。它支持单代理和多代理架构，非常适合复杂应用。朗格图云专为可扩展部署设计，管理容错能力的水平扩展、任务队列分布和高效存储，确保平台能够处理大型和复杂的工作流。来自 Replit、挪威邮轮公司和 Elastic 等主要公司的关键用户评价展示了该平台在实际 AI 应用中的价值，同时文章鼓励开发人员通过 GitHub 和朗格图云的等待名单进行实验。

本文来自LangChain博客，探讨了大型语言模型应用中'代理'的定义和理解。作者，一位LangChain开发者，将代理定义为一个使用大型语言模型来指导应用程序控制流的系统，这与将代理视为高级、类人实体的普遍看法形成对比。文章引入了'智能化程度'的概念，类似于自动驾驶汽车的自主级别，主张将其用于指导大型语言模型系统的开发、执行和评估。进一步强调了支持日益智能化的应用的新工具和基础设施（如LangChain的LangGraph和LangSmith）的必要性。应用程序的智能化程度越高，管理其复杂性的专用工具就越重要。

在 WAVE SUMMIT 2024 深度学习开发者大会上，百度发布了文心大模型 4.0 Turbo，强调其速度和效果的提升。文心大模型 4.0 Turbo 通过数据、基础模型、对齐技术、知识和对话增强等手段实现了性能优化。大会还发布了多个创新成果，包括农业智能体、飞桨框架 3.0 和智能代码助手“文心快码”2.5 版本。这些技术和应用展示了百度在大模型、人工智能和应用创新方面的全面进展，推动了通用人工智能的发展。文心大模型的用户日均提问量增加了 78%，提问平均长度提升了 89%，显示了其广泛应用和用户需求的增长。

本文详细介绍了蚂蚁集团资深算法专家陈鸿在 AICon 全球人工智能开发与应用大会上的演讲，探讨了多智能体技术在金融领域的应用。文章重点分析了多智能体技术应对金融领域信息、知识和决策密集挑战的作用。通过大模型与智能体的技术演进，文章指出智能体的有状态特性及其在任务执行中的关键作用。随后，文章提出了金融场景中多智能体应用的解决方案，尤其是 PEER 模式在提升金融决策严谨性和专业性方面的应用效果。最后，文章展示了蚂蚁集团基于 AgentUniverse 框架的实际应用案例，说明了 PEER 模式如何在多个金融场景中提高分析师的生产力。

文章首先阐述了 AI 在知识管理领域的应用，尤其是 RAG 方法在提高文本生成质量方面的潜力。RAG 通过让 LLM 访问知识库中的信息，如向量数据库，增强了文本的准确性、相关性和可靠性。作者强调，评估策略对于确保 AI 产品达到成功的基准至关重要。文章通过一个实验，展示了如何使用 Qdrant 和 Quotient 来优化 RAG 系统。Qdrant 作为一个高效的向量数据库，适用于 RAG 解决方案中快速准确检索大型数据集的需求。Quotient 提供了评估和改进 RAG 实现的工具，帮助团队识别应用的不足，并提高性能。

实验中，作者通过构建一个 RAG 管道并使用 Qdrant 和 Quotient 进行评估，得出了一系列关键发现，包括检索到的文档的不相关性和幻觉现象、优化文档检索的方法、适应性检索的需求、模型和提示变化对响应质量的影响，以及使用 Qdrant 和 Quotient 进行优化的工具。通过一系列实验，作者探索了不同的参数设置，如嵌入模型、块大小、块重叠和检索到的文档数量，以及不同的大型语言模型对 RAG 性能的影响。实验结果表明，通过调整这些参数和模型，可以显著提高 RAG 系统的性能。

在 AI 领域，LlamaIndex 推出的 llama-agents 开源框架正开创性地简化了多代理 AI 系统的开发流程。该框架以其分布式服务导向架构、标准化 API 通信接口、以及灵活的编排流程，为开发者提供了一个强大的工具箱，使得构建复杂的 AI 系统变得更加高效和可靠。无论是在问答系统、协作 AI 助手还是分布式 AI 工作流程的应用中，llama-agents 都能够帮助开发者将代理转换为生产级微服务，并提供了易于部署和实时监控的解决方案。

在 Config2024 大会上，Figma 宣布了包括 Figma AI 在内的一系列新功能，这些功能旨在解决用户在设计过程中遇到的实际问题，提高工作效率和创意执行力。Figma AI 通过视觉搜索、AI 增强型内容搜索、自动命名图层、文本处理和视觉画面生成等功能，简化了设计师的工作流程。此外，为了让用户快速上手使用，Figma 对 UI 界面进行了五大优化。Figma 还推出了 Figma Slides 新版本，进一步增强了其在职场生态中的竞争力。Figma 也对数据隐私保护做出了明确承诺，确保用户数据的安全性。

深度求索 DeepSeek-Coder-v2 已成为竞技场中最强的开源编码模型，超越了 GPT4-Turbo。该模型支持 338 种编程语言，并提供 236B 和 16B 两种参数规模。DeepSeek-Coder-v2 在编码和数学方面表现出色，在多个编码和 AI 性能基准测试中排名靠前。此外，它还引入了类似于'Artifacts'的功能，允许在浏览器中直接生成和执行代码。

这篇文章来自 The Batch 新闻快报，讨论了 AI 编码代理的进步，特别关注 OpenDevin 等开源框架。它重点介绍了探索多代理代码生成、使用大型语言模型 (LLMs) 进行代码调试以及开发高效的代理-计算机界面的研究论文。这篇文章强调了使用 HumanEval 和 MBPP 等基准进行自动评估的重要性，并将之与评估网络搜索和文章合成代理的挑战进行对比。最后，文章讨论了编码代理的快速发展及其使编程更愉快和更高效的潜力。

本周 AIGC 领域重要进展： Anthropic 发布 Claude 3.5 Sonnet，性能提升并推出名为 Artifact 的全新交互功能；Runway 推出视频生成模型 Gen-3，视频质量高，控制粒度细；Deepseek 发布代码模型及代码助手 DeepSeek-Coder-V2，代码能力超过 GPT-4 turbo；Ilya Sutskever 成立新公司 SSI，专注于安全的超级智能；Meta 集中开源四个模型，包括 Meta Chameleon 语言模型、Meta Multi-Token Prediction 代码补全模型、Meta JASCO 音乐模型和 AudioSeal 音频水印技术。其他动态包括快手可灵、Midjourney、Google Gemini 等的新功能，以及 Comfy Org 的成立。最后推荐了 Genspark、Hedra、Dot、Otto、Playmaker Document AI 等 AI 工具，以及 Andrej Karpathy 的 LLM 101 课程和 Lex Fridman 对 Perplexity CEO 的采访等精选阅读。

ShowMeAI 的日报揭示了 AI 技术的最新进展：Anthropic 的大模型 Claude Artifacts 在编程领域领先，能够生成并预览代码，这标志着 AI 在工作流中应用的新阶段。全球 AI 模型数据的可视化显示，尤其是语言模型，其训练计算量和成本呈现出迅速增长的趋势。

调研报告指出，尽管 AI 在工作效率提升方面得到认可，但仍存在无明确政策指导的 AI 使用现象。AI 在聊天机器人和自动化工作流应用中的使用频率上升，显示了其在日常工作中的重要性。

同时，文章强调 GenAI 不应取代初级程序员，一个运转良好的工程团队依然需要人类的协作。对于美国创企 Founder，提供了关于公司注册、股权分配等方面的实用建议，帮助创始人在创业初期做出明智决策。

谷歌最近发布了其最新的开放式大型语言模型 Gemma 2，该模型有两种版本：90 亿参数和 270 亿参数，分别提供了基础版和指令微调版。Gemma 2 在滑动窗口注意力机制、对数概率软限制、知识蒸馏以及模型合并等方面进行了主要改进，以提高生成质量和模型性能。该文章详细介绍了 Gemma 2 的架构、训练过程和技术进步。Gemma 2 在 Google Cloud TPU 上进行训练，并且与 Hugging Face Transformers 集成，支持与 Google Cloud 和推理端点的集成。

Gemma 2 的技术进展包括：滑动窗口注意力、软件胶帽、知识蒸馏和模型合并。其中，滑动窗口注意力结合了局部和全局注意力，以提高长文本处理的质量；软件胶帽通过限制 logits 的增长来改善训练；知识蒸馏提高了 90 亿参数模型的预训练效果；模型合并则通过组合多个模型来提升性能。Gemma 2 使用了新的合并技术 WARP，包括指数移动平均、球形线性插值和线性插值回初始化。

第二季度 AI 领域发生了多个重要事件，展示了技术进步和市场竞争的激烈。Meta 发布了开源大模型 Llama 3，微软发布了开源模型 WizardLM-2，但因未进行毒性测试而迅速删除。出门问问成功在港股上市，成为 AIGC 第一股。谷歌裁掉整个 Python 团队，反映了 AI 领域的竞争不仅在技术上，还涉及人力成本和市场策略。阿里云等公司通过发布新模型和升级服务展示了其技术实力。OpenAI 的 GPT-4o 模型进一步提升生成式 AI 的能力。阿里、百度、腾讯等国内科技巨头大幅降低大模型价格，引发市场关注。美国通过《ENFORCE 法案》，加强对 AI 技术出口的管控。Mistral 发布首个用于编码的生成式 AI 模型 Codestral。智谱 AI 推出 MaaS 2.0 并全面降价，API 调用量大幅增长。苹果在 WWDC24 开发者大会上展示了其对 AI 技术的重视。前 OpenAI 首席科学官苏茨克维成立新公司 SSI，与 OpenAI 形成竞争。国内大模型公司迅速推出迁移计划，应对 OpenAI 断供的影响。

在AGI Playground 2024上，创新工场的汪华分享了关于AI应用爆发的见解，强调AI应用的发展需要四个前提：模型性能、推理成本、模型的模态以及应用生态的完善。他表示，随着推理成本的下降，AI应用将逐渐普及，尤其是在大模型推理成本在未来几年内降至现在的1%，将解锁更多C端应用。汪华还指出，中国当前正处于AI应用爆发的前期阶段，未来两到三年将迎来AI应用的快速发展，尤其在ToB和生产力工具类应用上。他还强调，AI创业者需要兼具产品与技术视野，以应对大模型创业的挑战。

在人工智能领域，Dify 作为一家专注于大模型中间件的创业公司，在短短一年内实现了超过 40 万次安装，成为开源大模型中间件的全球增长第一名。其创始人张路宇在访谈中分享了他的创业历程、对 AI 技术发展的见解以及 Dify 的愿景。张路宇强调了以用户为中心的产品设计理念，以及在技术不断变化的环境中，产品需要平衡易用性和灵活性。他提出了 LLMOps 概念，指出 AI 技术栈的定型以及中间件在工程上的复杂性，并讨论了开源与全球化的重要性。

文章中，张路宇阐述了创业的三种动机：不满现状、创造欲望和利他主义，特别强调利他主义在其创业精神中的核心地位。他认为好的工具产品应该帮助用户更高效地完成任务，而不是创造需求。在技术层面，张路宇指出 AI 技术栈已经基本定型，但模型与应用的编排仍然是一个挑战，这也是 Dify 所在的领域。他还强调了开源对于 Dify 的重要性，开源不仅有助于全球贡献者的参与，提高技术可控性，还能降低市场化推广的门槛。

张路宇对团队的创新能力和协同合作表示更关注，他认为团队文化在创业成功中的作用至关重要，并坚信持续创新是保持竞争力的关键。此外，他分享了 ChatGPT 发布时的感受，认为 AI 技术的进步为创新者和企业家提供了前所未有的可能性，这种影响力激发了人们创造力和勇气。

在这篇文章中，面壁智能的李大海讨论了大模型在 Scaling Law 之外的未来。主要观点包括：

1. 2026 年有望开发出 GPT-4 水平的端侧模型。
2. 端侧模型在贴近用户和更具实用性方面的重要性。
3. AGI 的角色及 Agent 技术的重要性。
4. “智能密度”概念及其对大模型效率的影响。
5. 创建高性能且高效的端侧模型的挑战和进展。

在 AGI Playground 2024 大会上，两位硬件创业者杨健勃和阳萌深入探讨了 AI 硬件的未来发展。他们认为，AI 硬件需要具备高效的人机交互能力和情感价值，以满足用户在不同场景中的需求。手机仍然是最佳的交互设备，而 AI 硬件在非工作场景中可以提供情感价值，如 AI 宠物等。AI 大模型的出现改变了传统 AI 算法的开发方式，使得更多问题可以通过底层模型的创新来解决。此外，他们讨论了 AI 对不同角色的提升，特别是宠物和智能体的情感价值，预测未来智能体可能是一个超级智能体协调所有场景，或多个相互隔离的智能体。AI 硬件的发展需要结合本地算力和云端模型，以提供更好的用户体验。硬件公司的组织形态在 AI 时代不会迅速改变，仍需依赖有经验的人和现有工具。AI 在短期内无法完全替代硬件公司的人力资源，组织结构的基础仍需扎实。

马克・安德森在访谈中分享了他对 AI 在游戏领域的深刻见解。他认为 AI 将使游戏成为一种个性化的艺术形式，能够实时响应用户，形成与用户共同创造的反馈循环。安德森提倡技术乐观主义，认为新技术的出现虽然可能引发道德恐慌，但其带来的积极变化是显著的。他将 AI 描述为一种新型计算机，能够以创造性的方式生成内容，为新的艺术形式和商业模式提供了可能。安德森还强调了开源在推动 AI 技术普及和创新中的重要性，并看好初创公司在这一领域的前景。最终，他展望了游戏行业创始人将在未来几十年内对世界产生深远影响的潜力，以及游戏技术将如何影响其他领域，为社会进步做出贡献。

飞书，字节跳动旗下的协作平台，已成为国内领先的大语言模型（LLM）公司的首选。 本文探讨了这一趋势背后的原因，重点介绍了 LLM 初创公司面临的独特挑战以及飞书如何解决这些挑战。文章详细说明了飞书吸引力的三个关键方面：

1. 快速迭代和组织敏捷性：飞书的工具和方法论促进了快速迭代，使 LLM 公司能够快速适应行业快节奏的特点。
2. 关注上下文而非控制：飞书的一站式方法促进了信息流动和高效协作，符合 LLM 公司的去中心化、目标驱动型特点。
3. 灵活性与开放性：飞书高度的灵活性与开放性，特别是其多维表格和开放平台功能，满足了 LLM 公司的技术专长和定制化需求。

《张小珺 Jùn｜商业访谈录》是腾讯新闻一档专注做商业深度访谈的播客节目，本期节目从 AI 应用端出发，深入探讨了全球大模型上半年的发展，特别关注了 AI 搜索公司 Perplexity 的创业历程、数据、竞争及护城河。Perplexity 的最新估值达到了 30 亿美元。节目还讨论了 AI 应用为何尚未大规模爆发、GPT-5 为何进展缓慢以及大模型的商业模式和壁垒等问题。同时，对过去半年美国科技巨头的状况进行了点评。