文章

本文着重强调了生成式人工智能时代一个关键但常被忽视的风险：消费者利用人工智能代理对企业发起“消费者主导的人工智能应用”。当企业目光短浅地专注于利用人工智能进行进攻以获取竞争优势时，个人可以轻松地组装人工智能代理，利用自动化查询淹没联络中心。这可能导致连锁反应，耗尽公司资源，引发要求折扣的呼声，或造成混乱和欺骗，甚至可能导致企业倒闭。 作者指出，目前尚无任何法律禁止消费者部署此类人工智能代理，这构成了一个重大的、尚未解决的漏洞。为应对这一挑战，企业亟需开发“防御性人工智能”系统，特别是要实施“代理运行时”（Agent Runtimes，一种用于构建、测试和部署 AI 代理的环境）。这些运行时是构建、测试、部署和发展人工智能代理的关键环境，提供诸如维护代理记忆和目标、允许访问外部工具、允许多代理协同以及在后台持续运行等功能。更重要的是，运行时可以处理跨文本和语音等模式的输入/输出，从而使防御性人工智能代理能够检测恶意行为者并提醒人工操作员。文章最后强调，企业亟需解决这一新兴风险，而不是坐等其全面爆发。

《人工智能：责任归属何方？》一文指出，随着人工智能系统的大规模部署，人类责任变得越来越重要。文章反驳了人工智能会降低人类责任的观点，强调当人工智能出错时，最终承担后果的是人类，而非算法本身。文章通过一个董事会场景，阐述了高管们要求为人工智能驱动的失败指定负责人的现象，突显了人工智能的乘数效应会放大错误。文章提出了在人工智能驱动的世界中至关重要的“新职位描述”：定义明确的目标并对结果负责，并将其定位为领导角色。文章概述了人工智能责任的三个层面：运营层面、战略层面和执行层面，强调每个阶段都需要明确的责任人。文章认为，建立强大的责任框架能够增强高管信心，消除对潜在风险的顾虑，从而加速人工智能的应用。最后，文章指出了人工智能时代领导者的关键技能：目标定义、风险评估、溯源思维和清晰的沟通，并建议组织在部署前进行充分的风险评估，确保准备就绪。核心信息是：算法执行，人类负责。