生成式人工智能（gen AI）的发展为各种组织带来了巨大机遇，特别是在生成式AI Agent方面。这些AI软件实体能规划执行任务或提供特定服务以协助人类。尽管如此，企业在大规模采用这些技术时常因数据质量差、员工不信任及高昂的实施成本等问题而受阻，而且这些技术的发展速度已超出许多领导者的预期。

随着生成式AI技术的不断进步及新一代AI Agent的出现，预计将解锁更多应用场景，降低部署成本，并使长尾应用经济上可行。这将促使企业流程、员工体验和客户交互实现更广泛的自动化。要应对这些变革，将需投资于健全的AI信任和风险管理策略，并建立相应的管理监控平台。

在这次采访中，麦肯锡数字业务的Barr Seitz与高级合伙人Jorge Amar和Lari Hämäläinen以及合伙人Nicolai von Bismarck探讨了生成式AI Agent的演变，以及企业如何以及应该如何实施这项技术，以及整个企业的价值所在。他们特别探讨了这些发展对客户服务的意义。

01

什么是生成式AI Agent？

Barr Seitz 提问：“生成式AI Agent到底是什么？”

Lari Hämäläinen 回答：“所谓生成式AI Agent，是指那些能够编排复杂工作流、协调多个代理间的活动、应用逻辑并评估答案的软件实体。这些代理可以自动化组织中的流程，或在执行流程时增强员工和客户的能力。这些技术非常宝贵，因为它们不仅帮助人们更高效地工作，还能实现底层流程和服务的完全数字化。”

“以客户服务为例，最近在短期和长期记忆结构方面的进步使得这些代理能够个性化地与外部客户和内部用户互动，同时帮助人类代理学习。这意味着生成式AI Agent正在逐步成为真正的虚拟工人，能够在企业的各个领域，从人力资源到财务再到客户服务，提供增强和自动化。”

Jorge Amar 补充说：“我们估计生成式AI企业用例每年可能创造2.6万亿至4.4万亿美元的价值，覆盖超过60个用例。然而，这些潜在价值能否转化为实际的业务增长和生产力提升，将取决于企业能多快地重新构想并转变工作中的优先领域——如用户旅程、整个活动链的流程或特定功能。”

“生成式AI Agent有望加速自动化那些需要大量资源才能实施的长尾工作流。此外，其潜力不仅限于这些用例：理论上，通过应用多种现有技术，包括生成式AI，今天全球经济中60%至70%的工作时间都可以被自动化，尽管这需要大量的解决方案开发和企业采用。”

“在我们今年早些时候发布的一项研究中，我们发现使用生成式AI的5000名客户服务代理，每小时的问题解决率提高了14%，而处理问题的时间减少了9%。这显示了生成式AI Agent在客户服务环境中的实际价值，可能来源于减少工作量或降低平均处理时间。”

02

生成式AI Agent有哪些应用机会？

Barr Seitz问道：“你已经看到了哪些生成式AI Agent的机会？” Jorge Amar回答说：“客户关怀将是第一个但绝不是唯一的具有规模化AI Agent的功能。在过去的一年里，我们看到许多成功的试点，其中生成式AI Agent帮助改善了客户服务功能。例如，你可以有一个在电话中与客户通话的客服代理，他可以实时从一个专用的生成式AI Agent那里获得帮助，例如推荐最佳的知识文章或对话的最佳下一步行动。生成式AI代理还可以在行为元素上提供指导，如语气、同理心和礼貌。”

以前，为每个客户的销售旅程的每个点分配一个代理在成本上是不可行的。但正如Lari所指出的，随着生成式AI Agent的最新发展，现在你可以做到这一点。

Nicolai von Bismarck补充说：“值得强调的是，生成式AI Agent不仅能自动化流程，还能支持人类代理。例如，生成式AI Agent在帮助客户服务代表获得个性化的硬技能和软技能培训方面非常擅长，例如理解对话的上下文。我们估计，将生成式AI应用于客户关怀职能，可以提高30%到45%的生产力。”

Jorge Amar继续说道：“是的，在其他情况下，生成式AI Agent直接帮助客户。一个数字销售助手可以在客户决策旅程的每个阶段提供帮助，例如检索信息、提供产品规格或成本比较——然后在客户访问、离开和返回时记住上下文。随着这些能力的增长，我们可以期待这些生成式AI Agent通过追加销售来产生收入。”

Barr Seitz问道：“你能解释一下为什么人们应该相信生成式AI Agent是一个真实的机会，而不是另一个虚假的技术承诺吗？”

在联想的一个特别报道中，联想的解决方案和服务集团首席技术官Art Hu、首席运营官及战略负责人Linda Yao和数字工作场所解决方案总经理Raghav Raghunathan与麦肯锡高级合伙人Lari Hämäläinen和麦肯锡数字业务的Barr Seitz讨论了该公司如何使用生成式AI Agent。

Barr Seitz问道：“联想已经运行了哪些现有的生成式AI Agent应用，你们看到了哪些影响？” Arthur Hu回答说：“我们主要关注两个领域。一个是软件工程，这是帮助我们的人提高代码生产的速度和质量的关键。我们的团队已经取得了10%的改进，并且随着团队更好地使用生成式AI Agent，我们看到这一提升增加到了15%。”

第二个领域是支持。我们在在线、聊天、语音和电子邮件中与我们的客户进行了数亿次互动。我们正在应用增强型大型语言模型（LLM）机器人来解决整个客户旅程中的客户问题，并已经看到了一些很好的改进。我们认为，可以在不需要人类介入的情况下解决高达70%到80%的所有客户互动。

Linda Yao补充说：“在我们的生成式AI Agent帮助支持客户服务的情况下，我们在通话处理时间上看到了双位数的生产力增长。我们还在其他地方看到了令人难以置信的收益。例如，我们发现市场团队在创建精彩的销售手册上的时间缩短了90%，还节省了代理费用。”

Barr Seitz问道：“你们是如何为生成式AI Agent的世界做准备的？” Linda Yao回答说：“我今天早上刚与我们的市场和销售培训团队一起工作，作为为我们的组织、合作伙伴和关键客户开发学习课程的一部分。我们正在弄清楚什么学习应该在业务的所有层面以及不同角色上进行。”

Arthur Hu说：“在技术方面，员工需要了解生成式AI Agent是什么以及它们如何帮助。能够建立信任是至关重要的，否则他们会抵制采用它。在很多方面，这是一个揭秘的过程。”

Raghav Raghunathan补充说：“我们将生成式AI视为在新领域平等竞争的一种方式。现在你不需要庞大的人才基础就可以竞争。我们正在投资于工具和工作流程，以允许我们以更低的劳动强度和更好的结果提供服务。”

Barr Seitz问道：“你们正在开发什么样的学习计划来提升你们的人员技能？” Linda Yao回答说：“例如，对于经理的学习路径，重点是提升他们的技术敏感性，了解如何改变他们的KPI，因为团队的产出正在迅速变化。在执行层面，这是帮助领导者深入了解技术，以便他们可以确定哪些是好的投资用例，哪些不是。”

Arthur Hu说：“我们发现，随着我们的软件工程师学习如何与生成式AI Agent一起工作，他们从基本上只是与它们聊天以获取代码片段，到发展更广泛的思考和关注。他们开始考虑改变软件工作流，例如在构思和价值链的其他部分与生成式AI Agent一起工作。”

Raghav Raghunathan说：“生成式AI提供了一种更有效的体验学习能力。它们可以为销售人员准备客户互动或在销售通话期间指导他们。这种方法比以前的学习方法产生了更大的影响。它为他们提供了一个安全的学习空间。他们可以提前练习他们的推销，并在实时情况下通过反馈学习。”

03

如何看待生成式AI Agent未来的发展？

Barr Seitz问道：“你如何看待生成式AI Agent的未来发展？” Linda Yao回答说：“在我们迄今为止的用例中，我们已经完善了生成式AI Agent，使其成为一个好助手。随着我们开始改进技术，生成式AI Agent将变得更像是人类代理可以部署来执行任务的副手。我们希望看到生产力的提高，但我们预计这将大大改善员工体验。这些都是人们不想做的任务。”

Arthur Hu说：“有很多机会，但我们正在探索的一个领域是如何使用生成式AI捕捉讨论和互动，并将洞察和输出馈送到我们的开发管道中。客户互动旅程中有许多点，这意味着我们有大量的数据可以挖掘，以了解复杂的意图，甚至自动生成新的知识来解决问题。”

Jorge Amar说：“当然，这些都还处于初期，但我们从生成式AI Agent中看到的能力简直前所未有。例如，与过去的技术不同，生成式AI不仅理论上可以处理员工和客户在各种渠道之间的数亿次互动，而且还可以生成更高质量的互动，例如提供个性化内容。我们知道，个性化服务是提升客户服务的关键驱动力。这里有一个大机会，因为我们在一项针对北美客户服务高管的调查中发现，不到10%的受访者对他们的客户服务表现表示非常满意。”

Lari Hämäläinen说：“让我从技术角度来看。这是第一次我们拥有一种适合人类互动方式的技术，并且可以在企业规模上部署。例如，考虑一下我们在电话中经历过的IVR（交互式语音响应）体验。那不是人类互动的方式。人类的互动往往是非结构化的，常常带有未明言的意图。而如果你考虑LLM（大型语言模型），它们从一开始就被设计来处理非结构化数据和互动。从某种意义上说，到目前为止，我们应用于诸如客户服务之类的地方的所有技术都是基于客户打电话来时带着一套非常结构化的思想并符合预设概念的前提。”

Barr Seitz问道：“在过去的12个月里，生成式AI Agent的格局发生了哪些变化？” Lari Hämäläinen回答说：“生成式AI的发展非常迅速。在LLM的早期，由于其缺点，如幻觉和相对较高的处理成本，模型被用于生成相对基础的输出，如向人类提供专业知识或生成图像。更复杂的选项并不可行。例如，考虑到一个只有80%准确率的LLM应用于包含十个相关步骤的任务时，其累积准确率仅为11%。”

“今天，由于最近的多项创新，LLM可以应用于更广泛的用例和更复杂的工作流。这些创新包括LLM本身在准确性和能力方面的进步，短期和长期记忆结构的发展，逻辑结构和答案评估的发展，以及将代理和模型应用于复杂工作流的框架。LLM可以评估和纠正‘错误’答案，从而达到更高的准确率。有经验的人类在回路中处理被识别为棘手的情况，机器与人类的联合结果可以产生高质量和高生产力。”

“最后，值得一提的是，过去一年中，许多生成式AI应用超越了聊天功能，通过将不同的组件结合起来实现定制构建。我们现在看到的是框架的标准化和工业化，越来越接近‘包装软件’。这将加快实施速度，提高成本效率，使现实世界的应用更加可行，包括解决企业中的长尾用例。”

Barr Seitz问道：“在采用生成式AI Agent技术用于客户服务时，你们看到了哪些障碍？” Nicolai von Bismarck回答说：“我们看到的一个主要障碍是在整个组织中建立对生成式AI Agent的信任。例如，在一家银行，他们知道需要减少错误答案以建立信任，因此他们创建了一个检查幻觉的架构。只有当检查确认答案正确时，才会释放答案。如果答案不正确，聊天机器人会说无法回答这个问题，并尝试重新措辞。然后，客户可以快速获得答案，或者决定与真人代理对话。这非常有价值，因为我们发现所有年龄段的客户——甚至包括Z世代——仍然更喜欢通过电话进行客户帮助和支持。”

Jorge Amar补充说：“我们看到非常有前景的结果，但这些是在受控环境中与少数客户或代理进行的。要扩大这些结果，变革管理至关重要。这是企业面临的一个大障碍，远远超出仅仅推出一套新工具。企业需要重新组织功能的工作方式，以便从生成式AI Agent中获得全部价值。”

“例如，数据需要以适当的格式和位置供生成式AI技术有效使用。实际上，大约20%的大多数组织认为数据是利用生成式AI捕捉价值的最大挑战之一。例如，一个聊天机器人在回答问题时引用了过时的信息，如COVID期间使用的政策。虽然内容可能是正确的，但它已经过时。企业需要投资于清理和组织数据。”

“此外，企业需要真正致力于建立AI信任和治理能力。这些是确保公司不仅遵守快速变化的法规（如最近的欧盟AI法和许多国家的类似行动），还能够保持对客户和员工在公平和无偏见方面做出的承诺的原则、政策、流程和平台。这还需要新的学习、新的与法律和风险团队的合作水平，以及新的技术来管理和监控规模化系统。”

“变革还需要在其他领域发生。企业将需要为客户服务职能的各个层级构建广泛且量身定制的学习课程——从需要创建新的KPI和绩效管理协议的管理者，到需要了解不同与客户和生成式AI Agent互动方式的前线代理。”

“技术将需要变得更加灵活，并发展更强的生命周期能力来支持生成式AI工具，我们称之为MLOps（机器学习操作）或越来越多的gen AI Ops。操作模型将需要支持小团队迭代地开发新的服务能力。而采用将需要持续的努力和新的激励措施，以便人们学会信任这些工具并实现好处。这对于更有经验的代理尤其如此，他们认为他们自己的技能不能通过生成式AI Agent来增强或改进。仅就客户操作而言，我们正在讨论一项广泛的努力，但鉴于生成式AI潜在的超过4000亿美元的价值，这是值得的。”

04

生成式AI Agent如何帮助企业？

Barr Seitz问道：“就客户服务而言，生成式AI Agent将如何帮助企业？” Jorge Amar回答说：“这是一个很好的问题，因为我们相信，直接的影响来自于增强人类的工作，同时实现更广泛的自动化。我的看法是，生成式AI Agent能够并且将会改变各种企业服务和工作流程。它将帮助我们自动化许多不增加价值的任务，同时为员工和客户创造更好的体验。例如，企业服务中心将变得更加高效，产生更好的结果并提供更好的体验。”

“事实上，我们看到这种新技术有助于减少员工流失。随着生成式AI变得更加普遍，我们可能会看到服务工作中更多的专业化。某些公司和职能部门将率先采用并实现完全自动化，而另一些则可能通过建立更多高接触的互动来实现差异化。”

Nicolai von Bismarck补充说：“作为一个例子，我们在一家德国公司看到这种想法在实践中应用，他们正在实施一个基于AI的学习和指导引擎。在推出过程中，从主管到员工的各个角度的员工体验都有显著改善，因为员工觉得他们终于得到了相关的反馈，他们感到被重视，他们在职业上取得进步，并学习了新技能。例如，他们不仅接听保留客户的电话，还可以接听销售电话。这种经验为员工工作提供了更多的多样性，减少了枯燥的重复性工作。”

Lari Hämäläinen说：“从更广泛的角度看，我们曾经预测，在2055年左右，今天50%的工作活动可以被自动化。然而，技术的发展远远超出了任何人的预期——仅看一些LLM的能力，它们在某些情况下接近甚至超过了平均人类的水平。生成式AI的创新帮助加速了这一预测约十年。而且这一速度将继续加快，因此我们可以期待采纳时间表进一步缩短。这是每位高管需要理解的重要发展。”

– END –

 报告下载 

大佬观点