本文由：麦肯锡高级合伙人Aamer Baig及多位海外名企信息官、技术官联袂之作，作者笔锋犀利、视角独特，通过精心研究和充分调研，重点为首席信息官（CIO）和首席技术官（CTO）提供了9个可以落地的解决方案，从而更好地利用生成式人工智能重新构想业务和技术。

以下内容：文案由ChatGPT辅助完成，图片由Midjourney生成。本文预计阅读完成时间在25~35分钟左右。

媒体上几乎每天都会出现与生成式AI相关的新的商业突破性发展。麦肯锡的研究估计，人工智能每年可为产业创造2.6万亿至4.4万亿美元的价值。

首席信息官（CIO）和首席技术官（CTO）在为企业获取价值方面发挥着至关重要的作用，值得注意的是，我们以前已经看过新技术的出现--互联网、移动互联网、社交媒体，引发了一系列实验和试点的混战。

尽管显著的商业价值往往难以实现，但从这些发展中汲取的许多经验教训仍然适用，特别是当涉及到如何突破“从点到面”时。对于首席信息官和首席技术官来说，生成式人工智能的蓬勃发展提供了一个独特的机会，将生成式人工智能的理论转化为可持续的业务价值。

通过与数十位技术负责人的交流以及对50多家公司（包括我们自己的公司）的AIGC计划的分析，我们确定了所有技术领导者都可以采取的9项行动，以创造价值、协调技术和数据、扩展解决方案并管理人工智能生成的风险：

1、迅速行动，确定公司采用人工智能的战略，并与员工开展切实可行的沟通，为员工提供适当的支持资源。

2、重新规划业务，确定可通过提高生产力和采用新业务模式创造价值的场景和案例，估算生成式人工智能的真实成本和回报。

3、重新认识技术职能，专注于在软件开发中快速构建人工智能生成能力，加速减少技术负债，并大幅减少IT运营中的人工工作量。

4、利用现有服务或采用开源的生成式人工智能模型，也可以与其他企业进行合作。

5、升级企业的技术架构，以集成和管理生成式人工智能模型，并协调它们如何与现有的人工智能和机器学习（ML）模型、应用程序和数据源相互运行。

6、开发数据架构，通过处理结构化和非结构化数据源来获取高质量数据。

7、创建一个集中的、跨职能的生成式人工智能平台团队，按需向产品和职能团队提供标准化的模型。

8、提升关键角色（软件开发人员、数据工程师、MLOps工程师和安全专家）以及更广泛的非技术劳动力的技能。但是，由于生成式人工智能的影响各不相同，您需要根据不同的角色和熟练程度来定制培训计划。

9、评估新的风险状况，建立持久的解决方案，以解决模型、数据和政策问题。

1、制定公司采用生成式人工智能的战略规划

随着生成式人工智能应用的日益普及，我们看到首席信息官和首席技术官通过阻止员工访问公开可用的应用程序来限制风险。这样做，这些公司有可能错失创新机会，一些员工甚至认为这些举措限制了他们培养重要新技能的能力。

相反，首席信息官和首席技术官应积极拥抱新技术，在降低风险的实际需求与在企业中培养人工智能相关技能的重要性之间取得平衡。这需要通过就企业可接受的风险水平以及人工智能如何融入企业的整体战略达成共识，从而确立公司对人工智能的态度。通过这一步骤，可以快速确定全公司的政策和指导方针。

一旦政策定义明确，领导者应将其传达给业务部门，由首席信息官和首席技术官为组织提供适当的访问权限和规范指南。一些公司在全公司范围内开展了关于人工智能生成技术的宣传，为特定用户群提供广泛的人工智能生成技术访问权限，创建弹出式窗口，在用户将内部数据输入模型时发出警告，并建立一个指导页面，在用户每次访问公开可用的人工智能生成技术服务时显示。

2、找到AI可以提升价值的场景与案例

首席信息官和首席技术官们应与首席执行官、首席财务官和其他业务领导人合作，共同思考人工智能如何挑战现有的业务模式，为新的业务模式打开大门，并创造新的价值来源。在对技术可能性有了深入了解后，首席信息官和首席技术官应确定对于公司最有价值的机会和问题，哪一些机会和问题可以从生成式人工智能中受益，而哪一些则不能。在某些情况下，生成式人工智能并非最佳选择。

例如，麦肯锡的研究表明，在某些营销场景中（例如，通过分析非结构化和抽象数据以了解客户偏好）和客服支持（例如，通过智能机器人）中，生成式人工智能可将生产率提高约10%，最高可达40%。首席信息官和首席技术官在制定如何最好地按领域（如用户旅程或业务流程）或类型（如创意内容创作或智能虚拟机器人）进行分组的方面特别有帮助，从而使生成式人工智能具有最大价值。确定潜在机会并不是最具战略性的任务，考虑到最初的人才和能力限制，首席信息官和首席技术官需要提供可行性和资源估算，以帮助企业确定生成式人工智能的优先级。

提供这种水平的咨询需要技术负责任与业务部门深入合作，以估算生成式人工智能计划的真实成本和回报。成本计算可能特别复杂，因为单位成本必须考虑多个模型和供应商成本、模型交互（一个查询可能需要多个模型的输入，每个模型都有自己的费用）、持续使用费和人工监督成本等等。

3、重新设计技术功能

生成式人工智能有可能彻底改变技术职能部门的工作方式。首席信息官和首席技术官需要全面审视生成式人工智能对所有技术领域的潜在影响，但重要的是要迅速采取行动，积累经验和专业知识。可以将最初的精力集中在以下三个领域：

1、软件开发：麦肯锡的研究表明，生成式人工智能辅助编程可帮助软件工程师将代码开发速度提高35%至45%，将代码重构速度提高20%至30%，将代码文档的执行速度提高45%至50%。生成式人工智能还可实现测试流程自动化并模拟边缘案例，使团队能够在软件发布前开发出更具可靠的软件，并加快新开发人员的入职速度（例如，通过向生成式人工智能提出有关代码库的问题）。

要获得这些优势，需要进行广泛的培训，并通过DevSecOps实践实现集成和部署管道的自动化，以管理激增的代码量。

2、技术负债：技术负债可能占技术预算的20%至40%，并严重拖慢开发速度。首席信息官和首席技术官应审查他们的技术负债的“资产负债表”，以确定代码重构、代码转换和自动生成测试用例等生成型人工智能功能如何加速减少技术负债。

3、IT运营（ITOps）：首席信息官和首席技术官需要重新审视他们的IT运营（ITOps）工作效率，以确定人工智能如何加速流程。生成式人工智能的功能在以下方面尤其有用：通过自助服务代理实现密码重置、状态请求或基本诊断等任务的自动化；通过改进路由加快分流和解决问题的速度；显示有用的上下文，如主题或优先级，并生成建议的响应；通过分析大量日志流提高可观察性，以确定真正需要关注的事件；以及开发文档，如标准操作程序、事件后记或性能报告。

4、利用现有服务或使用开源生成式人工智能模型

在开发人工智能生成能力的战略方面，存在一个经典的 "租用、购买或构建 "决策的历程。基本规则是正确的：公司应投资于能够为业务创造专有优势的人工智能生成能力，并获得商品化的现有服务。

首席信息官和首席技术官可以从以下3方面入手：

1、直接使用——通过聊天界面或API使用公开可用的模型，很少或根本不需要定制。包括生成代码的现成解决方案（如GitHub、Copilot）或协助设计师生成和编辑图像的解决方案（如Adobe Firefly）。就工程和基础设施需求而言，这是最简单的方式，通常也是启动和运行最快的方式。这些模型本质上是商品，依赖于以提示（prompt）的方式向公共模型提供数据。

2、调整后使用——将模型与内部数据和系统集成，以生成更多定制结果。其中一个例子是通过将人工智能生成工具与客户关系管理（CRM）和财务系统相连接，将客户之前的销售记录和沟通历史纳入其中，从而支持销售交易的模型。另一个例子是利用公司内部文件和聊天历史对模型进行微调，使其成为客服团队的助手。对于希望扩展人工智能生成能力、开发更多专有能力或满足更高的安全性或合规性需求的公司而言，调整后使用的方式是更合适的。

在这种方式中，有两种将数据与生成式人工智能模型集成的常见方法。一种是 "将模型带到数据中"，即模型托管在企业的基础设施上，可以是企业内部的，也可以是云环境中的。例如，Cohere将基础模型部署在客户的云基础设施上，从而减少了数据传输的需要。另一种方法是 "将数据带入模型"，即企业可以汇集其数据，并在云基础设施上部署大型模型的副本。这两种方法都实现了对基础模型的访问的目标，在这两种方法之间做出选择将取决于企业的工作负载情况。

3、构建模型使用——构建基础模型，解决离散业务案例。建立基础模型既昂贵又复杂，需要海量数据、深厚的专业知识和强大的计算能力。这种方案需要一次性投入大量资金（数千万甚至数亿美元）来构建模型并对其进行训练。成本取决于多种因素，如训练基础设施、模型架构选择、模型参数数量、数据规模和专家资源。

每种方式都有技术负责人需要考虑的成本（见下图）。虽然随着时间的推移，诸如高效模型训练方法和图形处理器（GPU）计算成本降低等新发展正在推动成本下降，但构建模型使用的方式，其固有的复杂性意味着短期内很少有企业会采用它。取而代之的是，大多数企业将转而采用 "直接使用"（Taker）和 "调整后使用"（Shaper）的某种组合，前者用于快速获取商品化服务，后者用于在基础模型之上构建专有能力。

5、升级企业技术架构，以集成和管理生成式人工智能

企业将使用许多不同规模、复杂程度和能力的人工智能生成模型。为了产生价值，这些模型需要能够与企业的现有系统或应用程序协同工作。因此，为生成式人工智能构建一个单独的技术栈所带来的复杂性要大于它所能解决的问题。举例来说，我们可以看一下一个消费者向旅游公司的客户服务部门询问如何解决预订问题（见下图）。在与客户互动时，生成式人工智能模型需要访问多个应用程序和数据源。

对于之前提到的"直接使用"的方式而言，这种程度的协调并非必要。但是，对于那些希望扩大生成式人工智能优势，采用 "调整后使用"或 "构建模型使用"的方式应用人工智能的公司来说，首席信息官和首席技术官需要升级他们的技术架构。首要目标是将生成式人工智能模型集成到内部系统和企业应用程序中，并为各种数据源建立管道。最终，企业技术架构的成熟度将使其能够整合和扩展其生成式人工智能能力。

集成和协调框架（如LangChain和LlamaIndex）的最新进展大大减少了将不同的生成式人工智能模型与其他应用和数据源连接起来所需的工作量。一些集成模式也在不断涌现，包括使模型在响应用户查询时调用API的模式--例如，GPT-4可以调用函数，并提供来自外部数据集的上下文数据作为用户查询的一部分，这种技术被称为检索增强生成。技术负责人需要为其组织定义参考架构和标准集成模式（如标准API格式和参数，用于识别用户和调用API的模型）。

要有效整合生成式人工智能，需要将五个关键要素纳入技术架构（见下图）：

• 上下文管理和缓存，为模型提供来自企业数据源的相关信息。在正确的时间访问相关数据可使模型理解上下文并产生令人信服的输出结果。缓存可存储常见问题的处理结果，从而实现更快、更经济的响应。
• 规则管理，确保对企业数据资产的适当访问。这种控制可确保人力资源部门的人工智能生成模型（包括员工薪酬详情等）不会被企业的其他部门访问。
• 模型中心（Model hub），其中包含经过训练和批准的模型，可按需提供，并充当模型检查点、权重和参数的存储库。
• 提示词库，包含生成式人工智能模型的优化指令，包括模型更新时的提示版本。
• MLOps平台，包括升级的MLOps功能，以应对生成式人工智能模型的复杂性。例如，MLOps 管道需要包括测量特定任务性能的工具，如可以测量模型检索正确知识的工具。

在发展架构的过程中，首席信息官和首席技术官将需要驾驭快速增长的生成式人工智能提供商和工具生态系统。云计算服务商提供了大规模硬件和基础模型的访问权限，以及不断增加服务。同时，MLOps和模型中心供应商提供工具、技术和案例，以调试基础模型并将其部署到生产中，而其他公司则提供用户直接访问的应用程序，这些应用程序建立在基础模型之上，以执行特定任务。首席信息官和首席技术官需要评估如何组合和集成这些不同的能力，以部署和运行生成式人工智能模型。

6、开发数据架构，实现高质量数据的访问

企业能否从生成式人工智能模型中产生并扩大价值，包括降低成本、改善数据质量和保护知识，将取决于企业能否很好地利用自身数据。要创造这种优势，就必须建立一套数据架构，将人工智能生成模型与内部数据源连接起来，这些数据源可向模型提供上下文或帮助微调模型，以创建更具相关性的输出。

在这种情况下，首席信息官或首席技术官和首席数据官需要密切合作，以实现以下目标：

对数据进行分类和组织，以便生成人工智能模型使用。技术负责人需要开发一个全面的数据架构，其中包括结构化和非结构化数据源。这就需要制定标准和指引，以优化生成式人工智能使用的数据，例如，通过合成样本增加训练数据，以提高多样性和规模；将媒体类型转换为标准化数据格式；添加元数据，以提高可追溯性和数据质量；以及更新数据。

确保现有基础设施或云服务能够支持生成式人工智能应用所需的海量数据的存储和处理。

优先发展数据管道，将人工智能生成模型与提供 "上下文理解 "的相关数据源连接起来。最新的方法包括使用向量数据库来存储和检索嵌入，作为生成式人工智能模型的输入，以及上下文学习方法，例如 "小样本提示"，为模型提供良好答案的示例。

7、创建一个集中的、跨职能的AI生成平台团队

大多数科技企业都在向产品和平台运营模式迈进。首席信息官和首席技术官需要将生成式人工智能的能力整合到这种运营模式中，依托于现有的基础设施，帮助快速扩大生成式人工智能的应用范围。

第一步是建立一个生成式人工智能平台团队，其核心重点是开发和维护一个平台服务，在该服务中，经批准的生成式人工智能模型可按需配置，供产品和应用团队使用。该平台团队还定义了生成式人工智能模型与内部系统、企业应用程序和工具的集成协议，并开发和实施标准化的风险管理方法，如负责任的人工智能框架。

首席信息官和首席技术官需要确保平台团队的人员拥有正确的技能。该团队需要一名高级技术领导担任总经理。关键角色包括：软件工程师，负责将生成式人工智能模型集成到现有系统、应用程序和工具中；数据工程师，负责建立将模型连接到各种记录系统和数据源的管道；数据科学家，负责选择模型和设计提示；MLOps工程师，负责管理多个模型和不同模型版本的部署和监控；算法工程师，负责利用新数据源对模型进行微调；计算机安全专家，负责管理数据泄漏、访问控制、输出准确性和偏差等安全问题。平台团队的具体构成将取决于整个企业所服务的用例。在某些情况下，例如创建面向客户的聊天机器人，需要强大的产品管理和用户体验（UX）资源。

从现实情况来看，平台团队最初将需要在测试版开展工作，随着他们建立可重复使用的功能并了解哪些功能最有效，他们的工作范围将逐渐扩大。技术领导应与业务领导密切合作，评估哪些业务案例需要资源和支持。

8、根据岗位和技能掌握情况量身定制技能提升计划

生成式人工智能有可能大幅提高员工的工作效率并增强他们的能力。但是，不同角色和技能水平带来的益处并不平均，这就要求领导者重新思考如何培养员工所需的实际技能。

例如，我们最新的实证研究显示，使用生成式人工智能工具，帮助软件工程师将代码编写速度提高了35%至45%。熟练的软件开发人员的速度提高了50%至80%，而初级软件开发人员的速度则下降了7%至10%。这是因为生成式人工智能工具的输出要求工程师对代码进行评价、验证和改进，而缺乏经验的软件工程师很难做到这一点。相反，根据一项研究，在客户服务等技术含量较低的岗位上，生成式人工智能对低技能工人的帮助很大，生产率提高了14%，员工流失率也有所下降。

这些差异突出表明，技术领导者需要与首席人力资源官合作，重新思考他们的人才管理战略，以打造未来的员工队伍。招聘一批核心的顶级人工智能人才将非常重要，鉴于这些人才的稀缺性和战略重要性与日俱增，技术领导者应建立能够留住人才的机制，例如有竞争力的薪酬和参与企业重要战略工作的机会。

然而，技术负责人不能仅局限于招聘。因为几乎每一个现有的角色都会受到生成式人工智能的影响，所以重点应该是在清楚了解不同角色、熟练程度和业务目标需要哪些技能的基础上，对员工进行技能提升。让我们以软件开发人员为例。除了编写代码的能力之外，新人培训还需要重点加强他们进行代码审查的能力。

与编写和编辑的区别类似，代码审查也需要不同的技能。软件工程师需要了解好的代码是什么样的；审查生成式人工智能创建的代码的功能、复杂性、质量和可读性；寻找漏洞，同时确保不会在代码中引入质量或安全问题。此外，软件开发人员在编写代码时需要学会换位思考，更好地理解用户意图，从而创建提示并定义上下文数据，帮助人工智能生成工具提供更好的答案。

除了培养技术人才，首席信息官和首席技术官还可以在培养非技术人员的应用人工智能的技能方面发挥重要作用。除了了解如何在电子邮件生成和任务管理等基本任务中使用生成式人工智能工具外，整个企业的员工还需要能够自如地使用一系列功能来提高绩效和产出。首席信息官和首席技术官可以帮助调整内部培训的体系，以提供相应的培训和认证。

初级工程师的价值不断降低，这将加速从典型的人才金字塔结构（即最多的人处于初级水平）向更像钻石的结构（即大部分技术人员由经验丰富的人员组成）的转变。实际上，这意味着要尽快提高初级员工的技能，同时减少专门从事低复杂度手动任务（如编写单元测试）的岗位。

9、评估新的风险状况并建立持久的解决方案

生成式人工智能的出现带来了一系列新的道德问题和风险，包括 "幻觉"，即生成式人工智能模型根据最高概率的方式给出错误的回答；意外泄露机密的个人身份信息；模型使用的大型数据集的固有偏见；以及与知识产权（IP）相关的高度不确定性。首席信息官和首席技术官需要熟练掌握道德、人道主义和合规问题，不仅要遵守法律条文（因国家而异），还要本着负责任的精神管理企业声誉。

要应对这一新情况，需要对网络运行进行大量的审查，并更新软件开发流程，以便在模型开发开始之前评估风险并确定缓解措施，这样既能减少问题，又能确保流程不会放缓。

针对幻觉的行之有效的风险缓解措施包括：在模型生成响应时调整模型的创造性水平（称为 "温度"）；使用相关内部数据增强模型以提供更多上下文；使用对可生成的内容施加限制的库；使用“调节”模型检查输出；以及添加明确的免责声明。早期的生成式人工智能用例应侧重于较低错误成本的领域，以便企业能够克服不可避免的挫折并吸取经验教训。

为了保护数据隐私，关键是要建立和执行敏感数据标记协议，在不同领域（如人力资源补偿数据）建立数据访问控制，在数据被外部使用时增加额外保护，并包括隐私保护措施。

例如，为了降低访问控制风险，一些企业建立了策略管理层，一旦对模型发出提示，就按角色限制访问。为降低知识产权风险，首席信息官和首席技术官应坚持要求基础模型供应商维护所使用数据集的知识产权（数据来源、许可和所有权）的透明度。

生成式人工智能有望成为我们所见过的增长最快的技术类别之一。技术负责人在定义和制定生成式人工智能战略方面不要输在起跑线上。虽然该领域将继续快速发展，但这九项行动可以帮助首席信息官和首席技术官负责任地、有效地大规模利用生成式人工智能的力量。