我要投稿

金融企业如何规划大语言模型应用战略？从企业大语言模型应用能力的四个维度和成熟度评价模型开始

发布日期：2024-10-01 21:12:38 浏览次数： 2017 作者：ThinkMachine

在当前金融行业的数字化转型变革中，大语言模型（LLMs）技术的引入和应用已成为推动业务创新和效率提升的关键动力。随着市场的快速变化，技术的迭代发展，金融服务企业如何利用大语言模型这样的新型人工智能技术，提高“业务运营能力“，是现今金融科技与人工智能战略决策者面临重要课题。要解决这个问题，我们需要先从如何观察和评价企业的大语言模型应用能力开始。

1、观察企业大语言模型应用能力的四个维度

我们尝试从四个维度观察金融服务企业大语言模型的应用能力，包括：基础设施，技术人才，专有数据，以及对业务的贡献和影响。

基础设施基础设施是指大语言模型相关硬件、软件以及网络设备等等，部分研究者也把foundation Model划归基础设施的一部分。LLMs类应用是算力密集型应用，高性能算力平台和基础模型的建设和运维已成为传统基础设施团队需要应对的新挑战。
技术人才人工智能应用、研发和运维岗位是智力密集型工作，这类人才可能需要配置到从底层基础设施团队、大模型训练与应用开发团队，甚至前端的业务团队当中。传统金融服务企业向基于人工智能技术的新型金融服务企业的转型过程中，技术人才的短缺，比算力资源的短缺更加严重。OpenAI拥有超过100名专业人工智能博士或同等能力的研究员，以及超过300个Data+AI专业工程师，业界传言OpenAI高级工程师的年薪中位数达到了90万美元。如何组建、配置并有效管理专业技术团队，并推动持续成长也是我们需要共同思考的问题。
专有数据数据是大语言模型技术栈的核心。特别在企业垂类应用场景中，采用基于预训练模型进行Fine-tuning这样的训练模式是通常的做法，这类模式生产的模型性能直接与训练数据的质量和数量强相关，没有质量好且数量足够的数据，即使使用超大参数规模的基础模型，也不可能训练出满足特定领域要求的专用大模型。
对业务的贡献大语言模型已被证明对很多业务领域都有明确、显著的价值贡献，例如在通用办公、软件开发、市场营销、客户服务、产品设计等任务中，都显著提升了生产力，并带来了更好的客户体验。但所有事情都有正反两方面的影响，大模型技术为企业带来业务收益的同时，也对传统的业务模式以及业务团队的能力要求都提出了新的挑战。

通过四个维度的分析和研究，我们可以多角度理解并评估企业在大语言模型应用领域的能力阶段，发现面临的挑战和机遇。金融企业在制定自己的大语言模型规划中，也必须平衡这四个维度，结合企业的现实状况和发展目标，制定出能快速利用大语言模型构建自身企业独特竞争优势的行动规划，才能在即将到来的竞争中获得胜利。

2、能力成熟度模型

基于上面四个维度的梳理，我们构建了一个四阶段金融服务企业大语言模型应用能力成熟度模型。

等级	阶段名称	典型应用案例	技术路径	基础设施	技术人才	专有数据	对现有业务流程的影响
1	启动 (Initiation)	提升通用任务场景的生产力，如编程助理、数据分析助理、办公文档助理等。	使用成熟的大语言模型及工具	最低	最少需求	不需要	最少或无需调整
2	发展 (Development)	帮助特定业务单元解决特定单一任务问题，比如初级客服助理、初级营销助理、初级风控助理等	利用提示词工程和知识库检索	适中	需要适量	适中需求	可能需要一定的业务流程调整
3	成长 (Growth)	提升企业大语言模型的性能和泛化能力，形成零售金融大语言模型，资管理财大语言模型，金融风控大语言模型等专业、复合应用	精调开源或商业大语言模型	较高	需要较多	需要较多	可能需要显著的业务流程调整
4	领先 (Leadership)	支持金融机构做大做强，推动全面基于人工智能技术的新型金融服务企业的建设，如：综合金融服务多模态大模型、金融监管多模态大模型、风险管控多模态大模型；	从零开始训练基础多模态模型	最高	大量需要	大量需要	需要全面的业务流程调整

四个阶段是以企业大语言模型应用的技术能力成长为主线设计的，从最简单、需求最小、满足通用场景要求开始，逐步演进到使用更复杂的技术、需要更多的资源投入，以及满足更广泛和更多样化的应用场景需求。

企业可以依据这样一个成熟度模型评估当前处于哪个阶段，以及下一步的发展计划，合理规划企业大语言模型的应用策略，通过逐步提升新型人工智能技术的应用能力，以业务实效推动业务创新，实现从跟随到领先的企业转型发展。

3、ThinkMachine的观点

大语言模型技术只是企业人工智能应用的一个部分，我们始终倡导“业务价值驱动、从简到繁”的技术应用路线，避免片面追逐新概念，不切实际使用复杂的技术，以及启动“拿着锤子找钉子”的项目建设，避免落入“新技术的陷阱”，技术需要始终与业务保持“对齐”。正如中银香港副董事长兼总裁孙煜在上周的香港金融科技周2023时的讲话所言：“金融科技应用并不单是「数字化转型」，而是「业务转型」，需要改变思维方式、重塑商业模式、重建人才储备和文化。”

市场环境在快速变化，大语言模型技术同样也在快速变化中。回望去年今日，人工智能的世界可以用翻天覆地形容亦不为过。相信未来会持续以更快的速度变化，唯有持续推动自身变革，跟上时代的脚步，才是这个时代的生存之道