到 不赚钱的金融大模型 从 一盘棋 两张皮

作者丨千山

出品 | 技术栈（微信号：blog51cto）

大模型很时尚，但大模型不赚钱。

归根结底，大家有共识：一则看好大模型不等于立刻就要用上大模型，大模型的供需两端依然存在着难以跨越的鸿沟；二则即使大模型未来会成为产业改革的关键变量，但谁也不知道，大模型的运行何时会真正从非外围环节的试点进阶为外围业务场景的刚需。一切人都是摸着石头过河，没有先例可以自创。

因此呼喊者多，获益者少。张望者多，落地者少。

咱们知道，金融产业一向是新技术的早期驳回者，不只要着良好的数字化基础，而且很早就开局了在AI方面的探求，可以说是AI产业化的“优等生”。因此有人感觉金融是大模型落地的首选。但理想上，金融与大模型之间，“两张皮”的现象雷同缺乏为奇。

一、技术焦虑下，错位的诉求

往年3月，以彭博颁布BloombergGPT为标记，这个号称专为金融行业打造的500亿参数大言语模型，拉开了金融大模型混战的序幕。随后，国际不少金融机构、金融科技公司纷繁落子大模型：

有钻研数据显示，截止至往年9月，国际参数在10亿规模以上的大模型数量已有116个，其中金融行业大模型约18个。

别看金融大模型提供方你追我赶、一派繁华，但行业用户照旧坚持着相当慎重的态度。

依据恒生电子的考查，虽然金融行业全体对大模型的关注和介入志愿比拟高，但真正落地比例较少。在受访用户中，8%处在立项阶段，17%处在测试阶段，迄今为止约70%的金融机构对大模型仍处于调研阶段。

供求双方的“脱节”关键体如今：两者身处的语境不同，诉求错位。

当模型提供商在汇报自己的大模型参数规模，语料的丰盛性，tokens的大小，以及一堆评测结果时，行业用户对此往往兴味寥寥，他们更关注的是大模型究竟可以用在哪些中央，有没有成功先例，肯定要用大模型吗，小模型为什么无法以等疑问。

关于大局部大模型提供商来说，在这场竞逐中，现阶段能不能成为赢家还是无所谓，先拿到入场券才是至理。因此，咱们看到了五花八门的自研大模型或基于大模型打磨的产品与服务。简言之，先上牌桌，再论输赢。

关于金融组织来说，无论是头部机构还是生长型机构，在技术焦虑的驱动下，广泛对大模型接管良好，不过详细到实战还是存在诸多应战。

首先，“由谁主导”。金融机构笼罩了较多的企业类型，银行、保险、证券、基金等等，不同类型的机构需求也不同。以银行为例，掌握少量的私域数据，而且合规风控较为严厉，在此前提下启动大模型运行探求，肯定以自身为主导，而不是将被动权让渡给技术公司。比如，此前在交行颁布的2023年半年报中，就明白提出“制订生成式人工智能树立布局，组建GPT大模型专项钻研团队”。

其次，“如何选型”。关于金融机构来说，究竟是选用通用基础大模型还是行业大模型；是以私有化方式部署，还是调用API接口来失掉服务都是须要掂量利害的疑问。假设与第三方协作私有化部署大模型，那合规与数据安保相对有保证，但老本不菲；假设选用MaaS形式，经过API调用来取得大模型服务，老本将清楚降低，但相应危险也会随之优化。

再者，“如何预备”。大模型要训练，训练的语料从哪里来，假设用自己的，能否做好预备，假设用他人训练好的，又该如何应答不同场景的“质”和“量”的要求；数据方面，尤其是私有数据如何部署，才干满足合规性；算力方面，须要多少算力撑持，算力弛缓怎样办；估算方面，要投入价格。这些都是须要做到心中有本账的中央。

最后，“如何运营”。大模型的运行要发生实效是无法能欲速不达的，上线仅是第一步。如何让场景驱动上方的垂直运行开发不时优化成熟度，切施行展效劳优化作用；如何让私有数据、私有数据，以及海量实时数据构成数据闭环，乃至进一步构成数据飞轮都是相关到大模型继续开展的关键疑问。

恒生电子董事长刘曙峰示意，在大模型实践落地环节中关键存在模型选用难、算力供应无余、运行成熟度无余等疑问。他谈到，在肯定的角度来看，大模型的运行不只仅是技术才干的疑问。常年开展来看，大家的技术才干或许会趋同，此时关键的是运行新技术的速度、新技术场景的树立和客户运营才干的树立。

新技术的率先运行确实可以带来红利，但这种红利是树立在场景之下，业务实际带来增长的基础之上的。目前来看，由于供需双方都还处于探索阶段，生存在两套话语体系之中，金融行业的大模型落地还远远未走到这一步。

二、笼中的行业，幻觉里的大模型

金融与大模型的“两张皮”现象不只存在于供求双方之间，还存在于行业需求与大模型自身的才干之间。

通常上讲，大模型可以在金融行业找到很多不同的运行场景，比如智能客服、投研投顾、信贷风控、智能营销等等，但找到场景，隔靴搔痒，试点成功，能否就能规模化推行，而后彻底腾飞呢？并没有那么便捷。

一方面，金融业在数据控制、行业监管、信息安保方面有其行业不凡性。

以银行为例。农行安徽分行副行长徐伟对记者谈到，在通常中银行运行AI大模型或许会遇到以下应战：

1.数据品质疑问：大模型须要少量的高品质数据启动训练。目前银行大模型所要用到的数据在品质、分歧性、完整性、准确性方面还有待进一步优化，这会影响模型的学习和性能。

2.行业合规性和监管疑问：银行业须要遵守各种法律合规性和监管要求。在经常使用大模型启动风控、投研等义务时，须要确保模型的算法透明、可解释，能够被审计和追溯，同时合乎相关法律法规要求。

3.用户隐衷和安保疑问：银行触及少量的用户信息和买卖数据，在经常使用AI大模型启动客户服务、风控等义务时，须要包全用户隐衷和数据安保，防止信息暴露和数据滥用。

4.算力需求疑问。大模型对算力要求高，各个运行的训练、推理须要少量资源和算力，目前无法撑持全场景经常使用。

在徐伟看来，正是基于以上疑问，“现阶段大模型较为适宜在对外敷务、辅佐撑持、内容生成等场景试点，而在监管相关、准确性敏感型场景、数据敏感型场景、间接面客场景的经常使用是受限的”。

另一方面，正是由于金融行业对准确性和可控性的要求极高，现行大模型的训练机制下，难以齐全消解的幻觉疑问成为了大模型运行落地环节中的严重阻碍。

大模型有时会生成错误且具备误导性的结果——通常被称为“幻觉'。随着AI模型的完善和学习，这些错误在某种水平上是预料之中的，甚至在某种水平上可以被视作是其发明性的衍生品。但在精度不容斗争的金融畛域，其影响是严重的。因此，现阶段大模型才干无余以介入到关键业务流程的决策，即使是在非外围业务场景的运行也须要联合人工查看。

九章云极DataCanvas副总裁于建岗对记者示意：大模型的训练机制其实很难齐全消弭幻觉疑问，只能用各种方法来缓解，甚至于用其余的方式（模型或许rule）来前期消弭，所以目前很多的运行更多地是把大模型作为copilot来提供。不过关于未来，他照旧坚持失望态度。

“大模型是新事物，自身也须要一个开展提高的环节。随着大模型技术的开展，置信在训练方式甚至于transformer上都会有反派性的变动。另外，咱们不时以为未来应该是‘大模型+小模型’的时代，就是说大模型能够在布局和逻辑推理方面提供很强的才干，关于一些须要精准结果和预测的运行依然可以用小模型来提供， 这样相联合的方式能够在肯定水平上处置的疑问。”

三、场景之下，通往未来的两枚拼图

纵然大模型在金融行业的落地充溢了应战，然而无法否定，金融业在AI运行的积攒上是有后天长处的。基于机器学习的风控、营销、投研决策，早已是金融机构推动数智化转型的关键组成局部。

相比传统AI，基于大模型的AI让大家看到了一种通用型的AI才干的赋能，即能够以类人的思想来处置很多复杂的推理、逻辑、布局、义务口头的才干。大模型也确实能提供很好的增益。其学习才干、了解才干、内容生成才干、预测才干都在为金融畛域开启一扇新大门：在海量数据场景下为金融机构提供更片面、更深化的市场洞察、剖析预测，更复杂的危险控制、客户服务。

，越来越多的金融机构情愿尝试将其运行在特定的业务场景中，其中智能客服是被广泛看好的畛域之一。比如，美国互联网保险公司Lemonade推出了基于GPT-3技术面向用户的开售机器人玛雅（AI.MAYA）。

传统的智能客服机器人对用户来说并不生疏。但由于智能化水平有限，经常会出现面对复杂疑问无能为力或答非所问的状况。在此背景下，大模型技术的出现为智能客服的进阶带来了宿愿。

附丽海量参数，大模型有更好的人造言语了解和内容生成才干，联合人类反应强化学习，可以成功更拟人、更安保、更高品质的义务反应。加之更弱小的学习才干，可以更好地泛化到未见过的数据上，在面对新疑问时能够更好地顺应和处置。

另外，投研投顾也是抢手场景之一。有来自券商的外部人士示意，他们对大模型在投顾场景的运行很感兴味。以往AI投顾机器人的回答比拟僵硬刻板，假设大模型可以在合规准确的前提下更贴近用户需求，那无疑将让投顾服务体验更上一层楼。

近日，蚂蚁团体颁布的支小宝2.0和支小助两款大模型落地产品雷同聚焦在客服及投研畛域——前者面向投资者，可以提供行情剖析、持仓诊断、资产性能和投教陪伴等专业服务；后者为从业人员在投研剖析、信息提取、专业创作、商机洞察、金融工具经常使用等环节提供服务。

据官网引见，支小宝2.0的金融用认识别准确率到达95%，能够了解用户心情，被动启动多回合的高品质对话，甚至因人而异调整沟通格调。回答用户提问后，还会智能“反思”准确度、自我纠偏。

假设说大模型为金融业描述的“未来已来”画卷是恢弘而奥秘的，那么智能客服和投研投顾两大场景就像这幅卷轴里最明晰的两枚拼图，为咱们稍稍勾画出了解码未来的一点轮廓。

金融大模型曾经在一般业务场景体现出了不错的后劲，一方面优化原有AI性能，变得更通用、弱小、高效；另一方面，提供新性能，为降本增效、改善用户体验提供更宽广的构想空间。未来，要让它施展更大价值，仍需让运行场景从零星试点走向规模化运行，让AI原生运行从非外围场景走向关键业务场景，彼时，大模型才干迎来真正腾飞的高光时辰。

四、乾坤未分，笑到最后者笑得最好

“这是一个最好的时代，也是一个最坏的时代。”

在这个不确定性成为常态的时代里，大模型的兴起让一切人措手不迭，有人兴奋，有人质疑。向来不吝于尝试新技术的金融行业也被裹挟其中，一路向前。

这是一场技术实力的竞赛，也是一场商业生态位的竞赛。

技术上，从新定义人机交互方式和专业运行程序，在大模型基础上启动AI原生运行的开发；业务上，推动大模型落地，掌握其关于业务外形和逻辑范式的改造，实质性改善用户体验，成成效率质的飞跃；生态上，预感既有的基础设备以及控制体系的推翻，在大模型生态中构成从上到下的才干，在技术趋同之际打造自身的护城河。

大模型时代，乾坤未分，玩家泛滥，前方兴许群星绚烂，兴许一枝独秀。但能锋芒毕露的，肯定是敢为人先的冒险家，也肯定是常年主义的践行者。