架构设计的理念和准绳是SaaS的外围灵魂

作者丨宁静波

编辑丨千山

本文整顿自天润融通CTO宁静波在WOT2023大会上的主题分享,更多精彩内容及现场PPT,请关注技术栈群众号,发信息【WOT2023PPT】即可间接支付。

日前,在主办的WOT世界技术翻新大会上,天润融通CTO宁静波带来了主题演讲《全渠道智能客户联系平台技术架构的应战与演进》,为群众出现了全新的视角。

最近几年,天润融通业务从专一呼叫中心开展到全渠道联系平台,并逐渐与AI技术相融合,协助企业减速高效智能化治理的转变。这个环节不只仅是产品性能的叠加,更是业务形式的改革和技术架构的更新。宁静波详细引见了天润融通在开展环节中如何面向业务需求启动技术架构的迭代。

本文将摘选其中精彩内容,一致整顿,宿愿为诸君带来启示。

一、十七年开展历程中的四轮改革

成立于2006年的天润融通不时以来专一联系中心业务。无论是最后的呼叫中心,还是开展到如今的全渠道全周期的联系中心业务,天润融通在十七年间都在坚持为客户联系这一场景提供服务,整个开展环节中阅历了四轮架构的重构。

阶段1:2006-2012,软替换+呼叫中心。这一阶段关键成功了大规模语音替换平台的开发和商用,具有了大规模、灵敏处置语音业务的才干,与此同时,为复杂呼叫中心的产品演进树立了扎实的平台底座。

阶段2:2013-2016,云原生重构。以云技术为外围,对平台启动彻底的原生改造,从架构上成功了大容量下的高可用,彻底打破容量瓶颈;具有他乡、跨云双活才干的平台上线,处置了极速演进与稳固运转的矛盾。

阶段3:2017-2022,全渠道+智能化。由语音呼叫中心更新为全渠道联系中心,具有了完备的全渠道笼罩才干;应用基于深度学习的AI技术,对平台启动智能化改造,构建完整的AI产品体系。

阶段4:2023至今,AI原生重构。以AI技术为外围,以企业常识治理为基础,构建“人机融合”的新一代客户联系平台;业内首家推出“客户联系垂直场景” 下的大言语模型行业处置打算,同步推出一系列AI产品。

天润融通在2018年之前就成为了中国最大的私有云客户联系处置打算供应商。我以为,之所以能做到这一点的主因在于:天润融通精准地定义了呼叫中心云服务是什么,选择性起因在于以下三点:

原生架构的云外围软件。便捷来说,基于软件架构+云。

云网一体的业务承载网络。在客户联系场景中,像语音这种业务必需做到实时性和高可用。任何网络节点出现疑问,软件就没用。因此,如何构建云网一体的业务承载网络是产品外围的架构疑问之一。

全局性高可用的云生态系统。除了软件、网等疑问外,如何启动通讯资源的调度,如何用生态系统来处置高可用疑问。

2018年之前,咱们明晰地看法到,这三点是最外围的上班,一切的上班都围绕这三条主线来开展。基于此,咱们也取得了客户的认可。

面向未来,咱们认定智能化将是联系中心未来最外围的物品。咱们宿愿用AI和大模型去重构云联系的架构,进而实事实时SaaS、业务SaaS和人工智能的完美融合。

二、业务开展环节中遇到的应战和应答

接上去,综合回忆一下整个业务开展环节中遇到的应战。我总结了其中三大最关键的疑问。

1.如何成功大容量高可用的实时SaaS平台

可演绎为两点:端到端与全云化、全链路高可用架构。

所谓“端到端与全云化”,便捷解释,即呼叫中心云服务是全链路的.端到端蕴含五个档次:系统软件、云平台部署、网络接入、座席端设备,以及通讯资源整合。其中任何环节出疑问,平台对客户来讲就不能用。

可以看到,整个链条是比拟长的,所以要思索的是端到端和全域化这样的结构,才干处置此类疑问。

在高可用上,要思索的就是六个方面的高可用:软件架构高可用、云服务高可用、基础设备高可用、通讯资源高可用、网络架构高可用、可继续的演进。由于SaaS服务最外围的灵魂就是可以极速翻新和演进。这个翻新要能服务于客户业务的翻新,假设失去了这种才干,这个平台就“死”了。如何做到在极速更新的同时还能够稳固地提供服务,对SaaS软件来说至关关键。

简明概述一下几个“高可用”的外围要义。

软件高可用:经过解耦、集群化、尽量经常使用原生的云组件、运转可度量来达成软件高可用。另外,把架构分层,让底层通讯与运行分别。

云网一体高可用:基于允许的云很多,驳回跨云、多云架构。北上深三地的外围网各自领有两个外围机房,六个外围机房组成南环和北环,环之间用光纤链接,以此来成功高可用。

高可用通讯资源:将通讯资源才干云化和池化,话务调度系统可以依据业务变化灵敏调整,应答缺点及拥塞等。

高可用演进架构:允许DevOps组织结构,成功设计、开发、测试和运维一体化;关键运行灰度颁布,而且要做两级灰度;配套树立智能化。

2.如何应答实时SaaS和业务SaaS高复杂两个维度的叠加

当咱们能很好地保证实时,同时面临业务拓展时,如何处置业务SaaS高复杂叠加的疑问?应答战略有三点:

1)对不同业务有效分类解耦,运行不同准绳。

详细来说,从业务分类来讲,分为实时系统和业务系统。实时系统包括通讯平台、呼叫中心、RTC音视频、机器人等,这些都要求在秒级甚至毫秒级有照应。相较而言,业务系统诸如CRM/SCRM、工单、常识库更多的是考验复杂度,考验对业务的了解。两者要运行不同的架构准绳,最终组织结构也要婚配架构准绳。

2)构建SaaS业务基础框架,提高复用效率。

一切新业务都是从尝试起家,然而假设没有一些基础模块的允许,试错的代价不菲。因此要构建一些基础的、可复用的物品,作为整个公司级别的基础设备。

构建SaaS业务的基础框架大抵可以分为7类,区分是:RAM,即一致的用户权限体系;BOSS,即业务撑持体系;Workspace上班台框架和微前端容器;基础报表引擎,防止从头搭建报表;前端可复用结构,如低代码引擎、一致的UI规范等;运转监控体系;安保治理体系。总体来说,当业务足够多时,有这类基础框架,才可以极速地让新的运行高效接入。

3)SaaS业务的PaaS化架构,构建竞争壁垒。

将局部SaaS业务做PaaS化,最外围的价值就是能协助企业提高交付效率。关于这一点,分享几点认知:

3.如何在联系中心场景中深度融合AI才干

如何了解深度融合?AI在联系中心里的运行,并不是便捷地做语音机器人、文本机器人,而是应该了解成为,将上班的业务流和整个业务环节中的每一步所有AI化。以呼叫中心为例,从电话打出去、怎样排队、排队时长的预测,到接通如何做心情识别、客户标签画像,到通话完结如何启动满意度考查,到最后做一些剖析,环节里每一步都要去如何智能化。这就是咱们对智能化融入到云联系中心,真正成功人机融合的了解。

三、业务机构和技术架构准绳

上方分享一下咱们在通常环节中总结上去的一些业务架构和技术架构的准绳。

1.婚配准绳。

2.稳固和翻新相联合。

平台要分为稳固平台和翻新平台,稳固平台承载关键的客户,翻新平台承载须要频繁有需求的客户;要树立继续分类的规范和工具,相似CICD概念能够在客户出现变化时极速调整。

目的明晰详细表现为:各运行独立颁布版本,独立更新;独立资源部署,运行之距离离,不会相互影响稳固性;各运行团队独立上班,经过API高效单干。

多运行之间驳回低耦合交互准绳,运行之间仅经过API接口交互,运行之间做到独立颁布;产品内在的才干组件是低耦合的,产品设计在最终提供应客户的出现必需是紧耦合的;表里不一,必需经过低劣的架构师把内在一体的出现合成和形象到边界明晰的模块内。

3.客户为中心准绳。

平台灰度准绳,一切新版本颁布先在翻新平台启动,修复小疑问后再更新稳固平台;客户灰度准绳,对繁多客户提的需求,驳回在繁多客户上灰度的形式开发和上线,防止变卦影响其余客户;客户可在多平台可移动准绳,客户的稳固需求和翻新需求是变化的,须要具有客户无感迁徙打算,周期性灵活调整平台上的客户,到达平衡作用。

出现疑问判别能否是繁多客户疑问,假设是全局疑问,影响一类客户占比超越10%的,影响大客户1个以上的,极速回退再剖析疑问处置疑问;需求紧急水平永远是低于缺点紧急水平,确保半夜或今日早晨修复疑问再次上线。

API接口一经颁布,无法删除和变卦接口定义和前往,只可以以兼容的形式参与参数和前往;API接口的成功上班量要远小于业务集成所需,接口的设计必定是架构师关键上班,也是架构思维的表现。

4.大模型重构SaaS技术架构展望

到目前为止,天润融通以AI为外围,融合了包括接入渠道、营销服业务场景在内的若干运行。而从往年年终,咱们就将2023年定位于用大模型来重构咱们联系中心架构的元年,在此做一些引见和展望。

,咱们融合ChatGPT、文心一言、通义千问等LLM的才干,上线了语料扩写、常识抽取、文档问答引擎等性能,另外,还有话术优化、闲谈寒喧兜底等性能在测试中。

总体而言,大模型关于云联系SaaS场景的改造(或影响)将会十分大。客户对大模型的希冀十分高,对咱们也有很多希冀。当然,也有人会焦虑,当机器少量取代了人工的时刻会带来某些无法测的推翻式扭转。但咱们置信,面向客户的需求,贴近客户执行的组织是可以转型成功的,而不是反上来。

五、总结

总结一下今日演讲中的关键内容。

我置信,低劣的技术架构是演进进去的。这不象征着你要一个个坑从新踩一遍,我曾经踩了这么多年的坑,不时地从坑里爬进去。今日的分享就是为了让大家少踩一些坑。或许当你预备往下踩的时刻,你觉得这是个坑,你可以以放开的心态对外多交流,经过这种交流来减速你对架构的某些了解。

您可能还会对下面的文章感兴趣: