AI架构系列 去其形而留其意

最近很多的咨询都在问我相反的疑问，如何将LLM集成到垂直畛域的业务场景。这里提到的场景当然这些场景不再是生成式运行，而是较为专业的畛域。我翻了一篇三月份的论文，以这篇论文来回答读者的疑问。其实就是要将LLM去其形，而留其意。

LLM的关键战场还是在于人造言语的了解。其一它的特点是大，其二它的内核为Transformer引擎，这种引擎能够在一切的输入中提取有用的关联消息。这些消息可以是人造言语识别，也可以是时序数据，也可以是基于时点的场景快照。其三，它具有必定的推理才干。

它的弱点就是它毕竟还是模型，依赖于数据，而每次接受新的数据，须要从新校对它的认知，这个的功耗还是很大，确实比不上人脑。外挂常识库也是一种方法，只不过和大家考试之前暂时抱佛脚一样，还是不可死记硬背。

了解了下面的内容之后，如何将事实场景和LLM联合，若不想自己构建自己的深度学习模型，那么如何依托现有开源的LLM，那些从一个例子入手：红绿灯。

大都市地域的交通拥挤带来了渺小的应战，交通讯号控制（TSC）系统在这项上班中至关关键。传统的TSC系统基于基于规定的算法或强化学习（RL）设计，在治理市区交通流量的复杂性和可变性方面经常体现出毛病，遭到对生疏场景的顺应才干的限度。

这篇论文的钻研提出一种思绪，将大型言语模型LLMs集成到TSC中，应用其先进的推理和决策才干。论文提出一种混合框架，LLMs该框架经过一套感知和决策工具启动增强，便于对静态和灵活交通消息的查问。这种设计将外部LLM交通数据与已建设的TSC方法相联合。钻研还触及了一套仿真系统证实该系统能够顺应多种交通环境，而无需额外的培训。外挂常识库RAG在这里交流为感知和决策工具，有点相似代理（Agent）意思。

a展现了传统的TSC系统，其决策是由解决环境输入的算法间接做出的。b形容了钻研的LA-Light框架，该框架驳回一个LLM来口头交通讯号控制的义务。在LA-Light中，首先LLM从增强的汇合当选用最关系的工具，包含感知工具和决策算法，以搜集和剖析交通数据。而后它评价消息，依据须要调整其工具选用，直到制订明白的交通控制决策。

直观一点界面如上。这篇论文的好处在于可以举一反三，从其中可以学习形象出读者所处各个畛域的场景运行框架。

首先先定义义务(Task)，而后定义环境(Enviroment)，这里很关键。在实践的业务场景中存在很多的时点数据。怎样了解时点数据，可以构想一下，每隔1s将期间暂停，那么就有了一个快照数据。如何定义这个场景快照须要架构师的智慧，尤其是关于业务的了解。上图每1s的交通图就是一个快照数据。

紧着这定义灵活目的数据<例照实时的交通数据，其余车辆数据，时点的拥挤目的体系>，这里触及到了实时数据仓库。还有就是整合一些横向的时点消息，包含潮汐车道，路线维度，引流等规定、战略和最新事情。当然也可以给它提供这个畛域的封装好的工具库，让其自行选用调用辅佐评价。

将下面的这些消息和数据依照必定的揭示模板启动拼接，而后构成Prompt丢给大模型，失掉结果。

很多读者会提问，这能否可行。其实是可行的，然而准确度一开局必需是不高的。不过这个环节最关键的是将时点数据启动及时的采集、存储和标注，无论是实时采集，还是高低文的横向数据，它们就是贵重的数据资产。FSD最弱小的还是在于它的路线数据和标注数据，由于这些数据可以用来训练，也可以用来仿真。未来数据到达必定的规模，读者可以思考自行微调大模型，或许间接构建仿真系统，毕竟八卡或许十六卡的顶流GPU还是能供得起的~

本文转载自​​，作者：​​