分歧性 虚拟性和模拟性 多自动体大模型协作中的角色不分歧性

多自动体AI系统近年来在模拟群体决策和增强聊天机器人文明敏理性方面展现出渺小的后劲。这些系统经过模拟多种社会文明身份的AI代理，能够在迷信钻研和实践运行中提供贵重的洞察。例如内行为试验中，多自动体系统可以模拟人类群体互动，协助钻研人员了解群体决策的灵活。此外，在聊天机器人运行中，参与多样化的群体讨论步骤，可以使机器人的照应愈加细腻和文明敏感，优化用户体验。

但是，这些运行的成功依赖于AI代理能够牢靠地坚持其调配的角色和观念分歧性。假设AI代理在面对不赞同见时随便扭转立场或角色，这将大大削弱多自动体系统在模拟实在环球决策环节中的有效性。因此，钻研多自动体系统在跨国协作和答辩中的角色分歧性疑问显得尤为关键。

8 月 16 日宣布的论文《Persona Inconstancy in Multi-Agent LLM Collaboration:Conformity, Confabulation, and Impersonation》讨论多自动体系统在跨国协作和答辩中的角色分歧性疑问。钻研团队剖析了AI代理在模拟跨国协作和答辩时的体现，评价了其在坚持角色和观念分歧性方面的才干。经过剖析AI代理的公家回应和聊天记载，钻研团队宿愿提醒多自动体讨论如何允许更具多样性的群体决策，以及在什么状况下这些系统会遭到搭档压力和角色不分歧性的影响。

钻研由伊利诺伊大学厄巴纳-香槟分校的钻研团队成功，团队成员包含Razan Baltaji、Babak Hemmatian和Lav R. Varshney。伊利诺伊大学厄巴纳-香槟分校以其在工程和技术畛域的出色钻研而知名，贝克曼初级迷信与技术钻研所更是会聚了泛滥跨学科的顶尖钻研人员。钻研团队仰仗其在电气与计算机工程和初级迷信技术畛域的深沉背景，努力于探求多自动体系统在模拟复杂社会互动中的后劲，为AI技术的开展提供了关键的通常和通常允许。美国伊利诺伊大学系统因其高品质的教育和钻研优惠而在环球享有很高的声誉。特意是UIUC，它被誉为“公立常春藤”，在工程、计算机迷信等多个学科畛域都具备很强的实力。

多自动体协作框架

多自动体协作框架的灵感起源于人类团队协作。在人类团队中，成员经过沟通、协作和指导力共同成功复杂义务。相似地，多自动体协作框架应用多个言语模型实例在协作环境中成功复杂义务。这些框架旨在模拟人类团队的灵活和凝聚力，使AI代理能够在复杂义务中体现出相似人类的协作行为。

现有钻研曾经在多个畛域讨论了多自动体协作行为，特意是在数学推理、代码生成和知识推理等畛域。例如，Li等人（2023）观察到基于大言语模型（LLM）的代理之间出现了协作行为和初级心智通常才干。但是Xiong等人（2023）指出，多自动体协作中存在分歧性疑问，特意是在较弱的模型与较强的LLM互动时，代理容易在答辩中随便扭转立场。

此外，Zhang等人（2023）将代理置于思想形式齐全同质的群体中，并将结果与一个代理体现出不同思想形式的设置启动比拟。他们留意到，LLM代理在这些情境中偏差于发生相似人类的社会行为，例如由于感知到的搭档压力而从众。由不同特质组成的多自动体社会在体现上并没有清楚差异。

虽然现有钻研在数学推理等畛域取得了一些停顿，但在须要坚持观念分歧性的畛域（如政治）钻研较少。在这些畛域，观念和角色的分歧性关于实在模拟事实环球的决策环节至关关键。为了填补这一钻研空白，本钻研经常使用GlobalOpinionQA数据集，赋予AI代理不同的国度角色，启动跨国协作和答辩。经过测量意见多样性（熵），钻研团队剖析了代理的分歧性和从众行为。

试验设计

数据集和模型

钻研团队经常使用了GlobalOpinionQA数据集，这是一个跨国考查数据集，搜集了各国对环球疑问的多样化意见。该数据集为钻研多自动体系统在文明敏感畛域的体现提供了丰盛的素材。钻研团队驳回了OpenAI的GPT-3.5-turbo模型，这是一个先进的大言语模型，能够生成高品质的人造言语文本。经过赋予这些模型不同的国度角色，钻研团队模拟了跨国协作和答辩的场景。

图1：咱们答辩试验设置的说明：a）入职阶段，代理人被要求独立报告他们的意见，b）答辩阶段，代理人介入由聊天经理掌管的答辩，c）反思阶段，代理人依据之前的讨论独立报告他们。相似的设置用于协作。

试验设计分为三个关键阶段：初始阶段、讨论阶段和反思阶段。

初始阶段：在这一阶段，AI代理被批示驳回数据集中指定的国度角色，并独立回答一个疑问。代理的回答与人类考查的散布启动比拟，经常使用交叉熵损失来权衡其与分主角色的分歧性。那些回答不合乎分主角色的代理将被扫除在外。经过计算代理在初始阶段的意见多样性（熵），钻研团队权衡了群体内意见的多样性。

讨论阶段：在这一阶段，代理在一个由聊天治理器掌管的讨论中介入答辩或协作。聊天治理器选用代理回答疑问的顺序，讨论在任何代理恳求中断时完结。讨论完结后，聊天治理器总结讨论内容并报告群体的最终意见。

反思阶段：在这一阶段，代理再次被独自征询同一个疑问，以评价其在讨论后的意见变动。经过比拟初始阶段和反思阶段的回答，钻研团队剖析了代理在讨论中的分歧性和从众行为。

测量目的

为了权衡意见多样性和分歧性，钻研团队经常使用了熵这一目的。熵的计算公式为：

其中，P(o)示意在初始阶段代理回答中惟一意见o的相对频率，B是代理回答的汇合。经过计算不同熵级别的散布，钻研团队能够剖析群体内意见多样性对讨论结果的影响。

此外，钻研团队还关注了讨论动员者的影响力、代理在讨论中的意见变动以及人格不分歧性等方面的体现。这些测量目的协助钻研团队深化了解多自动体系统在跨国协作和答辩中的角色分歧性疑问。

结果

钻研发现，初始阶段的意见多样性对最终群体预测有清楚影响。详细而言，群体照应大抵遵照初始意见的散布，但在高多样性组中会生成新的照应。这标明，虽然初始意见多样性在必定水平上选择了讨论内容和群体决策，但高多样性组能够发生更多翻新性的观念。无论是答辩还是协作，初始意见多样性都会影响讨论结果，特意是在意见多样性较高的状况下，讨论更有或者生成新的、共同的照应。

从众行为

在讨论阶段，讨论动员者对最终决策有较大影响。但是这种影响会随着群体意见多样性的参与而减小。钻研发现，动员者在讨论中往往会依据对群体意见的先验认知扭转其表白的观念，这种不分歧性可归因于搭档压力。详细来说，动员者在讨论开局时的意见变动可以经过初始阶段群体意见的熵来预测。虽然动员者在答辩中比在协作中更少扭转意见，但他们依然容易遭到搭档压力的影响，特意是在群体意见多样性较高的状况下。

此外，许多代理在讨论后会回到原始意见，标明在讨论中的观念变动更多是从众行为而非实在的意见调整。这种现象相似于人类钻研中的从众行为，标明AI代理在面对少数意见时也会体现出相似人类的从众偏差。

人格不分歧性

钻研还发现了两种关键的人格不分歧性，这些不分歧性或者会对多自动体系统的复杂推理品质发生负面影响。

人格转换：代理在讨论中有时会驳回不同的人格，特意是在答辩中。经常使用便捷的启示式方法发现，代理在协作讨论中平均每200条信息中会有一次性人格转换。这种行为通常是对讨论中提到的未被代表的国籍的间接反响，标明聊天高低文对模型生成的影响大于角色提醒。答辩指令缩小了这种行为，使得人格转换的频率降落到0.018%。

虚拟性：另一种不分歧性是代理在反思阶段报告的意见与初始或讨论阶段的意见不分歧，相似于临床条件下的新内容虚拟。钻研发现，1.1%的反思阶段意见既不来自初始阶段，也不来自讨论阶段的任何代理。这种虚拟行为在协作条件下的出现率更高（1.64%）。

图2：群体预测跟踪了不同入职熵组在入职时期的意见散布，以启动答辩，同时也发生了新的想法，特意是在多样性最高的群体中。与协作相比，集团不太或者预测答辩概率更高的意见。

这些发现标明，虽然多自动体系统在模拟人类互动方面体现出必定的后劲，但在坚持角色和观念分歧性方面仍存在应战。未来的钻研须要进一步探求这些不分歧性的起源，并开发有效的方法来缩小这些不分歧性，以提高多自动体对话的牢靠性和运行价值。

讨论

钻研提醒了多自动体系统中复杂的互动灵活，特意是搭档影响和压力的作用。钻研发现，文明敏感的AI代理即使作为聊天动员者，也容易遭到搭档影响和压力。这标明，在多自动体系统中，代理的互动不只仅是便捷的意见替换，而是遭到群体灵活的深入影响。普通来说，讨论动员者在初始阶段的意见多样性（熵）对最终群体决策有清楚影响。随着群体意见多样性的参与，动员者的影响力减小，但他们依然容易在讨论中扭转观念以合乎少数意见。这种现象相似于人类钻研中的从众行为，标明AI代理在面对少数意见时也会体现出相似人类的从众偏差。

表1：答辩中的搭档压力和搭档影响：孤独的持不赞同见者（S=0.72）最有或者在反思后扭转自己的观念，以与群体反响坚持分歧。当他们保管入职职位时，他们在大概一半的时期里会在讨论中提出不同的观念。这两种形式都标明了搭档压力。在S=0.97熵类中，占主导位置的代理人相对更有或者坚持自己的观念，但在大概一半的时期里，他们依然会转换为反思的少数观念，这标明了搭档的影响。在较高熵的形态下（例如S=2.32），代理人最容易扭转他们的观念。在讨论时期表白的任何意见仿佛都会对反思阶段的心态变动发生影响，而不论观念之间的主导相关如何。

私下反思的作用

私下反思阶段在对消少数意见带来的压力方面施展了关键作用。钻研发现，许多代理在讨论后会回到原始意见，标明在讨论中的观念变动更多是从众行为而非实在的意见调整。经过在讨论后启动私下反思，可以协助代理从新评价其观念，缩小搭档压力的影响。这一发现与人类钻研中的从众试验结果相分歧，标明私下反思可以作为一种有效的机制，使多自动体系统的输入更能代表多样化的观念。

图3：动员人主导群体预测：与协作相比，动员人在答辩中对群体的反响G的影响较小。

人格和照应分歧性

钻研还强调了在多自动体系统中归入人格和照应分歧性权衡规范的关键性。钻研发现，代理在讨论中有时会驳回不同的人格，特意是在答辩中。这种人格转换行为通常是对讨论中提到的未被代表的国籍的间接反响，标明聊天高低文对模型生成的影响大于角色提醒。此外，代理在反思阶段报告的意见有时与初始或讨论阶段的意见不分歧，相似于记忆阻碍中的虚拟行为。

为了提高多自动体系统的牢靠性和运行价值，未来的钻研须要进一步探求这些不分歧性的起源，并开发有效的方法来缩小这些不分歧性。例如，可以经过改良提醒和基于代理的建模战略，增强代理在长时期对话中的角色坚持才干。此外，钻研还应关注如何在多自动体系统中更好地模拟人类的群体互动灵活，以成功更实在和牢靠的群体决策模拟。

图4：从入职到答辩开局，动员人意见的变动可以经过群体意见的入职熵来预测。虽然还没有观察到其余代理人的意见，但随着群体多样性的参与，动员人更有或者扭转他们的意见。答辩的动员者在答辩中扭转观念的频率低于在协作中，这突显了极速工程对诱导角色恒常性的关键性。

总结起来，钻研提醒了多自动体系统在模拟人类互动方面的后劲和应战。虽然这些系统在必定水平上能够模拟人类的从众行为和搭档压力，但在坚持角色和观念分歧性方面仍存在清楚应战。经过进一步钻研和改良，这些系统有望在基础和运行迷信畛域施展更大的作用。

论断

钻研人员经过剖析 AI 代理的公家回应和聊天记载，发现多自动体讨论能够允许更多反映多元视角的群体 AI 决策，但这种成果会遭到代理在讨论中关于同行压力的易理性和偶然出现的团体意见不分歧性的影响。在激励代理为自己的观念启动答辩而非协作的指令下，不分歧性的出现率会参与。钻研还发现，AI 代理在讨论中容易遭到搭档的影响，有时甚至会丢弃自己的身份，这些疑问会影响多自动体框架在发生更多文明多样性输入或更实在地模拟群体决策的后劲。钻研经常使用了 OpenAI 的 GPT-3.5-Turbo 模型和AutoGen框架，经过在讨论前后的独立回应中剖析不同熵水平下的意见多样性，以及在答辩和协作环境中的集体和群体行为。结果标明，即使在高熵形态下，AI 代理也或者由于其余代理提出的意见而扭转自己的观念，这与人类对搭档压力和影响的反响有所不同。此外，钻研还发现了两种稀有但高度破坏性的人格不分歧行为，即偶然的身份模拟和在讨论中提出与初始回应或讨论内容都不相符的意见，即使在答辩条件下，这种行为也会出现。钻研最终指出，为了提高多自动体系统在文明疑问上的推理才干，须要进一步钻研如何提高代理的人格分歧性。

钻研提醒了多自动体大言语模型（LLM）在跨国协作和答辩中的角色分歧性疑问。

意见多样性的影响：初始阶段的意见多样性清楚影响最终群体预测。高多样性组能够生成更多翻新性的观念，虽然初始意见多样性在必定水平上选择了讨论内容和群体决策。

从众行为：讨论动员者对最终决策有较大影响，但这种影响会随着群体意见多样性的参与而减小。许多代理在讨论后会回到原始意见，标明在讨论中的观念变动更多是从众行为而非实在的意见调整。

人格不分歧性：代理在讨论中有时会驳回不同的人格，特意是在答辩中。此外，代理在反思阶段报告的意见有时与初始或讨论阶段的意见不分歧，相似于记忆阻碍中的虚拟行为。

多自动体AI系统在模拟群体互动和增强聊天机器人文明敏理性方面具备宽泛的潜在运行。

模拟群体互动：在难以失掉人类数据或由于话题敏理性而不可启动人类试验的状况下（如行为试验、谈判或立法建模），多自动体系统可以模拟人类群体互动，协助钻研人员了解群体决策的灵活。

增强聊天机器人文明敏理性：在聊天机器人运行中，参与多样化的群体讨论步骤，可以使机器人的照应愈加细腻和文明敏感，优化用户体验。

未来钻研方向

为了提高多自动体对话的牢靠性，未来钻研应关注以下几个方向。

模拟人类群体互动灵活：钻研如何在多自动体系统中更好地模拟人类的群体互动灵活，以成功更实在和牢靠的群体决策模拟。

私下反思机制：进一步钻研私下反思机制在对消少数意见带来的压力方面的作用，探求如何在多自动体系统中有效运行这一机制。

经过这些钻研和改良，多自动体系统有望在基础和运行迷信畛域施展更大的作用，提供更具文明敏理性和多样化的AI处置打算。（END）

参考资料：