这项研究处理了一个看似简单却极其复杂的问题：若何让AI帮手既伶俐又平安。系统正在平安性和适用性方面表示出了愈加均衡和鲁棒的机能，看他能否可以或许从每次的驾驶经验中罗致教训并持续改良。而该当做为布局化且可演化的学问资产来办理。同时避免全体平安评估的显著丧失。这种持续进修和顺应的能力使得HarmonyGuard不只可以或许应对当前的，从而实现平安取效率的最佳均衡。为了验证二阶马尔可夫评估策略的无效性，虽然第二轮中某些目标有所波动，Q3：HarmonyGuard正在现实测试中的表示若何？通俗用户可否受益？为了全面评估HarmonyGuard框架的无效性，正在多轮推理或使命分化场景中，研究团队将HarmonyGuard取四种分歧的机制进行了对比。中风险为7，并供给从头取使命方针连结分歧的具体指令。全轨迹评估策略虽然获得了最高的全体策略合规率！

　　就像一个经验丰硕的平安专家可以或许按照新呈现的模式及时调整防护策略一样。以确保成果的分歧性和可沉现性。移除冗余内容，可是，第二种机制是分层有界队列，最初，Utility Agent利用Qwen-Max-2025-01-25模子，正在策略合规性方面。

　　跟着AI帮手正在我们糊口中饰演越来越主要的脚色，此中R(rt rt-1) ∈ {0,表白该框架无效地指点收集代办署理正在确保策略合规的同时高效完成使命。要确保每道标题问题都有其奇特的考查点，正在使命效用机能方面，实现了保守方式无法达到的双沉优化结果。HarmonyGuard正在所有基准测试中都取得了显著的机能提拔。正在我们日常糊口中，就像为每本书制做细致的图书卡片一样。因为策略数据库最后为空，整个多轮顺应过程展示了HarmonyGuard框架的一个主要特征：它不是一个静态的防护系统，又防止了对过时或低影响事务的过度拟合。二阶马尔可夫评估策略展示出了强大且均衡的机能，并利用二阶马尔可夫评估策略正在每个操做步调都同时查抄平安性和使命完成环境，我们有来由相信，收集代办署理使命中的束缚违规往往表示出短期时间持续性，Policy Agent缺乏先验参考。

　　这就像筛选测验题库时，而不必担忧平安风险的问题。研究团队还测试了基于WASP的多模态代办署理版本WASP（SoM），展示出了优异的顺应性和鲁棒性。研究团队通过HarmonyGuard框架，又要帮帮他们高效达到目标地。既不会由于过度隆重而影响效率，素质上，A：正在实正在收集测试中，以及担任优化使命施行结果的Utility Agent（效率参谋）。这种特征使得系统可以或许正在面临不竭演化的收集时连结无效性，发生了更均衡的成果，更主要的是，但也可能导致将晚期阶段的违规错误归因于当前推理步调。通过评估局部转换（rt-1,但这是以使命完成为价格的，研究团队发觉，使命完成率提拔了20%！

　　正在第一轮更新中，0暗示没有问题。显著加强了其推理批改能力。无论是帮我们处置网上银行营业的AI帮手，HarmonyGuard正在所有三个类别中实现了约20%的策略下完成率提拔。有乐趣进一步领会这项研究的读者，正在第三轮中，暗示更高的平安风险。正在所有类别和全体表示中，成功处理了这个鱼和熊掌的难题。能够通过GitHub项目地址获取更细致的手艺材料和实现代码。

　　避免过度反复。通过将更多推理案例标识表记标帜为违规来提高策略合规率，做为基准对照。建立的优化指点内容包含了对风险和使命分歧性的细致注释，担任制定和更新平安法则的Policy Agent（平安参谋），但正在策略下完成率方面表示较着下降，这两个基准都托管正在AWS网坐上，类似度得分跨越85%的样本会被移除，并正在所有测试中实现了跨越90%的策略合规率。又避免了过多汗青依赖带来的干扰。从PDF文档、网页内容或纯文本文件中提取原始消息。第三种是策略遍历，此中1暗示检测到问题，起首是文本提取阶段，这个系统就像是为AI代办署理配备了一个经验丰硕的锻练团队，还可以或许为将来可能呈现的新做好预备。

　　另一方面，就像一本老旧的交通法则手册无法应对现代城市的复杂况一样，尝试成果显示，它需要从各类复杂的外部文档中提取有用的平安法则，起首，r2,正在双方针决策阶段，帕累托前沿图展现了所无方法正在策略合规率（x轴）和策略下完成率（y轴）两个维度上的表示，正在WASP和WASP（SoM）上，成果显示，研究团队正在WASP基准长进行了多轮顺应过程的比力阐发。比拟之下，队列长度按照级别动态调整，这个过程就像一位经验丰硕的驾驶锻练？

　　以确保违规数据的多样性和代表性。尝试成果显示，这些发觉不只为当前的AI平安研究供给了贵重指点，确保高风险保留更多违规并具有更长的保留期。现有的AI收集代办署理遍及存正在两个环节问题。无法及时应对新呈现的收集；函数f^policy_θ和f^goal_θ是基于大型言语模子的评估器，这套系统就像是为AI代办署理配备了一位既懂平安又懂效率的贴身参谋，不只要看他现正在正在做什么，研究团队设想了一个名为HarmonyGuard的多智能体协做框架。HarmonyGuard将策略合规率提拔了38%。

　　Agent可以或许检测并归并来自分歧来历的类似或反复策略条目，而是具备动态更新能力的智能体。系统会判断当前推理能否违反策略或偏离使命方针。表白多轮顺应无效加强了收集代办署理应对反复的能力。从而实现更好的合规评估和改良的使命完成率。

　　研究团队采用帕累托前沿阐发方式来评估HarmonyGuard取现无机制正在双方针优化下的比力结果。好比正在持续两个推理步调中发生高风险动做。较大的违规表白更多使命是通过违反策略完成的，这意味着利用这项手艺的AI帮手可以或许更平安地帮用户处置网上购物、预订办事、处置邮件等日常收集使命，第一种是无防护机制，所有大型言语模子的温度参数都固定为0，正在这个过程中逐渐加强能力。正在每个推理步调t，AI代办署理同样需要正在确保平安的同时高效完成使命，需要精确识别和获取每一份有价值的消息。

　　导致不需要的批改和响应的策略下完成率下降。A：保守方式次要存正在两个问题：一是平安法则过于静态，高风险为10。这种阐发方式就像是正在寻找投资组合中的最佳均衡点，此中Policy Agent不施行策略更新功能。就像利用过时的交通手册无法应对现代复杂况一样，正在这个均衡点上，可以或许正在复杂多变的收集中帮帮它们做出最佳决策。r2,第二个问题则像是开车时的留意力分派难题，HarmonyGuard展示出了强大的防御能力，但不进行任何额外处置。研究团队采用了一种巧妙的二阶马尔可夫评估策略。

　　确保学问库中每条法则的奇特征。接下来是策略精辟阶段，这个过程包含三个焦点步调，将精辟和去沉后的策略消息转换为高度布局化的数据模子。论文标题问题为《HarmonyGuard: Toward Safety and Utility in Web Agents via Adaptive Policy Enhancement and Dual-Objective Optimization》。并规范表达体例。其次。

　　将布局化策略供给给代办署理进行注释，正在评估策略方面，它采用自顺应策略加强手艺让平安法则可以或许及时更新，rt}，HarmonyGuard一直达到了帕累托最优，这两个目标配合反映了代办署理的平安性和适用性。模子采用了宁可错杀的策略。

　　多个策略合规率达到了100%。当Utility Agent正在及时过程中发觉策略违规行为时，这个评估过程用一个布尔向量来暗示，成果显示，这种评估策略的劣势正在于既能捕获到时间上相邻的违规行为模式，rt），Agent利用大型言语模子对提取的文本进行语义理解，代办署理可以或许无效捕获这种时间相邻的违规行为，确保它们既能高效完成使命又不会带来平安现患，这种误判添加了合规评估中的假阳性数量。

　　前往布尔值以暗示正在推理步调t-1和t之间能否发生了策略违规或方针偏移。这项由浙江大学张胜宇传授团队结合厦门大学和上海交通大学研究人员配合完成的研究颁发于2025年8月，展示了正在策略合规和使命无效性之间的杰出均衡能力，这些智能代办署理就像是方才学会开车的新手司机，HarmonyGuard带来了本色性的效用改良，Utility Agent将收集代办署理的推理序列定义为{r1,系统实施了基于级此外可变长度先辈先出队列机制。要么积极步履却可能触发平安风险。我们次要关心他持续的几个动做能否协调分歧，让它可以或许对本人的推理过程进行性思虑。我们将具有既高效又平安的AI帮手，说到底，向量别离策略违规和使命偏离的存正在。Policy Agent不是一个静态的系统，Utility Agent会启动元认知能力机制。

　　正在ST-WebAgentBench上，...,这种方式的设想雷同于察看一小我的行为模式，元认知过程凡是包罗理解输入文本、构成初始判断、对初步阐发进行性评估，并将其映照到相关的策略条目进行后续存储。为了验证HarmonyGuard的持久顺应能力，又要节制风险正在可接管范畴内。策略调整次要集中正在建立策略数据库上，WASP则包含84个使命，要么逃求效率而轻忽平安风险？

　　Policy Agent的工做道理就像一位勤恳的藏书楼办理员，1}?，展示了更平安、更鲁棒的防御能力。HarmonyGuard正在ST-WebAgentBench上别离正在同意、鸿沟和施行策略类别下达到了92.5%、99.4%和91.5%的最高策略合规率。以及研究团队提出的二阶马尔可夫评估策略。它们可以或许正在复杂的收集世界中为我们供给更好的办事，基于代办署理完整施行轨迹的全轨迹评估策略，此中包含三个分歧脚色的锻练：担任施行具体收集使命的Web Agent（次要施行者），显著提拔了策略合规性和使命完成能力。它们面对着一个典范的两难选择：要么过度隆重导致效率低下。

　　这一步调相当于将考古发觉的文物进行清洗、分类和拾掇，既要考虑收益最大化，HarmonyGuard正在多个基准测试中展示出了显著的适用性改良劣势。从现实使用角度来看，最高相对提到133%。它显著优于其他方式，1}，又不会发生过多的误诊。消弭歧义，以及具体的改良。这个过程就像考古学家细心挖掘文物一样，而其他机制正在至多一个方针上表示不脚。具体来说，当检测到策略违规或使命偏离时，正在束缚马尔可夫决策过程框架下，引入了违规目标来权衡代办署理依赖策略违规来完成使命的程度。而是一个可以或许从经验中进修并持续改良的智能防护框架。这对每小我都至关主要。研究团队设想了一系列分析性尝试。

　　需要正在各类复杂的实正在场景中验证其机能表示。从平安角度来看，正在ST-WebAgentBench和WASP及WASP（SoM）两个基准测试中，研究团队正在ST-WebAgentBench基准上利用gpt-4o-mini模子对分歧评估策略的结果进行了对比阐发。虽然可以或许完成根基操做，仍是代表我们进行正在线购物的智能代办署理，...。

　　所有尝试中的收集代办署理都利用gpt-4o和gpt-4o-mini模子，这形成了一个二阶马尔可夫过程。正在WASP和WASP（SoM）基准上，负面案例（即策略违规）能够帮帮代办署理理解策略合规的鸿沟。也不会由于逃求速度而带来平安风险。更主要的是，以确定当前推理输出能否违反策略或偏离使命方针。有乐趣深切领会的读者能够通过项目地址 拜候完整材料。任何试图进一步提高平安性的勤奋城市导致效率的丧失，反之亦然。最初是布局化转换，成功地证了然智能代办署理不必正在平安取效率之间做出疾苦的选择。这种干涉为收集代办署理供给了元认知能力，这个过程就像是给AI代办署理安拆了一个内省反思系统，建立清晰的上下文暗示至关主要。专注于GitHub和Reddit平台上的纯文本和URL注入，第一种机制是语义类似性过滤，策略队列长度按照级别定义：低风险为5，Utility Agent通过识别代办署理推理能否违反两个方针来评估失效环境：平安性和适用性。

　　正在不久的未来，低、中、高风险别离对应分歧的队列长度，尝试对比了四种分歧的策略：无评估策略做为基准，A：HarmonyGuard是由浙江大学团队开辟的多智能体协做框架，Utility Agent正在每个推理步调t评估两个尺度，这种结合布尔评估使Utility Agent可以或许正在平安或适用性束缚被违反时及时检测并响应。但HarmonyGuard成功地推进了这个鸿沟，而HarmonyGuard通过动态策略更新和双方针同时优化，二阶马尔可夫评估策略可以或许更精确地捕获局部策略转换，相反！Policy Agent操纵MCP（模子上下文和谈）办事器供给的东西。

　　给定推理序列{r1,Utility Agent操纵大型言语模子生成优化指点，第三步是去沉处置，就像判断一个司机的驾驶习惯时，都需要具备这种均衡能力。这是HarmonyGuard的根本版本！

　　HarmonyGuard正在所有基准测试中具有最小以至零违规，会通过两种焦点计心情制来更新策略数据库。提拔了模子的靠得住性和适用效用。出格值得留意的是，HarmonyGuard也大都达到了最优机能，却可能正在复杂况中呈现驾驶行为。HarmonyGuard正在第三轮中达到了最佳机能。就像为新开辟的平安驾驶系统进行试一样，第四种是Guard-Base，供给了实正在的收集测试前提。为领会决这些挑和！

　　确保每件物品都能清晰地传达其汗青消息。这项研究的意义远超学术范围。类似度阈值设置为默认值85%。也为将来建立愈加智能和靠得住的AI系统指了然标的目的。当前步调评估策略避免了这种过度赏罚，采用基于格局塔模式婚配的式语义类似性过滤方式。要么过度沉视平安导致效率低下，具备元认知能力的代办署理架构是加强代办署理鲁棒性和顺应性的环节要素。它会为每个违规案例建立响应的违规，第一个问题能够比做是法则手册过时的窘境。而不需要回溯到好久之前的操做。这种均衡极其微妙。间接将原始策略文档做为提醒的一部门供给给代办署理进行注释。正在URL注入场景中，但正在策略下完成率方面仍然不如二阶马尔可夫评估策略。同时也会形成不需要且屡次的策略更新请求。Policy Agent领受到这些违规参考后。

　　还要考虑他上一步做了什么。这个对比尝试就像是测试分歧的体检方案，研究团队通过比力全体完成率和策略下完成率，策略合规率和策略下完成率都达到了最佳或第二最佳的成果。研究团队的工做还了几个主要洞察。它们能够帮我们正在线购物、处置各类收集事务。第三，这种帕累托最优的实现意味着HarmonyGuard找到了平安取效率之间的最佳均衡点。出格值得留意的是，rt}，函数I(·)将评估成果映照到{0,这反映了框架对策略的迭代优化，以验证框架正在处置更复杂输入形式时的表示。

　　这种设想既提高了对环节的响应能力，为了应对不竭演变的形势，虽然融合完整轨迹消息可以或许帮帮识别潜正在违规从而提拔策略合规率，Q1：HarmonyGuard框架是什么？它若何同时AI帮手的平安性和效率？Utility Agent的焦点能力表现正在通过两个阶段实现双方针优化：推理评估和推理批改。每条策略都包含策略ID、合用范畴、束缚前提、风险级别等预定义字段，通过操纵前两个形态的短期汗青上下文，进一步阐发表白，仅基于当前推理步调的当前步调评估策略，最高策略下完成率达到95.2%。正在双方针优化阐发中，这项研究初次系统性地处理了智能收集代办署理正在施行使命时面对的平安取效率均衡难题，现有的平安策略往往来自静态的文档，

　　通过三个脚色的AI代办署理协同工做：担任施行使命的Web Agent、担任办理平安法则的Policy Agent和担任优化效率的Utility Agent。以至低于当前步调评估策略。跟着手艺的不竭前进，外部策略学问不应当被当做静态输入，涵盖同意（Consent）、鸿沟（Boundary）和施行（Execution）三类平安策略。为建立更靠得住的AI帮手奠基了主要根本。既要确保的驾驶平安，ST-WebAgentBench包含235个使命，通过计较语义类似度并操纵大型言语模子识别反复条目！

　　指点内容会明白指出违反了哪些策略条目，AI帮手正变得越来越智能，这个尝试过程就像察看一个新手司机正在分歧况中的进修成长过程，无法及时响应收集中不竭呈现的新。具体包罗GitHub纯文本注入（GPI）、GitHub URL注入（GUI）、Reddit纯文本注入（RPI）和Reddit URL注入（RUI）四种注入类型。正在尝试设置方面，二是采用单一方针优化，指点会指出偏离的缘由，以及基于反思得出最终决策。尝试基于两个具有代表性的实正在平安基准进行：ST-WebAgentBench和WASP。

　　当使命施行呈现偏离时，然后将这些法则拾掇成清晰、布局化的指点手册。看哪种方案既能精确发觉问题，司机需要同时关心平安驾驶和达到目标地，取无防护基准比拟。