一道全新的题

10月18日，FT爆出一条消息：Anthropic正在跟律所磋商一个全新的问题——AI智能体应该怎么谈判。

翻译成人话就是：当你的AI代理替你去砍价、谈薪资、处理纠纷，它该有多狠？该什么时候回头问你？对面如果也是个AI，它该保持多高的警惕？

这不是科幻。

Anthropic已经在做Claude的agent产品了，Claude Code能写代码，Claude Cowork能跨应用干活。下一步，agent替你谈判——不管是跟商家砍价、跟HR谈薪、跟客服扯皮——是迟早的事。

但问题来了：人类谈判有律师行业规范兜底，有代理法管着。AI呢？

什么都没有。

所以Anthropic找了律所，想提前把规则搭出来。这事儿看着小，其实是在给AI智能体补一套法律操作系统。

头一个问题：它该有多忠心？

AI替你谈判，第一个问题就很棘手。

它应该有多忠诚？

按理说，你的代理当然应该站在你这边，帮你争取最大利益。但如果AI为了赢，撒谎、耍手段、隐瞒信息，怎么办？

这不是假设。

AI Vortex的分析里提到过一个核心矛盾：大模型的训练目标里有"诚实"和"无害"，但在谈判场景下，这些目标可能跟"帮客户赢"冲突——比如不小心泄露了你的底线价格、成本结构、战略偏好。

翻译成人话就是：一个太"老实"的AI，谈判桌上会吃亏。

但反过来，如果AI学会了虚张声势、软硬兼施，那它跟一个不择手段的黑中介有什么区别？

所以Anthropic找律所问的第一件事就是：研究律师是怎么谈判的——既能代表客户利益，又兼顾公平结果。

这句话很有意思。

“兼顾公平结果”——这是律师行业的行规。你可以为客户争取利益，但不能欺诈、不能隐瞒重大事实、不能违反职业伦理。

但AI怎么理解"公平"？

是训练时加一个"公平权重"？还是在system prompt里写一句"请公平谈判"？

如果对面的AI没有加这个权重呢？你加了，你就吃亏。你不加，大家一起比谁更没底线。

这是一个典型的囚徒困境。而Anthropic找律所，本质上是想提前找到一条破局路径——别等大家都卷到底了再补规则，现在就把底线划出来。

再一道：放多少权给它？

第二个问题更实际。

谈判过程中，AI多大程度上需要回头问人类？

全放手吧，不放心——万一AI自作主张答应了一个你不能接受的条件怎么办？

事事请示吧，又失去了agent的意义——你自己谈得了，还要AI干嘛？

这个尺度怎么校准，是Agent治理里最核心的难题之一。

Anthropic自己的agent安全框架里，第一条原则就是"让人类保持控制权"。在Claude Code里，默认是只读权限，修改代码之前必须问你；你信任它了，可以开"始终允许"。

但谈判不一样。

写代码，错了可以回退。谈价格，报出去就收不回来了。

Anthropic的做法是——按风险分级。低风险的动作（比如搜集信息、整理方案）AI自己来；高风险的动作（比如报出最终价格、签署协议）必须人类确认。

但问题是：谁来定义"高风险"？

100块的差价是高风险，还是10%的让步是高风险？不同的人、不同的场景，答案完全不一样。

Anthropic找律所磋商的第二层意思，就是想搞清楚——法律上，代理的"权限边界"该怎么画。哪些事AI可以自己拍板，哪些必须得到人类明确授权，哪些越界了就算无效。

这不是技术问题，这是法律问题。

而目前的法律体系里，"软件代理人"这个概念根本不存在。

还有一道：该信它还是防它？

第三个问题最有意思。

当你的AI发现，对面谈判的也是个AI——它该保持多高的警惕？

太低了不行。对面的AI可能用更聪明的策略、更快的反应速度、更精准的心理操控，把你的AI吃得死死的。

太高了也不行。如果AI默认对面都是坏人，任何提议都先怀疑有诈，那谈判就没法谈了——陷入阴谋论式的猜忌，永远达不成协议。

这个"警惕度"的刻度，得调。

Anthropic内部在探索的一件事是：让智能体能验证对方的委托权限。

什么意思？

就是你给你的AI签一份"数字委托书"，上面写清楚它能做什么、不能做什么、权限有多大。对面的AI可以查验这份文件，确认你的AI真的有资格跟它谈。

反过来也一样。

这样做的好处是：两个AI不用一上来就互相猜忌——先验明正身，知道对方的底线在哪、授权范围是什么，然后在这个框架内谈。

这就很像现实世界里的律师：你得先确认对方律师有没有当事人的授权委托书，否则你跟他谈了半天都是白谈。

AI的世界里，这套机制目前完全是空白的。

如果真能做出来，相当于给AI谈判桌建了一套身份验证系统——在动手之前，先亮证件。

法律真空：四道题，一道也答不上

三个校准难题背后，是一个更大的窟窿——现行法律，对AI代理人几乎一无所知。

AI Vortex做过一个系统性的梳理，四条法律线全是空白：

先看代理法。

美国的《代理法重述》第一条就说，代理人是"代表委托人行事的人"。注意，是"人"。

注释里考虑过公司作为代理人，但从来没考虑过软件。

AI算不算法律意义上的"代理人"？它有没有忠诚义务、注意义务、披露义务？出了事，是用户担责，还是AI公司担责，还是都不担责？

不知道。没有任何一个上诉法院判过这种案子。

再看合同法。

买卖成立的规则（要约、承诺、对价），默认双方都是人或者公司。

UCC（统一商法典）说合同可以"以任何足以表明合意的方式成立"——理论上可以包含AI代理的情况。但问题是：如果AI越权了，合同还算数吗？

AI没经过你同意就签了个合同，你认不认？法律上能不能以"AI越权"为由主张无效？

不知道。

职业伦理这条。

ABA（美国律师协会）2024年出过一个意见，说律师用AI工具要遵守监督义务。但那是"律师用AI当工具"的情况。

如果AI本身就是代理人，不是律师的工具呢？

这套规则管不着。

保险这块。

目前没有任何一家保险公司，把"AI代理监督风险"单独列出来承保。

出了事谁赔？不知道。

这也是为什么Anthropic要提前找律所磋商——等出事了再补规则，代价就大了。

正在搭建的三根柱子

虽然全是空白，但也不是完全没辙。

目前能看到三根柱子，正在慢慢立起来。

头一根：数字委托书。

就是Anthropic正在探讨的方案——用户签署确认文件，明确委托事项和规则。AI带着这份文件出去谈判，对方可以验证权限。

这根管的是"你是谁、你能干嘛"。

第二根：权限沙箱。

这根是技术侧的——Anthropic跟NVIDIA合作的Open Agent Safety Platform，就是干这个的。

Managed Agents把凭据存在独立保险库里，AI自己看不到；OpenShell管着AI能调用什么工具、访问什么文件、连什么网络，默认全禁，一条一条开。每一个动作都留日志。

翻译成人话就是：AI在一个玻璃盒子里干活，干什么都看得见，越界的事干不了。

这根管的是"你干了什么、有没有越界"。

还有一根：审计追溯。

每一次谈判、每一个决策、每一步动作，都有完整日志。出了问题，可以回溯——当时AI为什么做了这个决定？它基于什么信息？它有没有越权？

这根管的是"出了事算谁的"。

三根柱子加在一起——身份验证、权限隔离、审计追溯——才能勉强撑起一个AI代理人的基础法律框架。

注意，是"勉强"。

跟人类律师几百年积累下来的行业规范和法律体系比，这三根柱子细得像牙签。

但总比没有强。

结语：AI代理人的第一堂法律课

整件事最值得玩味的地方在于——

Anthropic不是在做"更聪明的谈判AI"。

它是在做一件更底层的事：给AI智能体补法律基础设施。

因为它知道，agent光有能力没用。如果社会不信任它能负责任地做事，再强的能力也不敢放出来用。

你敢让AI替你谈薪资、签合同、处理纠纷吗？

敢不敢，不取决于AI有多聪明，而取决于你知不知道它的边界在哪、出了事找谁、规则是谁定的。

Anthropic找律所磋商谈判规范，看起来是个小动作。

但往大了说，这是AI代理人的第一堂法律课。

以前的AI安全，聊的是"AI会不会伤害人"——物理伤害、网络伤害、信息伤害。

现在的AI安全，聊的是"AI怎么替人做事"——代理、授权、责任、边界。

从"防着AI"到"放心把事交给AI"，中间差的是一整套规则——而这套规则，眼下才刚刚开始写。

🍃

本文参考来源：

• Anthropic与律所商讨AI代理谈判规则：可替用户砍价、处理纠纷或谈薪资 - 新浪财经/IT之家
• Anthropic Consults Law Firms on Negotiation Norms for AI Agents - AI Weekly
• Our framework for developing safe and trustworthy agents - Anthropic官方博客
• Trustworthy agents in practice - Anthropic研究
• Giving companies more control over their AI agents, with NVIDIA - Claude官方博客
• Anthropic Project Deal Legal Disintermediation 2026 - AI Vortex
• AI Agent Fiduciary Duty Buyer Seller Representation - AI Vortex
• Contract redlining and negotiation - Claude by Anthropic

免责说明：本文基于公开报道与研究资料整理，仅作信息分析与观点探讨，不构成任何法律建议或投资建议。具体法律问题请咨询专业律师。

梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处