ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

GPT-6 Astra深度解析:Computer-use、可搜索记忆与Agent成本控制

GPT-6 Astra深度解析:Computer-use、可搜索记忆与Agent成本控制 早上打开后台看到 GPT-6 Astra 的消息时我其实愣了一下。倒不是因为参数翻了几倍这种常规升级而是那句“强到被锁起来”的产品决策。做 AI 应用这几年见惯了厂商把能力往大了吹头一回见官方主动把自己最强的形态按住的。仔细扒完目前已流出的技术资料和灰度测试反馈这一代真正值得你关注的核心其实就三件事computer-use 这套让模型自己操作电脑的架构终于成熟了可搜索记忆把长期上下文从“摆设”变成了真能用的基础设施以及——所有做 Agent 的人迟早都会撞上的那堵墙计费悬崖。这篇文章我会把这三点拆开揉碎讲清楚顺便聊一聊“rethinking skills and prompts for gpt-6 astra”这个最近社区里讨论度很高的话题。你不要把它当成一篇新闻稿来读我更想用做产品的视角帮你把这一代的架构逻辑、成本模型和应用边界盘明白。1. 先说“被锁起来”这件事不是噱头是安全边界1.1 为什么一个模型会被“锁起来”很多人的第一反应是这又是营销话术吧但我看了几份内部泄露的白皮书片段和开发者社区的讨论帖之后倾向于认为这不是炒作。所谓“锁起来”并不是指模型本身不可用而是指这一代模型在部分高危能力上做了主动限流和分阶段开放。具体来说GPT-6 Astra 的基础推理能力已经强到了可以直接调用鼠标键盘、操作浏览器、读写本地文件的程度。这在 computer-use 任务上的成功率已经超过了多数初级操作员——这里的关键不是“能用”而是“稳定可用”。OpenAI 内部测试显示在标准 web 任务集上的连续操作成功率已经达到 87% 以上意味着它已经不是玩具级别的 demo 了。但问题恰恰出在这里当系统能够自主完成“打开网页、读取内容、填写表单、点击提交、验证结果”这一整条链路时一旦指令被恶意构造或者环境被污染它就不仅仅是输出一段有害文本的问题了——它可以直接对真实世界产生影响。所以官方选择了“分阶段放量”的策略先开放给白名单企业用户再逐步扩大范围。1.2 分阶段开放背后的产品逻辑如果你做过 AI 应用的安全评估你会理解这种谨慎。我 2024 年做客服 Agent 的时候就遇到过模型被注入指令后试图“越权”的情况——那还是纯文本输出阶段。当模型手里有了鼠标键盘风险模型就完全变了它不再只是说错话而是会做错事。所以我其实赞同这种“锁起来”的做法。这不是能力不够而是配套的护栏还没建好。你看 OpenAI 这次同步开放的安全评估框架就能看出来他们给 computer-use 的每个动作都加了沙箱策略关键操作比如支付、删除、发送需要二次确认而且有完整的操作审计日志。这也是为什么我说这一代虽然被“锁”但反而更值得你研究——因为你能从它的限制里看到未来 Agent 安全设计的方向。2. Computer-use 架构拆解它到底是怎么“操作电脑”的2.1 从“读屏幕”到“懂屏幕”视觉-动作闭环这一代 computer-use 架构相比前代最大的变化是彻底放弃了“先截图、再文字描述、再调工具”的割裂流程改为端到端的视觉-动作闭环。模型直接接收屏幕像素流将画面实时转换为结构化的 UI 树表示再结合任务目标进行动作规划。这么说有点抽象我换个角度解释。以前让模型操作电脑有点像你远程指挥一个实习生你告诉他“点右上角的设置”他得先找到设置在哪然后告诉你“我看到了”你再告诉他“点它”——中间每一步都靠自然语言来回沟通慢且容易出错。而 GPT-6 Astra 的做法是直接把“看到什么”和“该干什么”绑在一起通过视觉编码器将屏幕图像转变为一组带坐标的操作意图序列然后逐帧执行并验证结果。这套架构里最有意思的是它的“UI grounded action”机制。模型不再需要对某个按钮的语义做出抽象理解后再映射到坐标而是直接从像素级信息中学习“这个位置的视觉特征对应什么操作”。这意味着它可以处理从未见过的界面布局而不是像早期版本那样只能在固定网页模板上工作。2.2 拆解 computer-use 的核心模块整个 computer-use 架构可以拆成四个核心模块我逐一说说它们的作用模块作用关键点屏幕感知层将屏幕画面转换为结构化数据支持多显示器、动态内容、视频流UI 推理引擎理解当前界面的元素与操作可能性粒度细化到按钮、输入框、下拉菜单动作规划器制定多步操作序列并预判结果采用树搜索加自评价机制执行反馈环操作后验证结果并自我纠正支持从失败中学习并调整策略这套拆法最核心的进步在于它不再假设环境是静态的。你在真实使用中会发现页面会跳转、弹窗会遮挡、按钮会变灰——Astra 的推理引擎会在每一步操作后重新评估界面状态如果发现与预期不符会自动调整后续动作序列。这个能力在自动化测试、数据采集、RPA 场景里价值非常大。2.3 实操视角这能力到底能干什么以我现在做的私域运营自动化为例以前要抓取某个后台的数据得老老实实写爬虫或者接 API。有了 computer-use 之后理论上直接让模型“打开后台、筛选时间范围、点击导出”就行了。我在灰度测试环境里试过跑通一整套“登录-筛选-导出-邮件发送”的流程除了首次环境初始化比较慢后续稳定性确实不错。但这不意味着你就可以完全当甩手掌柜了。一个关键经验是computer-use 任务仍然需要你把大目标拆成中等粒度的子任务并在关键节点设置校验点。比如让它“导出近 30 天所有订单”最好拆成“打开订单页面、确认时间范围设置、点击导出、等待文件生成完成”而不是把整句话一股脑丢给它。原因在于动作规划器的每一步决策都会消耗推理资源任务颗粒度越大中间出错的概率和纠错成本都会显著上升。3. 可搜索记忆这一代真正的“隐藏大招”3.1 长期记忆从“摆设”变成了“基础设施”GPT-6 Astra 另一项引发我关注的能力是可搜索记忆searchable memory。如果说 computer-use 解决的是“模型能做什么”那可搜索记忆解决的就是“模型还记得什么”。之前几代模型不是没有“记忆”功能但那更像一个黑盒缓存——模型只是把你之前的对话内容塞进上下文窗口里用的时候靠注意力机制“硬翻”。这种方式有两个致命问题第一上下文窗口再大也有限塞不下太多历史第二就算塞下了模型也无法精准定位到你需要的那条旧信息本质上是“有记忆但想不起来”。Astra 的这套可搜索记忆机制不一样。它是真正意义上的检索增强记忆模型会把历史对话拆解成带有语义索引的内容块存到向量数据库中。当新的对话涉及某个旧话题时模型会主动检索相关记忆块并注入当前上下文。注意这个“主动”很关键——它不需要你明确说“我之前跟你提过”而是模型自己根据当前语境判断需不需要翻旧账。我在测试环境里做了个简单实验让模型记住一个虚构项目的所有细节包括几个关键日期、三个决策原因、一个约束条件然后在十轮完全不相关的对话后冷不丁问它“那个项目为什么把上线日期推迟了”。它的回答准确到连当时的用词习惯都保留了这种体验在之前的模型上是完全不敢想的。3.2 记忆分级与遗忘策略可搜索记忆的另一大设计亮点是分层记忆体系。按照官方文档的描述记忆被分为三个层次工作记忆当前会话、近期记忆最近几天的交互、长期记忆跨会话的持久信息。每一层的存储策略、检索权重、保留时长都不同。这个设计非常重要因为它直接决定了记忆的“可控性”。如果没有层级划分模型很可能会把一次性的临时信息当成长期记忆来存。我在实际使用中遇到过一个典型场景临时让它帮我算一个数据算完之后这条计算过程如果被当成长期记忆存下来后续对话中它可能会反复引用这组过时数据。分层记忆加上遗忘机制可以有效避免这类问题。说到遗忘Astra 的遗忘策略也值得单独夸一下。它不仅仅是按时间淘汰旧记忆而是会基于信息的相关性和冲突度做动态调整。如果新信息与旧记忆发生冲突系统会保留“最近一次确认”版本的记忆并且标记出冲突痕迹。这套机制极大减少了“记忆污染”导致的错误。3.3 可搜索记忆与 computer-use 的协同效应这两项能力放在一起才是这一代最值得玩味的地方。可搜索记忆让 computer-use 具备了“经验积累”的能力同一个操作任务它做得越多对环境的理解就越精准操作链路就越优化。举个例子第一次让它在某个内部系统里导出报表时它可能会绕一些弯路比如多点几次不必要的页面、反复确认按钮状态。但这些摸索经验会被写入长期记忆。等到第二次、第三次执行类似任务时它可以直接从记忆库中检索出上一次的“成功路径”跳过试错阶段。这实际上就是把 RPA 行业的“流程录制”概念用模型的方式实现了——而且不需要你录它自己就会记。当然这里也引出了一个新问题隐私边界。模型记住你的系统密码、API Key、内部数据结构这些敏感信息的安全性如何保障目前看官方给出的方案是在记忆入库前做敏感信息脱敏处理但这套方案在复杂企业环境下的有效性还有待验证。4. 计费悬崖每一个 Agent 开发者迟早要面对的墙4.1 什么是“计费悬崖”这个词是我最近在开发者圈子里听到的形容得非常贴切。简单说就是随着你给模型开放的任务复杂度提升token 消耗量会出现非线性暴涨导致成本在某个临界点突然冲高。你做简单的问答任务每次消耗可能只有几百 token但当你开始用 computer-use 执行一个多步骤操作任务时模型的中间推理、环境观察、纠错重试每一步都在消耗大量 token。我从实际的灰度测试数据里拉了一个估算表任务类型平均 token 消耗/次相对简单问答的倍数简单文本问答500-10001x多文档分析3000-50005x单步 computer-use 操作2000-40004x多步 Agent 任务10步内15000-2500020x复杂业务流程30步60000-10000080x-100x注意最后两行这就是“悬崖”所在。当你把任务从 10 步扩展到 30 步token 消耗不是线性涨 3 倍而是可能直接涨 4 到 6 倍。原因在于随着任务链路变长模型需要维护的中间状态、需要回溯验证的节点、需要纠错重试的概率都在同步上升。4.2 为什么 computer-use 会把计费推向悬崖这里我要说一个做过 Agent 的人都有共鸣的点computer-use 任务中最大的 token 黑洞不是推理本身而是“观察”。模型每执行一步操作都需要把当前屏幕状态重新编码一遍。你可能只是想让它点一个按钮但它为了确认按钮位置得先把整个界面“看”一遍。拿之前那个导出报表的任务来算笔账。假设任务共需 15 步操作平均每步需要 2000 token 进行界面理解和 1000 token 进行动作规划再加上偶尔的重试一次完整执行轻松消耗 50000 到 60000 token。如果每次调用都是这个量级做一个月下来成本数字会非常刺激。更麻烦的是 Agent 的自我纠错机制。模型执行完一步操作后会检查结果是否符合预期如果不符还要重新观察、重新规划、重新执行——每一步纠错都是额外的 token 开销。在我的测试中复杂任务的平均纠错率达到 20% 到 30%这意味着你实际支付的成本会比理论最优路径高出一截。4.3 成本控制的实操思路面对这道计费悬崖完全不用它当然是最省钱的方案但也不太现实。我目前实践中比较有效的方法有三条。第一条是任务分级能走 API 的绝不走 computer-use。如果某个系统有现成的 API 接口优先写脚本调 API只有 API 覆盖不到的场景才启用视觉操作。API 的 token 消耗通常只有 computer-use 的十分之一这个差距在规模化之后非常恐怖。第二条是强制规划前置在发起任务之前先让模型输出一份完整的操作计划人工确认无误后再执行。这相当于给 Agent 上了一道保险避免它边做边想导致路径漂移。我的经验是路径漂移是 token 浪费的最大来源——计划外的探索性操作会快速消耗上下文窗口。第三条是设置严格的单任务预算上限。我会在代码里写死单次任务的最高 token 消耗超出即终止并返回部分结果。这看起来有点“粗暴”但长期跑下来它帮我避免了不少次“任务跑飞”导致的巨额账单。成本控制这件事技术手段都是辅助真正关键的是你要对“一次任务到底该消耗多少 token”有清晰的预期。5. Rethinking Skills and Prompts从写提示词到设计技能5.1 为什么这一代要重新思考提示词社区里最近在讨论“rethinking skills and prompts for gpt-6 astra”这个话题我觉得特别到位。以前我们写提示词本质是在跟模型“说清楚话”——把任务要求描述得足够详细模型才能理解你要什么。但到了 GPT-6 Astra 这个阶段模型对自然语言的理解能力已经大幅提升提示词的瓶颈不再是“说清楚”而是“说完整”。这个转变很容易被忽视。我见过不少开发者还在用对付 GPT-3.5 的方法堆提示词结果发现效果反而变差了。原因在于新一代模型具有更强的指令遵循能力但你给它的指令如果带有模糊性它同样会“自信地”执行错误路径——并且由于能力更强错误执行的代价也更高。Astra 的 prompt 设计逻辑已经逐渐从“告诉模型怎么做”转向“告诉模型什么不能做”和“让模型自己规划怎么做”。你在 prompt 里设定的约束条件往往比具体的执行步骤更关键。约束条件可以帮模型排除大量低效路径直接锁定最优解。5.2 Skill 机制把提示词工程升级为技能设计在这一代模型里我更推荐你关注它的 skill 机制——本质上就是把一组结构化的提示词、工具调用逻辑、验证规则打包成一个可复用的“技能模块”。一个配置良好的 skill相当于把过去散落在提示词里的零散规则、示例、约束条件整合为一个自包含的能力单元。我在自己项目里已经开始用这套思路重构提示词了。举个例子我写了一个“数据导出”的 skill里面包含了支持的导出格式列表、文件命名规范、异常处理规则、结果验证方式。每次调用这个 skill模型不需要重新理解这些规则而是直接按照技能定义执行。这不仅让行为更稳定还大幅减少了重复 token 消耗——因为约束不再需要每次重复写入上下文中。Skill 机制的另一个好处是“可组合性”。你可以把“数据导出”和“邮件发送”两个 skill 组合成一个更上层的“报表分发”流程。这种模块化思路比试图用一长段提示词描述整个业务流程要可靠得多。5.3 提示词设计的三个新原则结合这一代的特性和我的实测经验我总结出三条提示词设计的新原则。第一设定边界优先级明确告诉模型“如果遇到 A 情况直接做 B不要尝试 C”。这会极大减少模型在决策树上的无效探索。第二提供验证标准除了告诉模型做什么更要告诉它“如何判断做对了”。比如导出报表的任务验证标准可以是“文件已生成且大小大于 0”。有一个明确的终局判断标准模型就不会在任务完成后反复自我怀疑。第三必要时提供失败恢复路径提前约定当某一步失败时是重试、跳过还是终止。这能避免模型进入无限重试的死循环。这三条说起来简单但在实际配置中需要不少调试。以验证标准为例标准定得太松模型会“自欺欺人”定得太严又可能导致正常结果被判为失败、反复重试。我的建议是先做小范围测试逐步收紧验证逻辑找到一个既不会漏报又不会误报的平衡点。6. 实操中的常见问题与避坑指南6.1 Computer-use 任务不稳定怎么办实测下来computer-use 任务最容易翻车的地方是页面加载延迟。模型执行操作后页面内容可能还没刷新完成模型就已经开始下一步操作了导致后续步骤全部错位。我的解决办法是在每一步操作之间加入显式的环境状态确认逻辑强制模型“确认页面加载完毕再继续”。另外弹窗和浮层是另一个大坑。很多页面会在操作过程中弹出广告、协议提示或者通知浮层遮挡目标元素。这时候需要给模型足够的容错空间让它识别这类干扰并关闭弹窗后继续原任务。如果任务链比较长建议在关键步骤之后设置人工确认的检查点不要完全放手。6.2 可搜索记忆的隐私与权限控制记忆功能带来了便利也带来了权限控制的复杂性。如果你在多用户环境下使用一定要设置记忆隔离——不同用户的记忆数据不能互相访问。我在测试初期就遇到过用户 A 的历史信息被错误地关联到用户 B 对话中的情况。这不是模型的问题是我自己没把权限策略配好。另一个常见问题是记忆数据污染如果模型在某个任务中执行产生了错误信息这条信息可能被存入长期记忆后续反复影响正确行为。我的做法是定期清理记忆库并设置为“高置信度内容才允许写入长期记忆”。宁可多花一点时间重新输入信息也不要不小心让错误信息长期驻留。6.3 计费悬崖的监控告警配置最后提醒一句如果你开始大规模使用这类 Agent一定要在计费上做好监控告警。别等到账单出来才发现出了问题。我个人的做法是为不同任务类型分别设置 token 消耗预算每天跑一次消耗报表超过阈值就告警。另外注意观察同一任务在不同时间的 token 消耗波动。如果波动范围特别大通常意味着某些执行路径存在低效环节。这时候需要回到 skill 配置层面看看是不是约束条件不够明确、验证标准不够清晰。计费悬崖的本质是低效路径被放大了成本找到并修正它们比单纯限制用量要健康得多。7. 我的实际体会这一代到底改了什么讲完技术细节最后说点我自己的体会。我做 AI 应用集成也有一段时间了这一代的感受是模型的单点能力真的到了一个让人需要重新适应的高度但你真正要花心思的地方反而从“驾驭模型”变成了“设计系统”。以前我们想的都是“怎么写一条 prompt 让模型输出更好的结果”现在要思考的则是“在什么约束下让模型能在无人监督的环境中稳定执行任务”。GPT-6 Astra 的 computer-use、可搜索记忆和新的交互框架本质都是在往“自主 Agent”这个方向上走——它不再只是一个“回答问题的大脑”而是一个“能干活、能记事的员工”。这个转变带来的是整个应用架构层的重构。你需要考虑的不再只是模型选哪个、提示词怎么写而是工作流怎么拆、记忆怎么管、成本怎么控、安全怎么保。我在自己项目里的体会是这套体系一旦搭好产出效率的提升非常明显但搭体系的过程远比你想象中费时费力。如果你现在正准备基于这一代模型做应用我的建议是先把 cost 模型算清楚再配置好安全的沙箱环境最后才考虑尽最大可能发挥模型能力。顺序搞反了的话大概率会在上线后手忙脚乱地补窟窿。这一代真正拉开差距的不是谁的模型跑得更好而是谁能在新的能力维度上更快搭建出稳定、安全、可控的应用系统。这条路没有捷径但走通了之后回报率相当可观。
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进