OpenAI于2026年7月16日披露内部训练的GPT-Red模型在间接提示注入场景中达到84%攻击成功率而人工红队在相同测试中仅为13%。这一结果直接用于GPT-5.6的训练使其在直接提示注入基准上的失败次数比四个月前最佳模型减少6倍对GPT-Red直接注入的失败率仅0.05%。训练机制与攻击发现GPT-Red通过对抗性自我对弈强化学习运作攻击模型不断生成提示注入尝试防御模型同时学习抵御同时保持正常任务性能。OpenAI为此投入超过70万GPU小时。训练环境模拟网页浏览、邮件处理、日历管理和代码编辑等真实场景。GPT-Red发现了一种此前未知的“伪造思维链”攻击能在目标模型内部推理记录中插入虚假信息使模型误判已验证结果并执行恶意操作。测试显示GPT-Red对2025年发布的GPT-5攻击成功率超过90%对GPT-5.6则降至不足23%。它还能成功诱导Andon Labs的Vendy智能体修改商品价格并取消用户订单。但GPT-Red在需要多轮交互的复杂攻击和图像注入场景中表现有限。产业各方影响对开发者而言GPT-Red提供的自动化变体生成可扩大测试覆盖但无法取代人工设计新攻击思路。企业用户可通过GPT-5.6获得更强的提示注入防护不过OpenAI明确表示GPT-Red仅内部使用不会公开权重或代码其他机构难以复现。竞争格局方面此举将安全测试从静态规则转向动态对抗其他模型提供商需评估是否投入同等算力规模的自动化红队系统。供应链中GPU资源分配将进一步向安全训练倾斜。战略前瞻基于现有训练规模和结果最可能的发展是OpenAI持续扩大自我对弈循环以覆盖更多攻击类型验证信号为后续模型版本在GPT-Red测试下的失败率是否继续下降。© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接 OpenAI GPT-Red以84%成功率对抗测试GPT-5.6 人工红队仅13%
OpenAI于2026年7月16日披露内部训练的GPT-Red模型在间接提示注入场景中达到84%攻击成功率而人工红队在相同测试中仅为13%。这一结果直接用于GPT-5.6的训练使其在直接提示注入基准上的失败次数比四个月前最佳模型减少6倍对GPT-Red直接注入的失败率仅0.05%。训练机制与攻击发现GPT-Red通过对抗性自我对弈强化学习运作攻击模型不断生成提示注入尝试防御模型同时学习抵御同时保持正常任务性能。OpenAI为此投入超过70万GPU小时。训练环境模拟网页浏览、邮件处理、日历管理和代码编辑等真实场景。GPT-Red发现了一种此前未知的“伪造思维链”攻击能在目标模型内部推理记录中插入虚假信息使模型误判已验证结果并执行恶意操作。测试显示GPT-Red对2025年发布的GPT-5攻击成功率超过90%对GPT-5.6则降至不足23%。它还能成功诱导Andon Labs的Vendy智能体修改商品价格并取消用户订单。但GPT-Red在需要多轮交互的复杂攻击和图像注入场景中表现有限。产业各方影响对开发者而言GPT-Red提供的自动化变体生成可扩大测试覆盖但无法取代人工设计新攻击思路。企业用户可通过GPT-5.6获得更强的提示注入防护不过OpenAI明确表示GPT-Red仅内部使用不会公开权重或代码其他机构难以复现。竞争格局方面此举将安全测试从静态规则转向动态对抗其他模型提供商需评估是否投入同等算力规模的自动化红队系统。供应链中GPU资源分配将进一步向安全训练倾斜。战略前瞻基于现有训练规模和结果最可能的发展是OpenAI持续扩大自我对弈循环以覆盖更多攻击类型验证信号为后续模型版本在GPT-Red测试下的失败率是否继续下降。© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接 RELATED READING
延伸阅读
更多一线实战笔记与深度复盘，助您持续精进
