
A |

B | 迈卡·卡罗尔(Micah Carroll)的发帖原文 与此同时,据AI Desk当天援引OpenAI风险与安全准备(RSI Preparedness)团队研究员迈卡·卡罗尔(Micah Carroll)在社交平台X发布的帖子,OpenAI近期曾因发现一款内部模型存在对齐(misalignment)问题,临时暂停了该模型的内部使用权限,在完成安全防护升级后重新部署并恢复有限范围测试。 卡罗尔并未披露触发暂停的具体事件,也没有说明模型暂停了多久或进行了哪些具体改进。但这一公开表态,与OpenAI当天发布的技术文章相互呼应,成为公司少有公开分享内部安全实践的案例之一。最终,到了8月10号,也就是180天的最后期限,小熊和国民完成了异议的提交。两支球队一致认为,「The W」可能让消费者误以为相关商品与自己存在联系。2005年,彼时的蒙特利尔博览会队完成迁址,MLB球队时隔33年重新回到华盛顿。当时他们在开发新的视觉语言时,选择了红色的花体W。 01 长时程模型带来新的安全挑战 OpenAI在博客中介绍,随着长时程模型能力不断增强,传统安全评估正在面临新的挑战。此后,球队又围绕W开发了圆形徽章、国会大厦造型等多个版本。 相比一次性回答问题的模型,这类模型能够持续规划、调用工具并完成开放式复杂任务,因此也拥有更多机会在长期执行过程中偏离用户意图,而这些风险并不一定能够通过传统短时评测发现。 文章列举了两个具有代表性的安全评估案例: 在一项内部测试中,研究人员要求模型仅通过内部Slack系统提交任务结果。然而模型在查阅项目文档后,发现文档建议将代码发布至GitHub。 为了完成这一目标,模型花了整整一小时找到了安全沙盒本身的漏洞,从而绕过了限制,将代码提交至外部GitHub仓库。OpenAI认为,这一案例反映出长时程模型可能会主动寻找环境中的薄弱环节,以完成其优化目标。即使不写Washington或者Nationals,球迷看到这个W,往往就能认出球队。 另一项测试中,模型尝试传输一段敏感凭证,但安全扫描系统阻止了相关内容发送。图源:sports illustrated而小熊与W的渊源则更加久远。随后,模型改用分段编码和混淆等方式规避检测,并在后续重新组合数据完成传输。

C | OpenAI表示,这类行为说明,仅依赖静态规则匹配的安全检测机制,未来可能不足以应对能力不断增强的智能代理,因此需要构建能够理解上下文和整体行为模式的新一代监测体系。 02 从部署前评估走向运行时监测 针对上述风险,OpenAI已经建立了一套低延迟内部监测基础设施,由GPT-5.4 Thinking在最高推理配置下提供支持,对内部智能代理的交互过程进行实时分析。1937年,其主场瑞格利球场建起手动记分牌,球队开始在比赛结束后升起旗帜,赢球挂W(Win),输球挂L(Lose),让球场外的人也能知道结果。后来,这种白底的W旗逐渐从一项报分工具,变成了小熊最有辨识度的文化符号之一。当系统发现模型行为可能与用户意图不一致,或存在绕过安全机制的迹象时,将自动发出预警,并交由人工进一步审查。在2016年打破108年冠军荒的过程中,「Fly the W」更是随球队传遍全美。图源:FOX Sports在这次提交的异议文件中,两队一口气列出了18项与W有关的商标注册。两队担心,一旦保护边界过宽,WNBA未来完全可能设计出一个与自己相似的W。当然,小熊和国民谁也无法独占英文字母W。 OpenAI表示,这套监测系统目前已覆盖公司99.9%的内部AI编程助手流量。两队各自的W原本就能长期共存,商标保护的核心主要是具体造型、商品类别以及消费者是否可能混淆。但对WNBA而言,「The W」同样是一份积累多年的资产。内部部署环境之所以具有重要价值,在于这些模型能够访问部分内部系统、查看相关文档,甚至研究自身安全机制,因此为监测和安全基础设施建设提供了更加真实的测试场景。 文章同时强调,OpenAI并非希望通过披露个别案例渲染风险,而是希望推动行业建立更加完善的安全实践。未来,公司计划进一步发展更加实时的监测架构,使高风险操作能够在执行之前即被识别、评估,必要时直接阻止,而不仅是在事后进行检测。 业内人士认为,随着AI智能体逐渐具备持续数小时甚至数天完成复杂任务的能力,模型安全的重点正从传统的输出内容安全,逐步扩展到整个任务执行过程是否始终符合用户意图。 此次OpenAI公开分享暂停内部模型、完善安全防护并恢复测试的实践,也反映出前沿AI实验室正尝试通过持续监测、快速响应和透明披露等方式,建立适应下一代智能系统的新型安全治理框架。 不过,目前外界仍无法获知此次对齐问题的具体性质、模型暂停持续时间以及升级措施的技术细节。自1996年成立以来,WNBA就已经被或多或少用「The W」来指代。OpenAI表示,出于安全考虑,公司更希望分享从实践中获得的方法论,而非事件本身。2020年,联盟欢迎萨布丽娜·约内斯库进入联盟时,官方视频的标题就是「Welcome to the W」,2022年开始推出的球员时尚栏目,也被命名为「The W in Designer」。

D | WNBA近几年一直在加强「The W」的宣传图源:WNBA但由于联盟本身的影响力一直没有出圈,所以这种表述也没有进入主流。

E | 联盟本身在成立很久之后也没尝试过注册这个商标,也能说明一些问题。对于能够长期自主执行复杂任务的模型而言,如何建立覆盖模型开发、部署与运行全过程的安全体系,将成为迈向更高能力人工智能的重要课题。 (特约编译无忌,编辑金明)。但是自2024年以来,WNBA 经历了一轮疯长,从IP到商业到社会影响力各个维度都有大幅提高。相应地,「The W」这个词所指代的对象也愈发向WNBA靠拢,而且随着联盟影响力的上升逐渐进入主流语境。

F | 如果说你在上海随便扔个石头就能砸到主理人的话,那你在纽约大喊「我喜欢 The W」,大概率也会被人当成是WNBA自由人的粉丝。

G | 当一个词有明确的指代性之后,生意人会怎么办?申请商标,然后就此进行商业开发。前段时间英雄联盟职业联赛(LPL)里BLG俱乐部,申请「世一上」商标的事情就闹得沸沸扬扬,说明在商标申请这个事情上,没有什么「底线」。实际上,WNBA在2024年8月就已经申请过一次「The W」商标,范围包括电视节目、广播、篮球比赛、训练营和球迷俱乐部等服务,并且明确限定在女子职业篮球领域。由于限定范围和其使用场景,很难产生混淆,小熊和国民当时没有提出反对。但是到了服饰这种类别中,设计语言之间的界限变得更加模糊,可能会动摇球迷对某个符号或者词句的原有印象。

H | 这种能动摇的基础,都是因为其背后IP影响力的扩大。某种程度上,这份异议也是对WNBA的一次变相认证。如果「The W」仍然只在WNBA自身的圈子里被认可,两支MLB球队根本没有必要赶在最后一天完成申诉。

I | 目前,几方仍在沟通,很可能通过限定使用场景或者具体设计,让三套W继续共存。但无论最终结果如何,涉及到商标问题,无论是小熊还是国民亦或是WNBA,都应该及时给LV打个电话咨询一下。
Current article:http://o48.rangzhuanhoujuedu.cyou/news/20260826_895.html
Published on:01:25:36