三名被OpenAI解雇的安全研究员打破沉默,否认泄露机密信息,并怀疑自身被辞退的真正原因与推动AI透明度有关。托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)和王茉莉(Jasmine Wang)质疑公司给出的解雇理由,认为这可能源于他们长期以来倡导提升AI系统透明度的努力。
OpenAI在内部调查后,认定这三人违反了敏感信息管理规定,因此将其解雇。在此之前,他们均曾公开发表过关于AI风险的看法。
据IT之家了解,这几位研究员在接受《华尔街日报》采访时,对官方说法提出异议。OpenAI向该报表示,解雇决定与他们的安全担忧无关。但三名研究员指出,公司从未以书面形式明确告知他们哪些信息被不当处理。他们还担心,此事可能使独立安全审计人员不愿再与AI企业合作。
《华尔街日报》的报道揭示了冲突的起源。OpenAI安全团队怀疑这三人向一名外部安全研究员泄露了公司内部模型架构细节,要求他们解锁个人手机。调查人员在手机中发现了开启阅后即焚功能的Signal聊天记录。一周后,三人同时被解雇。OpenAI表示Signal并非公司认可的通讯工具,但强调这并非解雇原因。科尔巴克则反驳称,在硅谷,阅后即焚消息本就是常规安全做法。
争议焦点:是否允许核查AI的推理步骤
这场争执的核心围绕一个深远的技术问题:AI企业是否应允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题中间步骤,企业和安全研究员依赖这些记录来理解模型判断的逻辑。
在2025年的一篇论文中,巴莱斯尼、科尔巴克和王茉莉联合多家AI实验室的顶尖研究者,呼吁持续保留这项可核查能力。今年夏天,这个问题变得更加紧迫:多家AI公司内部开始讨论一类新模型——思考时间更长,但记录的中间步骤更少。巴莱斯尼在公司内部提出异议,转发了当时红杉研究院(Redwood Research)首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。
科尔巴克也与格林布拉特保持频繁沟通。两人通过Slack和Signal协作,共同分析一起备受关注的事件:OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托,负责这项独立调查。
一篇关于Astra的报道,触发了内部调查
9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露的推理过程更少。这次合作由此成为麻烦的导火索。当时OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)在X平台评价这篇报道逻辑混乱,但他本人此前就曾警示,整个行业正在竞相研发难以监控的模型。
《华尔街日报》称,几周后,OpenAI启动内部泄密调查。巴莱斯尼说,调查人员认定格林布拉特是消息外泄的接收方,要求调取他们之间的Signal聊天记录。格林布拉特否认向记者传递过机密信息。
针对王茉莉的指控则单独成立:OpenAI称她多次访问一名高管的邮箱。她的解释是,自己早在近一年前就申请取消这项权限;上个月只是误点开一封敏感邮件,没有转发或传播内容,并第一时间上报了该失误。OpenAI表示,权限本身不是问题所在。
科尔巴克认为事件带来的负面影响远不止他们三人。他说,现在同事们不敢与外部人员交流,也不敢在内部提出安全隐患。三名研究员已致信OpenAI董事会,呼吁加强和外部安全机构的合作。
另外一份刚发布的现场审计报告,也对OpenAI的安全流程提出质疑。METR与红杉研究院的审计人员在核查中发现OpenAI基础设施存在大量安全漏洞,但OpenAI将最终报告将近一半内容做了涂黑处理。
OpenAI也发布了一份新安全架构报告,这套架构运行时断开互联网。公司称相关漏洞已经修复,并于10月初恢复模型训练,还表示很快会公布多项新的外部合作。
“你看到那边了吗,桑乔朋友,三四十个巨人?我要与他们战斗并杀死他们。”——堂吉诃德(爱游戏在线登录)






发表评论