OpenAI 宣布前沿模型不再用实时公网数据训练与评估

发布于

OpenAI 在 10 月 23 日的一篇文章中宣布,前沿模型的训练与评估将不再访问实时互联网,给出的理由是 significant risks——显著风险。TechCrunch 报道称,此前数周该公司工程师曾公开表示这条路线难以实现,最终公司仍然选择了切断实时网络访问。

这一步的实际含义有两层。其一是安全边界:具备工具调用与自主执行能力的模型,一旦在训练环境里能触达真实网络,就可能把外泄、越权访问与提示注入的风险带进训练过程;隔离网络等于从环境层面压低「模型能做什么」的上限。其二是数据工程的代价:断掉实时源之后,模型看到的最新信息只能来自快照与缓存,时效性要交给检索层而不是训练本身来解决。

这与本月另外几条动态连成一线:10 月 26 日英国 AI 安全研究所发布关于开源权重模型预训练数据过滤的评测,结论是过滤能削弱特定危险能力但不持久、可被恢复;10 月 22 日前后谷歌与 Meta 开源原生 TPU 软件栈。前沿实验室正在同时收紧训练环境、开放部署工具。

资讯来源:techcrunch.com