Kimi K3.1 Pro 通过移除训练数据降低网络攻击能力,漏洞测试得分从 90.5% 降到 81%

发布于

联合早报 10 月 25 日报道,月之暗面发布的 K3.1 Pro 是 K3 的首个重大升级,主打编程与 3D 创作;报道特别指出其安全侧的处理方式——通过移除训练数据来降低模型的网络攻击能力,相关漏洞测试得分从未经滤除的 90.5% 降至 81%。权重将于 11 月 4 日开放。

用数据滤除而不是仅靠部署阶段的护栏,是一种更靠前也更难撤销的做法:一旦权重发布,被移除的东西就回不来了,但反过来,过滤效果是否持久仍是被质疑的问题。英国 AI 安全研究所在 10 月 26 日发布的一份评测正好测了这件事:对开源蛋白质语言模型做预训练数据过滤,能显著且选择性地削弱特定危险能力,但过滤不持久、模型可以被恢复,恢复成本不足 80 美元。

K3.1 Pro 上线后紧接着暴露的是容量问题。10 月 26 日 Kimi 官方就会员使用 K3.1 Pro 出现的限流与不必要的额度消耗致歉,为所有档位有效期内的会员一次性重置月度总额的 25%,相当于约一周用量。

资讯来源:zaobao.com