IT之家 10 月 30 日消息，科技媒体 NeoWin 昨日（10 月 29 日）发布博文，报道称 OpenAI 公司推出 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 两款开源权重模型，专门用于根据用户提供的策略对内容进行推理、分类和标记。
这是继今年早些时候发布 gpt-oss 系列推理模型后，OpenAI 在开源领域的又一重要举措。新模型是此前 gpt-oss 模型的微调版本，同样遵循宽松的 Apache 2.0 许可证，允许任何开发者免费使用、修改和商业部署。
与传统的“一刀切”式安全系统不同，gpt-oss-safeguard 将定义安全边界的权力交还给了开发者。其核心机制在于，模型无需在训练阶段硬编码规则，能够在推理阶段直接解释并应用开发者提供的安全策略。
gpt-oss-safeguard 的核心工作机制是，在模型推理（即实际运行）阶段接收两项输入：一项是开发者自定义的安全策略，另一项是需要分类的内容（如用户消息或 AI 生成内容）。
当然，gpt-oss-safeguard 模型也并非完美，OpenAI 提示开发者需要注意两个主要的权衡：
第一，如果开发者有足够的时间和数据（如数万个已标注样本）来训练一个传统的分类器，那么在处理复杂或高风险任务时，传统分类器的精度可能仍然会超越 gpt-oss-safeguard。换言之，追求极致的精确度时，定制训练的系统或许是更优选。第二，gpt-oss-safeguard 的运行速度较慢且资源密集，让其在大型平台上对所有内容进行实时扫描变得更具挑战性。这两款模型目前已在 Hugging Face 平台上开放下载。
IT之家附上参考地址
相关文章
关于作者
猜你喜欢
成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体103523
