精选理由
想用轻量模型做好内容安全？DT-Guard靠训练时推理、运行时只打标签，4B就干掉8B的护栏，速度快还准。
DT-Guard提出一种推理主动训练、推理自由推理的范式，在训练时使用推理监督，推理时只输出结构化安全标签。它采用意图-类别-安全的三步决策过程，并构建带意图标签、风险类别、安全标签和推理轨迹的数据集。通过Rollout-Guided Progressive Hard-Case Optimization (RG-PHO)提升硬样本鲁棒性。在提示侧和响应侧安全基准上，DT-Guard分别达到0.886和0.870的平均F1分数，4B参数版本取得0.878的双侧平均F1，超越多个8B基线。
AI 翻译 · 中文
DT-Guard提出一种推理主动训练、推理自由推理的范式，在训练时使用推理监督，推理时只输出结构化安全标签。它采用意图-类别-安全的三步决策过程，并构建带意图标签、风险类别、安全标签和推理轨迹的数据集。通过Rollout-Guided Progressive Hard-Case Optimization (RG-PHO)提升硬样本鲁棒性。在提示侧和响应侧安全基准上，DT-Guard分别达到0.886和0.870的平均F1分数，4B参数版本取得0.878的双侧平均F1，超越多个8B基线。
Large language models deployed in open-world applications require safety guardrails that are both robust to complex risks and efficient enough for low-latency runtime moderation. Existing guardrails face a practical trad…