返回目录 / 内容自动化
把书面内容政策转成审核与升级流程
从政策提取类型化属性，用确定性规则给出 publish/reject/review，而不是让模型直接作最终处置。
目标
为提交内容生成可审计的政策检查结果和人工复核队列。
步骤
- 由政策负责人编写具体规则和阈值，选择合成广告文本/图片做测试集。 [moderation]
- 按 moderation notebook 提取类型化内容属性；把 policy compile 成可读、可审计的规则表。 [moderation]
- 用确定性 rule engine 输出 publish/reject/review 与命中规则 ID；对未覆盖/冲突案例升级人工。 [moderation]
验证方式
在标注样例上比较规则结果与政策审核者标签，审核结果包含准确命中的规则ID。
故障处理
若属性提取缺失，按保守策略进入 review；版本化规则并保留原始内容/决策证据。
权限边界
前置条件
- Python 3.11+、Anthropic API key、书面政策和合成/授权样例。
权限边界
- 内容先脱敏；默认将模糊或高风险内容送人工，不自动发布。
限制
Notebook 使用合成数据和示例规则；真实发布/拒绝仍应由政策所有者批准，不能把分类器当法律判断。
固定上游来源
- 仓库
- anthropics/anthropic-cookbook
- 文件路径
- capabilities/content_moderation/guide.ipynb
- 固定提交
9c1e493ddd2b82df399d2a61b9c806c539e18be6- 来源检查
- 2026-10-14 · 已按固定上游来源核对
仓库指标
以下数字属于上游仓库整体，不代表单个 Skill 或指南的点赞/热度。
- Stars
- 未取得
- Forks
- 未取得
- 观测时间
- 未取得
尚未取得指标快照。
许可证: MIT