人人都是产品经理内容审核基础：审核方式、流程与审核维度
对于资讯类产品和内容内产品来说 ， 内容审核是必不可少的环节之一 。 借助人工智能的发展 ， 可以让机器替代一部分审核工作 ， 但由于内容的复杂性 ， 人工审核必不可少 ， 而且还有其他需要考虑的点 。 这篇文章 ， 作者为我们讲解内容审核的方式与流程 ， 希望能对你有所帮助 。
本文插图
何为内容审核？
简单来说就是：对用户在社交平台上上传、发布或共享的内容（文字 ， 图片 ， 音频 ， 视频）进行审查 。
其主要目的是对低质庸俗的内容进行过滤筛选 ， 从而生产高质量的内容、防止降低用户体验、保持良好的内容调性 。
而在这个过程中 ， 平台会对于内容有一个专业的标准作为参考 ， 这个时候有一个很大的问题就是人工筛选效率低 ， 而且成本大 。
所以很多内容平台采用了算法进行过滤 ， 通过人工和算法的有效结合来提升效率 。
经过过滤后的内容基本上能保证无害 ， 即使质量不高 ， 但也不存在风险问题 。 这时企业就会面对选择是先发后审还是先审后发：“先发后审”：即用户先发表UGC内容 ， 再经过审核；“先审后发”：即用户提交UGC内容后 ， 先经过审核 ， 审核通过后才能发表上线 。
“先发后审”和“先审后发”的适用场景：“先发后审”：适用于对发表内容时效性要求较高的场景 ， 如阅读、听歌等场景下的用户评论 ， 此时用户发表评论更多出于即兴 ， 因此从用户的角度考虑 ， 希望自己发表的评论能够马上看到成功、有效 。 比如：网易云音乐评论 。 “先审后发”：适用于在社区、论坛、新闻平台等场景下发表文章、观点、讨论等 ， 此时对于平台方来说需要对内容负责、并构建权威性 ， 因此通常要审核后才能发表 。 比如：抖音、人人都是产品经理 。
一、审核方式
【人人都是产品经理内容审核基础：审核方式、流程与审核维度】不管是什么内容的审核 ， 都应该包含以下四个基础模块：机器审核、人工审核、用户投诉审核、结果复审 。
1. 机器审核
是按照制定好的规则或机器学习算法对内容进行审核.
通常 ， 成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理 。 确定有问题的会被自动删除 ， 难以判断是否有问题的会被标注 ， 进入人工审核程序 。
2. 人工审核
虽然用户投诉审核和结果复审大多时候也是人工审核 ， 但这里所说的人工审核 ， 特指审核机器无法判别的内容 ， 通常占平台内容数量的比例不超过5%.
但对于一些大型的内容平台 ， 绝对数量已经很多了 。 在内容爆炸的时代 ， 我们看到许多平台在全国都有多个审核中心 ， 每个审核中心的员工数量都成千甚至上万 。
3. 用户投诉审核
是前两者的弥补 ， 有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内 ， 或者非常隐蔽 ， 规则难以严格过滤 。
用户的投诉是发现新问题的重要渠道 。 通过知乎的危机事件 ， 我们更应该重视对投诉的审核 ， 并及时据此对机器审核做出补充 。
4. 结果复审
通常采取抽查方式 ， 比如通过复审机器删除的内容 ， 看规则或算法是否过于严格；比如通过查看人工删除和通过的内容 ， 看员工的工作是否按要求执行；比如通过内容的整体巡查 ， 看是否存在新的问题未被注意到 。
二、审核流程
具体流程 ， 以下图为例：先过机器审核 ， 机器审核 通过 或 不通过；对机器审核不通过的 ， 再进行人工复审；对机器审核通过的 ， 再进行人工抽样审核 。
本文插图
三、审核的四个维度
这里一般都是对四个维度进行审核 ， 关键字审核 ， 用户发布次数限制 ， 重复内容过滤和白/黑名单用户 。
推荐阅读
- 宅客ZhaiiKer|杜比全景声音乐平台Tidal上线，暂只支持Apple TV 4K等少数产品
- cnBeta|惠普今天发布多款笔记本电脑和一些外设产品
- 恋云|每个恒星系都是太空中的一座孤岛
- 黑猫评测|明明都是国产手机，为什么有些人更偏爱华为，却不喜欢小米？
- 界面新闻|快运规模最大的安能物流发布两款高端产品，正面杠上德邦、顺丰？
- |支付宝面试题：如果你是支付宝的产品经理，如何让更多人用支付宝点外卖？
- |传统互联网产品经理正在消失，如何自救？
- 中国电池网|互动交流│常铝股份：向国轩高科供应电池箔产品
- 物流指闻|湖南卫视联手拼多多扶贫直播：超15位明星搭档市县长带货贫困地区农产品
- 驱动之家|专利文件曝光华为正开发屏下摄像头手机：正面都是屏