江苏龙网

  1. 首页 > 人文 > >

内部员工揭秘：TikTok 竟然这么审核内容

内部员工揭秘：TikTok 竟然这么审核内容
文章图片
【内部员工揭秘：TikTok 竟然这么审核内容】非常时刻 ， 非常办法 。
——
文｜杜晨编辑｜VickyXiao
由于增长、合规等诸多因素 ， 内容审核对于任何互联网内容产品来说 ， 都是一件很难但却又逃不过的事情 ， 更别提TikTok这样一个由中国公司开发运营、在全球都爆红的短视频平台 。
TikTok在短时间内经受了诸多考验和打击 ， 其中许多都和内容审核有关 。
去年大批用户诟病TikTok对于未成年用户隐私和使用体验保护不力 ， 甚至放任恋童癖肆虐；今年年初有媒体爆料TikTok要求审核员对破墙烂瓦或呲牙咧嘴等“视觉上不美好”的内容进行限制；最近美国平权运动大爆发 ， 又有用户指责TikTok屏蔽了游行相关的内容……如果不改进 ， TikTok的全球扩张将面临更多风险 。
躲不过 ， 那就正面上 。 面对这些质疑 ， TikTok决定采用开诚布公的姿态来面对 。
今年三月 ， 它宣布在加州洛杉矶办公室内开设全球第一家面向公众开放的“透明度中心”(TransparencyCenter) ， 为媒体及数据隐私、内容审核方面的专家提供导览参观 ， 让公众直接和全面地了解TikTok内容审核情况 。 不过由于疫情关系 ， 这座透明度中心的开放计划受到一定程度影响 。
近日 ， 硅星人还从字节跳动现任和离职员工处 ， 了解到更多关于TikTok透明度中心的运营 ， 以及整个内容审核机制的细节 。
标签决定一切
根据知情人士透露的情况 ， 参观者在TikTok透明度中心将可以看到内容安全方面的关键流程 ， 也能够亲眼目睹人工内容审核员的工作 。
以直播内容为例 ， 每一位内容审核员将会面对一块屏幕 ， 上面会有多条（最多同时9条）内容的截图 。
这些出现在审核员屏幕上的内容 ， 其来源有两种：
第一种是机器对直播视频进行图片抽帧分析 ， 分析截图中可能包含高风险内容 ， 然后送到人工的屏幕上 ， 审核员主要基于抽帧的结果进行二次分析；
第二种是来自用户举报以及其它渠道 ， 人工操作也类似 。
一位了解TikTok内容审核机制的信源透露 ， 在审核员能够看到这些内容之前 ， 机器已经进行了不止一道预先审核 。 最基础的一道就是分析内容的质量 ， 比如那些纯图片、垃圾内容、竞争对手内容 ， 把这些质量明显最低的内容做“不推荐”处理 。 结果就是不会被出现在非关注用户的信息流上 。
与此同时 ， 机器还会借助预先设计的模型对内容进行更高级的分析 。 这一步自动化操作主要针对的是明显严重违法的内容 ， 比如儿童色情、宣扬恐怖等 。 一旦内容被模型验证成功 ， 就不是简单的“不推荐”了 ， 而是会直接下架处理 。
进入到人工审核阶段后 ， 审核员的主要工作是查看机器提交的截图或直接查看实时视频内容 ， 打上各种标签 。
在较早的1.0版本的TikTok审核机制中 ， 主要的标签是“推荐”和“不推荐”；现在TikTok的内部内容审核系统已经升级到了2.0版本 ， 标签的多样性显著提升了 ， 除了推不推荐 ， 还有“儿童色情”、“裸露”、“性”、“仇恨言论”、“宣扬暴力”、“宣扬恐怖”等诸如此类的大量新标签 。 内容被打上不同的标签 ， 造成的结果不同 。
值得提及的是 ， 一旦视频被打上那些较为严重的标签（包括机器自动标记和后续的人工核查/手动标记） ， 将会自动触发标签预先设定好的对应操作 。
某些标签关联的操作较轻 ， 结果可能是不推荐；至于儿童色情和宣扬恐怖这类的标签 ， 关联的是下架的操作 ， 结果就是直接下架 。
如果在自动处理之后 ， 视频的热度达到特定阈值 ， 还会召回人工再看一遍 ， 确认处理是否合适 。
简单来说 ， 就是标签决定一切 。
这套新的内容审核机制 ， 显著提高了内容标签的数据价值 ， 帮助TikTok更好地掌握平台内容生态的动向 。
类似的内容审核思路 ， 以YouTube为代表的其它顶级内容平台也在采用和 。 （事实上 ， TikTok的思路就是来自于YouTube 。 ）
前几周 ， 有美国用户宣称自己在黑人平权运动游行现场的TikTok直播内容被平台屏蔽 。 此后 ， 包括路透社等权威新闻机构已经对其进行了事实核查 ， 发现并非如此 。
TikTok在当时并没有对游行内容进行屏蔽处理 。 巧就巧在当时平台发生了搜索话题故障 ， 包括#BLM、#Cat等在内的许多话题搜索都无法显示视频播放量 。
根据多位信源透露的情况 ， TikTok目前所有的内容审核功能 ， 全部是逐案进行的 ， 并没有一个针对如此大规模活动实时的、全话题级别屏蔽的操作先例 。
规则和审核操作完全本地化
现任员工透露 ， 具体的内容审核原则 ， 会根据审核对象所在地不同的法律、法规、文化和习俗 ， 采用不同的审核尺度 。
比如在美国消遣大麻使用已经在少数州合法 ， 全国35个州医用合法 ， 如果有来自这些州用户的TikTok视频中出现了对应药品 ， 内容审核就会遵守所在州法律的条文 ， 而其他州用户的类似内容则会被判定为违规 。
同理 ， 诸如仇恨言论、平权、宗教等争议话题 ， TikTok都会在参考各个国家不同的法律法规文化习俗 ， 制定针对性的内容审核标准 。
本周PingWest品玩英文站的一篇独家报道曾经提到 ， 字节跳动正在中国产品团队和海外产品团队之间建立数据和代码防火墙 ， 这项工作已经进行了一年半之久 。
在TikTok的内容审核中台团队 ， 也在进行着切割 ， 一些此前供职该团队的中国地区员工被迫内部转岗 。
字节跳动现任员工透露 ， 在未来TikTok的内容审核工作也会完全本地化 ， 也即意味着：美国的审核团队负责美国本土上传和直播的内容 ， 甚至在美国会设立多个透明度中心 ， 多个审核团队 ， 分别审核不同州的内容；印度团队按照印度法律审核印度内容；新加坡的团队审核新加坡的内容 。
TikTok的计划是 ， 所有内容审核工作都交由本地的团队执行 。 一些重要的国家或地区市场 ， 也会逐步开设自己的透明度中心 ， 让当地公众可以一览平台内容审核的全貌 。 不过目前新中心的开设计划并未启动 ， 毕竟美国第一座中心还未完全落实 。
内部员工揭秘：TikTok 竟然这么审核内容
文章图片
一方面为了实现合规运营 ， 最小化公司面临的海外监管和舆论风险 ， 另一方面也是为了一家现象级中国科技公司史无前例的国际化大计 ， 字节跳动在最近几年内进行了多次大刀阔斧的人力和内部技术改革 。
拆分团队、设立防火墙 ， 以及TikTok升级内容审核系统 ， 都是这些改革的一部分 。
TikTok还在今年三月宣布成立了一个七名外部专家组成的内容审核委员会 ， 包括法律、技术、民权运动和政策等方面的专家列席 。
其中一名委员DanSchunur接受科技媒体TechNode采访时曾表示 ， 他对TikTok主动接受批评、开展合作、做出改变 ， 而非躲避问题的姿态感到印象深刻 。


    推荐阅读


    上一篇：互动式的学习体验-牛听听读书牛熏教机3.0功能试玩

    下一篇：5G离不开华为？还是华为离不开5G？