从5W模式入手建立内容审核的体系

1.1948年，拉斯韦尔提出了传播过程及其五个基本要素，即：Who：谁-内容制作人；What：内容-生产者说了什么；Which-InWhichChannel：渠道-内容通过什么渠道传播；Whom-ToWhom：受众-谁接受了内容；With-WithWhatEffect：效果-内容传播后的效果是什么？所有的传播行为都可以围绕这五个要素展开。所有的沟通行为都可以围绕这五个要素展开。所谓的内容审计不仅是识别内容本身，特别是当机器识别不能达到100%的准确性、内容数量本身及其巨大时，通过“监控”每个沟通元素，也是提高机器审计数据维度和提高审计效率的有效途径。5W元素应用于内容审核，对应以下角色环节：Who：生产者可靠吗？是一个“可信”的人吗？他发布不合规信息的可能性有多大？What：内容本身合规吗？Which：渠道要想做好“把关人”的角色，应该如何进行内容审核？Whom：观众本身有异常吗？观众的行为是否合规（如发表不良评论）？WithWhatEffect：传播正常吗？目前，内容审计已通过机器 手动进行，审核机制可以是先发后审，也可以是先审后发。如何选择这些方法和机制，在不影响用户体验的情况下，最大限度地提高审计效率，保证内容安全，保持三者平衡，可以围绕上述要素进行规划设计。二、五要素在内容审核中的应用1.Who：内容制作人的风险评分和标签系统1）建立内容制作人的风险评分，从内容制作人发布的第一个内容开始识别内容。基于静态注册信息和以往行为信息建立初步风险后，根据后续发布的内容进行动态实时调整，建立黑名单系统。例如，如果一个内容制作人之前浏览的内容是金融和商业类型，并且绑定了银行卡，则早期的静态评分可以被视为低风险用户。后续发布的内容在一段时间内多次触发人工审计机制，可以提高其风险水平；然后用户报告他发布的内容，人工审计确实违反了规则，可以根据情况列入黑名单，限制后的内容发布行为。2)为内容制作人建立标签系统，对内容发布人进行画像，实现对异常行为的监控。标签系统可包括用户的性别、年龄、常用地理位置、常用设备、发布的内容类型等信息。一旦某些信息发生变化，就需要重点监控其内容，防止用户被盗号后账户发布不合规内容等异常行为。此外，还可以设置优秀内容制作人等标签，对此类用户发布的内容免审或先发后审。2.What：建立内容审计规则的内容识别规则和手段，一般来说，审计规则源于监管要求和业务政策。1)监管要求的内容不得涉及《网络信息内容生态治理条例》、《网络短视频内容审核标准细则》也对内容审核提出了详细要求。2)业务政策是为了营造良好的社区氛围，确保用户体验，内容不涉及侵权、虐待、隐私、粗俗、垃圾内容等。；为保护平台的正常运营和利益，不得非法发布广告、添加链接等。；为了社区用户的安全，内容不能涉及分流、欺诈等。3)充分利用人工智能等技术手段，实现文本、图片、声音、视频的自动识别，不断提高机器的召回率和准确性。4)建立机器审核和人工审核的流通机制，包括什么情况下触发审核、什么情况下触发人工审核、人工审核是否需要审核等。完善的流程设置对提高效率有很大的帮助。3.Which：1)建立有效的任务分配机制，提高分发效率和审计效率，确保100%的视频分发，并在最短的时间内到达审计人员，并按照一定的规则将视频分配给审计人员。按触发人工审核的原因分发，可使审核人员在某一领域积累审核经验，提高审核效率。2)为审核人员提供“工欲善必先利其器”的配套功能，为审核人员提供辅助功能，帮助加快人工审核。例如，文本审核显示敏感词，标记关键帧，设置音频和视频审核的双速浏览功能，审核信息通过信息流自动显示，减少操作点击链接。4.Whom：通过观众识别非法内容的“线索”1）为观众提供报告功能，一方面可以节省审计资源，另一方面也可以弥补机器和手动审计的错误率。2)建立受众的标签系统，就像传播者的标签系统一样，用户的肖像也可以是内容质量反馈的维度，除了用户的内容推荐。例如，同一内容受到大量不同标签用户的关注。如果内容本身有诱导行为，则需要手动审核确认。3)分析观众聚集情况，分析观众聚集情况，是否过于聚集。然而，这种方法主要用于直播中刷行为的监控。在内容审核中，可以帮助判断内容是否有诱导和非法广告营销。5.WithWhatEffect：通过沟通效果发现内容异常1）通过观看、拇指、转发、评论等监控发现，如果存在风险，后果更严重，应特别注意观看、拇指、转发、评论量较大的内容。此外，这些指标的异常也是一个值得关注的风险点。以前只有100个赞的用户突然赞了1万多个新发布的内容，可能需要手动审核。2)内容识别评论也是内容审核需要注意的部分，以及评论内容的识别。一方面是监控评论是否有违规行为，另一方面是通过关注评论内容中是否有内容本身的报告来审查内容。基于传播元素的完整模式是从5W模式构建内容审核体系。内容审计的重点是识别内容本身，从提高机器审计的召回率和准确性，到提高人工审计的效率，再到建立完整的流通机制，主要从其他因素服务于优化这三个环节。当机器能够准确识别100%的违规内容，甚至具备自学能力，扩大发现审计的“本质”时，也许其他环节就不那么必要了。