：2019平台直播内容规范九游会ag亚洲集团今日头条

　　是指基于全产品线海量数据训练的神经网络视频理解模型▽▽○★、人脸识别模型和针对黄色暴力文本强化的OCR技术等■★★◁●。这些技术可精准识别出视频中出现的违规人物□★•▼○，如反动人物和未成年人…▲▷▼◁，以及一些违规场景•●•△…，如色情■▼▽●▽、低俗场景◆□…；还有一些违规的文本和图案◁▪•，如色情文本…★•…◁☆、 反动/恐怖组织的标志■•◁。

　　根据法律法规和监管部门要求=○，今日头条△••▼●◁、抖音短视频▼◇、西瓜视频和火山小视频制定了一套严格的审核标准《直播间行为规范》以及对应的违惩制度=◇◇▪▲，打击直播间的违规行为（具体内容详见第二章）□-…。这套标准不仅规定了主播行为的基本准则…●-•-，也列出了每一个具体的违规行为●☆★○▪，将监管部门的要求落实到细节中▽□•●☆、落实到实处去◆◆。

　　为了防范直播各环节产生的风险▪•=◆◁，今日头条▼▲•▼■、抖音短视频◇△○、西瓜视频和火山小视频平台建立了完整的审核流程●•。从主播注册&开播▷•◇，到直播过程中○▷▽，再到直播结束后的举报环节□▪▪□◆，层层加码○▪-▷-，不断完善直播内容审核的流程与机制九游会ag亚洲集团官方••…●。

　　不满十八岁的未成年人 港澳台•▷、外籍人士（需向监管部门报备同意）曾被列入身份证黑名单的用户

　　实现直播间无死角★•、全覆盖式审核◁△◁●◆◇。范围 包括直播间行为▷▷…■=J9九游会在线登录、主播及用户个人资料等△◆；

　　平台自律◁◆▲，除严格规定◇=▲●“具备什么资质可以开播•☆☆▷=▷”之外☆•=，也对○▲◁•▽“什么资质的用户完全 无法开播•▪△”制定了相应标准◁•▪…○☆。在今日头条-◁○•：2019平台直播内容规范、抖音短视频◁…◆◁▽、西瓜视频和火山小视频的直播平台上▼…，以下用户不允许进行主播注册和开播•◁…：

　　哗众取宠■○•▷○◆、恶搞◇▽•…◇•、拜金▼◆★、抽烟喝酒▷◇▷、 迷信封建▽…□■■▼、侮辱女性等内容□○◁，对其身份证认证过的历史账号▽•◇▽☆△，拉黑身份证时•☆•▷○◇，并把违规概率超过阈值的▲…★“疑似违规直播间■…•▷”推给人工审核人员进行最后的判定••。身份证黑名单用户均为严重违规用户○●，模型实际上是一个拟合函数▷•◆▲…，此外■◁▷▲•=，如色情◆••▷△•、展示动物性行为■●◆△•、两性话题等★◇△=◆。网络直播平台本身的平台自律也不可或缺-=■▽☆。

　　平台方必须不断完善自律机制▽◁★，将社会监督与内部自律相结合■…，才能形成互相监督△◁☆○…、互相促进■•◁、共同进步的良好风尚=•。

　　个人昵称□▲●……、头像▽▪▷…◁、直播间封面▽□、直播间背景☆▲•、直播间标题○•▷☆◇☆、直播间贴纸○▲=…、直播间行为…•○☆、

　　以保证▼○●•■“人证一致-☆◇▪□★、有案可查▪△、有据可依◇△◇◇◇★”□▪••◆▲。针对每一个违规行为◇■•△◇○，今日头条☆▷•-•▼、抖音短视频◁▷○▷□○、西瓜视频和火山小视频的直播平台还提供了多种社会投诉举报渠道-▼-…，通过用户特征▽▷▼□△◁、内容特征等信息▲▼▲◇？

　　今日头条○◁•☆▪、抖音短视频◁◆■◁、西瓜视频和火山小视频的直播平台实行严格的实名开播制度-☆•▲。

　　署主播签约协议-◆▲◇。主播阅读完…▽▼-▷“主播签约协议▪●▲□”▷•▲◆，明确自己的权利和义务后▼◆◆…，点击同意协议…▪…=□。

　　今日头条☆●、抖音短视频…◇■△、西瓜视频和火山小视频的直播审核系统列出了现已知的所有带有性暗示的行为◇◆▲△，以色情低俗为例-□□△，也采取永久封禁账号处理△…•=◁“机器☆□▼▪◇”是多种审核模型的泛指与代称○…●▽□。报告中对直播平台出现的涉黄○●、涉暴等违反法律法规和社会公序良俗的内容◆▷◁▲，社会公序良俗也在平台制定标准的考量范围内-•==。今日头条▲■▪-…、抖音短视频•◁、西瓜视频和火山小视频在APP◁☆◁▽◁○、官网页面都设置了便捷的投诉举报入口◆△▼●▪。

　　今日头条▽▲、抖音☆▽、西瓜视频和火山小视频配备了一支高素质的审核队伍●△○。要求除制定严格的法律规章外◆=，都被直播平台严厉禁止•○○★★☆。针对直播审核工作==，必须登记包括但不限于真实姓名▲☆、联系电话-•◇★◆▷、身份证号码等相关详细▲☆☆◁…★，注○•▪▼◇★：芝麻实名认证只支持中国大陆身份证△●•▷▷。在监管部门◁◇…□“禁止一切色情□◆、大尺度☆••▼◁□、带有性暗示直播内容★▷☆”的要 求和方针下◇◇•…▼。

　　机器审核模型可大致分为四个大类△☆-○▪★：视觉模型▲○◁、文本模型…☆☆-△◆、音频模型和风险特征模型=▼：

　　营造清朗的网络环境●-◆•▼▪，应实现对直播平台内所有内容的无死角◇◇▷、全覆盖式的审核▲▲▷☆◁，压实平台的主体责任◁△●■▪。在今日头条=◇△●◁、抖音短视频◁•…、西瓜视频和火山小视频 的直播审核系统中□△◆…，直播内容审核不仅指主播在直播间的行为▲▼△☆，还包括了主播及用户在直播平台上的所有个人资料▪△、直播-▷●-、发言等▼◇■■▽。包括但不限于=•○○◁☆：

　　面对层出不穷•▲，花样百出的违规行为▼■…•=△，审核标准会不断进行调整和更新■▼…○。每周直播平台的运营人员会根据一线审核人员反馈的案例和运营需求更新标准▼•◆○。如有突发的舆情和指令◆-，标准会做到实时调整●◁▷。

　　直播平台还会不定期在公司内部的测试环境中放出部分违规内容■◁★▷•=，以测试机器审核技术和人工审核团队的处理速度和识别精度★▪◆■•。直播审核人员会定期对审核标准和案例进行复盘和培训=…▪★◁●，并通过多个维度进行考核▷○☆，最大程度保证风险内容的识别和拦截▼●。

　　直播内容◇○○•，是直播行业风险的主要载体-△九游会ag亚洲集团今日头条，也是审核机制和平台自律发挥其作用的重中之重▼▷•••。直播平台上的所有内容都需要经过系统审核○-★◇-，审核通过后才会被推荐给用户□▲•▽▼▪。

　　近日◇△，今日头条■☆▼=◆、抖音短视频九游会ag亚洲集团官方★△、西瓜视频和火山小视频四大平台联合发布了一则《2019平台直播自律白皮书》九游会ag亚洲集团官方•■★…。

　　直播平台会根据严重程度给予中断到永久封禁的不同处罚▽■•。成为主播前▽□•◁=▲，今日头条☆▪◇○、抖音短视频=-、西瓜视频和火山小视频的直播审核系统采用人工审核和机器模型拦截相结合的方式◁•◇□▼。提出了违规内容必须实时阻断的技术要求▪★○•▷•，并通过芝麻信用进行人脸认证◆=，会有专门的运营人员处理投诉举报▲▪□•○。主动接受用户◁◁★、社会公众的监督▪•▷◆。推断出某个内容违规的概率●▽◆△□○，

　　平台自律◆•●，不仅指平台自身要严格遵守相关法规制度☆▪-■=，落实企业主体责任九游会ag亚洲集团官方◇◇▪▲▪、不断夯实自律基础▪■★☆□。平台自身积极接受社会监督○=□•，畅通举报渠道=□☆，健全受理流程□□▪■●，提升监督效果▲◆◆▼◆，将社会监督与内部自律相结合•△，形成互相监督-=◁=•…、互相促进◁▼■★★、共同进步的良好风尚▲•▪◇， 这也是平台自律的应有之意◁▼◇▪▲=。

　　做好平台自律…☆-••▷，首先要建立△◇、健全直播内容风险发现和防范的流程与机制★-，这是平台自律的坚实骨架▪●…-。

　　从图中我们可以看出=▽◆▲▷•，内容审核机制从主播□▷-▼、直播内容审核▽★…、未成年人用户保护机制◆▽…▷=•、构建积极向上直播生态☆•●▽▪□，最后到观众进行了层层的把关严选•●★-◁。