弹幕审核与直播监管 - 好文

<>1.直播行业现状、问题与监管方向

<>现状:

近年来，随着网速的提高以及移动智能设备的普及，用户观看视频的习惯和需求已经被培养起来，短视频与直播成为业界公认的媒体“流量黑洞”。CNNIC发布的第41次《中国互联网络发展状况统计报告》显示，截止2017年12月，我国网络直播用户规模达到4.22亿，较2016年增长22.6%。[1]据人民网报道，2016年7月11日，网红“papi酱”在8大网络直播平台进行直播，一小时内观看人数超过2000元，点赞人数过亿。

2018年直播市场规模在300亿，2020年可能是800亿，会有约30%的增长。预计直播将成为除游戏外第二大娱乐市场，超过中国电影市场。而据中国产业信息网数据，中国直播市场复合年增长率高达104.4%，预计到2022年将增至1100亿元。

<>问题：

在网络直播市场日益火热的同时，其背后隐藏的监管风险也不容忽视。为了争夺流量、博取眼球，一些主播公然传播淫秽色情、暴力谣言，为了争夺市场，平台利用“网络推手”进行恶意竞争，个别网络直播平台更是包庇、放纵网络主播，更有甚者，大肆营销低俗事件，导致直播市场乱象频出。

<>监管：

为此，原国家新闻出版广电总局（国家广电总局）、国家网信办、文化部等相关主管部门不断完善行业管理制度。2016年9月，原国家新闻出版广电总局印发《关于加强网络视听节目直播服务管理有关问题的通知》，重申“互联网视听节目服务机构开展直播服务，必须符合《互联网视听节目服务管理规定》和《互联网视听节目服务业务分类目录》的有关规定”；2018年3月22日，国家广电总局发布《关于进一步规范网络视听节目传播秩序的通知》，坚决禁止“给存在导向问题、版权问题、内容问题的剪拼改编视听节目提供传播渠道”。2017年，国家网信办首次根据《互联网直播服务管理规定》依法关停了红杏直播、蜜桃秀等18款传播违法违规内容的网络直播类应用。文化部部署全国29个省份的文化市场综合执法机构开展查处工作，对ＹＹ直播、龙珠直播、火猫直播、秒拍等50家主要网络表演经营单位进行集中执法检查。2018年2月，国家网信办专门针对低俗媚俗、斗富炫富、调侃恶搞、价值导向偏差等问题对网络直播进行专项清理整治，合计关闭直播间540余个。

<>方向：

法律：直播具有主体的多元性及发展的多样性特征，行业监管的协调联动以及行业与平台自律尤为重要。在强化直播行业体系化立法的同时，各个监管部门加强协调，做好行政执法联动。

行业规范：在行业与平台自律方面，2016年4月，百度、新浪、搜狐、爱奇艺、乐视等20余家从事网络表演的主要企业负责人共同发布《北京网络直播行业自律公约》，承诺“网络直播房间必须标识水印，所有主播必须实名认证，对于播出涉政、涉毒、涉暴、涉黄内容的主播，情节严重的将列入黑名单，审核人员对平台上的直播内容进行24小时实时监管”。
技术：目前，各大平台也均不断强化了其内容审核与技术建设，平台应该引入与研发内容过滤技术。

<>2.直播与弹幕

<>直播的实时互动性表现途径：弹幕

当前直播平台的主要特色在于弹幕及其衍生功能所带来的实时互动功能，利用弹幕技术发出的符号既具有各式各样的形式，如文字、表情、虚拟礼物等，他们具有不同的功能，如语言交流，表达情感，奖励打赏等。相对于从前单纯由文字、图片、语言组成的虚拟实时社交互动，网络直播更加注重人体感官的多方位接受，使传播的距离被进一步拉近。

<>直播监管与弹幕审核

直播内容监管：视频与弹幕
视频信息量太大，需要对每一处视频进行图像处理，而且由于直播的实时性，对图像处理速度要求很高，目前技术难度较大
而弹幕的表现形式为文本，信息量较小，而且目前文本挖掘处理技术较为成熟，处理速度可以满足直播的实时性
因此，对于直播的监管应该着力解决对弹幕的分析与挖掘，通过发现不良违法直播与弹幕之间的关联，实现对弹幕内容的监管，进一步实现对直播的有效监管。

<>3.弹幕的管理现状

除了主播层面，弹幕作为直播平台拉动主播与观众最主要的互动方式，作为满足用户社交需求的最重要的手段，问题也非常突出。基本上，所有直播平台或多或少都充斥着黄暴、骂战、恶意刷屏等违规弹幕，严重影响了用户观看直播的体验，传递了不良的社会价值观，影响了直播平台的声誉，使企业随时面临风险。
部门监管：目前尚未见到直播平台有明文的弹幕管理方案出台，亟待政府部门加强监管引导；
技术研发：直播平台自身也要提高重视，从技术、人力、机制等方面加大投入，屏蔽违规弹幕，保证绿色健康发展。
网易云盾提供的文本检测接口：

人力：网警，房管

机制：用户举报机制，例如日本弹幕视频网站始祖NICONICO的做法，NICONICO上的弹幕虽然无法删除，但视频的UP主可以对某些弹幕实行“屏蔽”。而对于用户来说，在弹幕按键旁，有一个拉黑按键，即可以和其他用户共享黑名单。被多数用户拉黑的弹幕将不会显示，该功能只针对当前视频的弹幕，并不针对用户，所以被称为“云屏蔽”。

<>4.弹幕文本特点：

1数量庞大。直播过程中，观众除了被封禁或者禁言外，都可以通过手机、Pad、PC等设备不限条数、不限地点地随时发弹幕。调侃聊天，参与互动，弹幕可以围绕主播以及主播直播的内容展开，也可以发散开去，天马行空，聊完全不相干的话题。发送弹幕的便捷性及互动内容的随意性决定了热门直播间的弹幕数量非常庞大，部分主播的直播间观众开启弹幕后可能都完全看不到画面。

2实时性。弹幕之所以叫弹幕，就是因为它一发出来就从屏幕上像子弹一样一闪而过。目前绝大多数直播平台的弹幕都是实时的，这种实时性要求弹幕的违规处理必须前置，根据规则进行过滤，不进行展示，才能达到完美效果，后期发现了再处理只能是补救措施。这种实时性的需求也加大了弹幕管理的难度。

3隐蔽性。现在的弹幕形式多种多样，可以发在不同的位置，用不同的颜色，也可以通过代码制作一般弹幕无法做到的功能和形状。部分违规弹幕往往同大量彩色弹幕一起出现，或者出现在比较不引人注意的位置，逃过审核人的审查；有的甚至在发违规弹幕时增加房间的弹幕厚度，或者先发一些高级弹幕干扰巡查审核人员。

4文本的不规范性。弹幕作为一种青年亚文化的表现形式，其语言的表达往往过于随意，无标点，且存在大量非传统字典所包含的词汇，这在很大程度上增加了机器通过语义和字典匹配来进行机械切分的难度。

<>一.针对弹幕特点，如何利用算法（模糊搜索情感分析等）实现弹幕审核的及时性、准确性

主要解决弹幕维规问题、弹幕水军屏蔽，净化直播画面。
准确性要求：如何在不失“弹幕”文化乐趣的前提下，行好审核这把尺，这是弹幕分析算法需要正视的问题。

<>二.发现弹幕与直播之间的关联，通过弹幕审核来实现直播的监管

弹幕特点（羊群效应，波峰效应等）与直播内容间的关联分析，通过弹幕分析实现直播监管

<>其他问题研究：挖掘弹幕的其他价值：商业价值（广告投入）、优化用户体验（个性化弹幕）、弹幕信息结合其他直播信息联合挖掘等。

热门工具换一换