2017年内容安全十大事件盘点

2017 年是内容大爆发年，以直播、短视频为代表的娱乐视听产品大量涌现，泛文娱产品交互形式更加丰富、UGC信息海量增长，但随之而来的是有害信息隐患对用户体验和企业利益带来的巨大挑战。

另一方面， 2017 年多项互联网内容治理政策相继出台，《网络安全法》正式实施，互联网内容安全在政策和法律监管上表现进一步收紧，对内容平台不良治理能力的要求更加严格。值此年末，网易云安全（易盾）盘点回顾了 2017 年内容安全领域发生的重大事件。

一、2017年 2 月：上海市网信办会同市文广局、市网安总队、市文化执法总队联合约谈熊猫直播和全民直播，就两家直播中存在的低俗色情问题，依法责令其进行全面整改。

二、2017年 4 月：北京网信办等监管部门联合约谈今日头条、火山直播、花椒直播，查处上述网站涉嫌违规提供涉黄内容。个别发布者涉及违规违禁直播内容，责令限期整改。

三、 2017 年 4 月：国家网信办接到网民举报，“红杏直播”、“蜜桃秀”等 18 款直播类应用存在违法违规行为。经核查取证后，国家网信办会同有关部门依法依规在应用商店下架并关停服务。

四、2017年 6 月： 《中华人民共和国网络安全法》、《互联网新闻信息服务管理规定》、 《网络产品和服务安全审查办法（试行）》等一批互联网领域的法律法规正式施行。作为我国第一部全面规范网络空间安全管理方向问题的基础性法律，明确规定不得传播有害国家社会稳定、青少年身心健康的信息。

五、2017年 8 月：新浪微博用户发布称在线教育APP“小猿搜题”社区内容涉黄，随后“小猿搜题”发布声明是另一个APP“作业帮”构陷蓄意抹黑，双方由此互撕并对簿公堂。

六、 2017 年 8 月：国家互联网信息办公室公布《互联网跟帖评论服务管理规定》，规定明确指出，不得向未认证真实身份信息的用户提供跟帖评论服务，并加强“弹幕”管理，《规定》还要求平台实行先审后发制度。

七、2017年 8 月：全国“扫黄打非”互联网低俗色情信息专项整治行动，查处狼友色情直播平台制作、传播淫秽表演视频文件信息超过 20 万个，实时现场直播淫秽色情表演，吸引大量用户付费观看和打赏，涉黄女主播千余名。

八、2017年 12 月：有网民发文质疑360 旗下的直播平台水滴直播将商家的公共空间视频公开播放，涉嫌侵犯公众隐私。周鸿祎对此回应则表示，水滴直播遭遇“黑公关”，背后有人出钱指使。

九、 2017年12月：今日头条、凤凰新闻手机客户端因涉及传播色情低俗信息，被北京网信办约谈责令整改，部分栏目暂时停更。随后，通报集中清理其涉嫌违规的含低质内容的自媒体账号，共封禁、禁言账号上千个。今日头条启动大规模招聘，招聘内容审核编辑 2000 人。

十、 2017 年12月：网民举报QQ日迹圈子里存在大量少儿不宜的黄色视频，核实发现在某些圈子里的确存在大量情色视频，被责令关停。

2017 年，作为领先的内容安全平台，网易云安全（易盾）基于 20 年经验和智能技术，成功服务了数百家内容平台，帮助他们降低内容安全风险和监管压力，知名产品包括秒拍、小咖秀、触电新闻等。网易易盾每天拦截有害信息上亿条，其中比例最大的是广告，其次是谩骂、色情、违禁、谣言暴恐。这两年随着媒介形式的升级，直播短视频成为很多媒体平台的标配，成为新的流量蜜罐，有害信息中音频、图片、视频的比例也在迅速增加。

2018 年，内容风险将成为视听平台最主要的安全风险之一，需要公司高层从战略角度进行关注和把控。如何快速构建符合业务需求的内容安全体系？网易云安全（易盾）内容安全专家提出 5 条建议：

一、重视历史数据清理：结合业务特性，应定期对历史数据进行排查。通过离线分析，及时发现并清理新型变种垃圾，不断完善全链路的布控方案；

二、做好事前防御： 联动用户账户注册保护和登录保护的反作弊手段，从源头发现并拦截有害信息发布者；

三、加强实人认证：针对用户分级管理，加强实人认证，提高有害信息发布者的门槛，内容发布全流程可管理、可追溯；

四、应用智能手段：及时更新或引进第三方的文本、图片、音视频等内容智能检测技术，欲善内容安全其事，先利智能技术之器；

五、建立规范体系：产品内容安全涉及技术、政策、运营、审核等多团队，产品长期发展需及时建立相应的内容安全管理机制、应急处理机制。