比心陪练 在线娱乐大爆发 比心陪练如何破解“治理难题”

2020年初，突如其来的疫情打乱了无数人的假期规划。一时间国内外旅游成了奢侈品，旅游、网吧、体育赛事、线下也受到影响。

无独有偶，疫情下的线下直播娱乐难以发展，但用户的娱乐需求仍需满足，以游戏、网络影视剧、直播、短视频为主导的娱乐内容产业获得了良好的发展机遇。

在网络娱乐大发展的过程中，内容健康再次受到监管部门和互联网公众的关注。如何更好地打击互联网的“黑生产”，维护网民权益和未成年人上网安全，成为业界讨论的热点话题之一。

随着网络娱乐的爆炸式增长，网络环境治理面临新的挑战

截至今年6月，中国网民数量已达9.4亿，比过去5年增长了22%。

描述:2020年上半年中国网民规模和互联网普及率

移动互联网的普及已经让网民在不同的平台上拥有了自己的“虚拟身份”。基于虚拟身份的社交网络提高了用户之间的沟通效率，拉近了陌生人之间的距离，但也带来了一系列问题，如网络欺诈、内容违规、色情暴力等。这些问题与大川网络的黑灰制作密切相关，所以平日里都隐藏在各个网络的角落空。

与互联网安全相关的法律法规和监管政策不断完善。越来越多的互联网黑产品被法律制裁，数百个涉嫌违法违规的平台被处罚甚至取缔。随着网络娱乐的爆发，这些平时隐藏的黑灰色产品趁机进一步“扩张”。网络环境治理面临新的挑战。

2020年7月，国家网络信息办宣布启动未成年人暑期网络“清朗”专项整治行动。除了内容和价值观扭曲的电视剧和UGC音视频作品，黑灰色产品较多的游戏和社交应用的非法内容也是此次整治行动的重点。

除了网民举报和监管部门管理外，平台也意识到内容自查和自查的重要性——互联网违规行为不断变化和升级。只有通过持续的技术和运营投入，才能搭建内容安全屏障，有效抵御违规对平台的侵蚀，有效识别和抵御违规，确保平台的安全健康。

电子竞技游戏作为国家新经济产业的重要组成部分，从无到有孵化出众多明星企业，在2020年网络娱乐爆炸阶段备受瞩目。

以在线电竞陪练行业的头平台为例，其用户数已达5000万，为全国600多万电竞陪练老师创造了就业机会。据陪练统计，仅2020年第一季度，平台就新增陪练神102多万。到目前为止，已有近150万人通过在心与心的对练平台上分享游戏技巧赚取收入。平台发布的官方数据显示，2019年全职电竞陪练月收入约7857元，兼职电竞陪练月收入约2929元。

电子竞技游戏中陪练的价值已经逐渐被社会所认可，并广受欢迎。然而，当用户规模达到一定规模时，电子竞技游戏由于其自然的社会属性，也面临着内容安全治理的新挑战。

平台、监管、用户、第三方、多元治理是网络娱乐的健康发展趋势

在不久前结束的“2020年音视频直播行业绿色内容生态共建峰会”上，南方都市报大数据研究所网络内容生态治理研究中心发布的《互联网音频社交中“软色情”侵权风险研究报告》显示，多元参与、协同治理是网络内容生态建设的趋势，其中平台企业的主动性和参与性尤为重要。

图片描述:2020年音像直播行业绿色内容生态共建峰会

很多在线娱乐平台已经率先与用户、监管部门、第三方联手，探索多方治理，维护网络安全空。

“我们在走访行业时发现，用户往往是非法内容的第一发现者，近30%的返回内容来自用户的举报。所以动员用户，共同守护网络的安全和健康空是非常重要的。Bixin也做了很多鼓励用户参与平台治理的措施。“据碧心陪练相关负责人介绍，为了鼓励平台用户积极参与平台内容的生态管理，碧心陪练针对违法信息举报系统推出了多项新措施:一方面方便用户举报，在线客服也可以替代用户。直接发起举报行为；二是利用AI算法的能力，使系统能够自动生成报表。比如，目前对于涉及色情的用户，每天都会独立挖掘相关违规行为，每天都会主动拦截和攻击400多条与色情相关的内容。”同时，比信还推出了用户举报激励制度。根据用户举报违法信息的行为，建立激励机制，根据采用情况给予相应奖励，每个用户单日奖励最高可达1000元。许多用户已经因举报非法内容而获得奖励。”上述负责心连心陪练的人透露。

除了鼓励用户参与平台治理，积极配合监管措施外，作为国内用户数量最多的电竞社区，碧心陪练在平台内容安全机制建设方面也做了很多有效的探索。“现在比心有5000万用户，所以用户量大的在线社区对平台的自治能力提出了非常高的要求。”上述比信负责人表示，比信陪练平台的安全业务和生态治理已经从最初的一人一制，发展到由实时风险管控平台、线下风险管控平台、内容审核平台、资金安全平台、报表处理平台、用户投诉平台组成的“六大平台”，与业务快速发展同步，风险管控审计维度的技术、资金、人力成本投入逐年增加。

值得注意的是，互联网平台上非法内容衍生裂变的形式越来越多样化，形式晦涩难懂，难以捕捉和拦截。在一些场景中，有一个有组织的黑白制作操作。通过不断尝试弄清楚平台现有风险控制策略的规模和特点，也是对平台技术的更高挑战。

上述比较培训负责人表示，为了应对平台安全的新挑战，公司引入了数字技术(Digital Technology)等风险控制技术领先的第三方，以补充资源和技术，共同构建风险控制策略和安全池。

“平台在内容上的自审和自审很重要。”上述负责人表示，为了加强内容安全建设，碧新在内容审查维度大力推进人机融合策略——机器负责捕获和拦截常规敏感内容，人工审查团队负责筛选由符号称谓等变体组成的非法内容，并部署300多人的人工审查团队，设置“初审、质检、终审”多重屏障，过滤拦截色情、暴力等非法内容。

在今年8月进行的自查自纠中，碧心陪练提升了风险管控体系的监管水平，利用基于社区连通图的帮会挖掘技术，分配了3倍以上的日常审核人力，对历史内容进行了全面的审核。与此同时，碧心陪练也加大了全平台内容监管的规模和处罚力度，彻底清理拦截违法有害内容，净化内容生态环境。

据碧心陪练相关负责人介绍，公司成立六年多了。随着业务的快速发展，投入风险控制审计维度的资金成本和人力成本也在逐年增加。目前，公司风险控制和审计团队有400多人，日平均数据处理能力可达6万多，月平均数据处理能力可达2000多万。

“去年，我们在人工智能技术R&D合作、第三方风险控制系统接入和风险控制审计团队等方面的人力成本投资达到了几亿元，公司未来将继续增加在这方面的投资。”上述负责人告诉氪36。