小红书二季度生态治理报告发布：拦截刷量行为1.3亿次

7月15日，小红书公布2020年第二季度社区生态治理报告，报告显示，小红书当季处理涉嫌刷量笔记66万篇，实时拦截和清理黑产刷量行为超过1.3亿次，巡回拦截和清理黑产刷量行为超过1.3亿次。

此外，在二季度启动的小红书生态专项治理中，重点打击恶意营销、评论区广告引流等用户高频举报的内容。经过一个季度强力打击，评论广告举报量环比降低了44%。

“这意味着用户看到或者感受到的，有反感的内容量明显下降，并且在趋势上也越来越少。”小红书生态治理专项组负责人表示。

在反作弊领域，平台还基于社区关系图，全面使用图计算相关技术，提高了灰黑产识别的覆盖率，使模型每天能够在原有打击量基础上提供10%增力。

小红书方面表示，社区生态治理是一个长期不间断的工作，第三季度将重点放在直播内容治理上，针对恶意导流、低俗直播及不良社会价值导向类直播的进行重点打击。

严打标题党恶意营销 封禁账号终身禁入

小红书在今年4月表示，将在二季度启动社区专项治理，针对社区内经常受到举报的诈骗引流、网络谣言、伪科学标题党、恶意营销、低俗媚俗、传播不良生活方式和不良流行文化以及违规广告等内容和账号进行全面治理。

为此，小红书专项治理团队针对不良社会价值导向的内容进行严格治理，处理了涉黄等色情低俗内容的违规笔记超过1800篇，侵权假冒类内容近300篇，并对涉及上述内容的恶劣账号进行封号清理。

“这类内容不仅让用户产生反感，也容易让外界对小红书用户产生负面误解，平台必须对这些内容坚决地说‘不’，才能引导用户发布更向上的内容，维护社区生态。”小红书生态治理专项组负责人表示，比如‘康笑天’、‘胖妃娘娘’等账号在全网都以同样的“标题党”方式博眼球，标题存在严重误导性，平台不仅封禁了此类账号，并且规定终身禁入。

“一些恶意营销号或标题党笔记和账号背后都有逐利的目的，这类账号更会利用灰黑产技术刷量，占用公域资源，通过一个阶段的专项治理，我们看到“节省”等真实分享的内容获得了更多的呈现空间。”上述负责人解释说，在平台治理已经见到成效的情况下，未来还将继续加大治理力度，持续打击。

近年来，在互联网社交平台、UGC内容平台，时有“抑郁”、“自杀”等倾向内容出现，小红书为此成立了“挽救生命小分队”，针对社区中发现的疑似“自杀”类的笔记，通过快速反馈机制，提供线索给各地警方进行核实及紧急干预。

三季度将着力提升直播内容

随着直播业务发展，低质内容和刷量灰黑产也盯上了直播间的利益空间。为响应国家网信办及相关部门对直播内容生态的监管要求，抖音、快手、小红书等平台先后展开直播间专项治理。

小红书方面透露，平台已经同步展开直播间治理，包括严厉的反作弊打击灰黑产机制，平台已在第二季度公布了《小红书直播规范》，第三季度，平台不仅会继续打击灰黑产，还会把重点放在直播间的低质量、存在不良社会价值导向内容的治理上。

小红书方面表示，平台反作弊机制已经覆盖直播间，实时拦截刷量行为，并在直播间数据中实时进行扣除。平台还积极配合公安机关打击黑产作弊链条和诈骗团伙。

据介绍，小红书已经制定了全面严格的直播内容审核机制，并在二季度发布了《小红书直播行为》规范明确社区规则，对用户直播内容进行实时安全把控，并定期对用户进行直播规范普及。平台还将采取直播间巡视，重点内容监控等方式，对低质量低营养，存在不良社会价值导向的内容进行干预和治理。

中国社会科学院法学研究所研究员、《环球法律评论》杂志副主编支振锋此前曾表示，数字经济大幅度拓展生产生活。以大数据、物联网、云计算、人工智能为代表的信息技术，正在以前所未有的力度为人类赋能，但也给社会治理带来了极其巨大的挑战。

“近年来，以小红书、腾讯、阿里巴巴、百度等为代表的头部互联网企业，积极进行技术迭代，努力健全防控机制，大力开展专项行动，在打击网络灰黑产上起到了重要作用。”支振锋说。

目前，除了持续的迭代策略对抗、加强内容模型识别外，小红书自主开发、升级清理不良内容、打击虚假数据策略模型和治理策略，对有效提升基于行为特征、内容特征等方面的算法模型和策略识别能力在治理中也起到了关键作用。“平台生态治理是一场‘持久战’。”前述负责人表示，在打击黑灰产方面，小红书会坚持到底，绝不放松。