我们打击过的黑灰产、治理过的内容实例合集 在这篇最后我们聊了处罚体系,把所有处罚方式列出来,但这就会像在刑法中说对罪犯的处罚有死刑、死缓、无期徒刑、有期徒刑一样无用。
这篇会结合刑法聊聊处罚体系设计的一些基础原则,本文包括两部分,处罚目的、处罚原则。
1. 处罚目的
在刑法中两种主流观点
// 因为有了犯罪,所以需要刑罚(报应主义),更多的关注过去,对他的违法行为进行惩罚。
// 为了没有犯罪,所以需要刑罚(预防主义),更多的关注将来,希望未来减少犯罪行为。
对于社区,我们设计时更倾向于后一种为目的,处罚是为了起到预防作用,希望其他人不再继续进行违规。
2. 处罚原则
在刑法中有一些核心观点
// 第一,只有法律才能规定刑法,而颁布法律的权利只属于根据社会契约联合起来的整个社会的代表,即立法者。
// 第二,法官不得解释法律。
// 第三,只有法律规定的禁止行为才能称作犯罪。
// 第四,衡量犯罪轻重的唯一标尺就是对社会遭受的这个危害程度。
// 第五,刑罚与犯罪相适应。
// 第六,犯罪人无论社会地位如何,同样的罪应受到同样的惩罚。
// 第七,刑罚的目的是预防,而不是报复。
// 第八,为了达到预防的目的,应采取温和的,然而是不可避免的刑罚。
// 第九,法律应当规定的清晰明了,使大家都能理解,才能是预防性的。
模仿刑法的核心观点,我们也可以制定一些处罚体系的基础原则:明确性、合理性、危害性、一致性、及时性、威慑性、教育性。
// 明确性:需处罚的违规类型,在社区规范明文列出来,虽然可能会粗颗粒度解释。
所有处罚必须有迹可循,所以可能会涉及到功能:规范文档、新手提示、新手教育、错误提示等。
明确性也助于用户了解违规可能面临的后果。
否则用户的反馈可能会是:为什么不能发?你告诉我了吗?为什么其他平台可以发?
// 合理性:要给予合理的处罚,不过严,不过轻。
不能因为偷了块面包就枪毙,也不能杀了人赔 500 块钱了事。在实际业务中,这一步会最麻烦,更多是“大致、差不多”合理的处罚,很难量化的衡量这个处罚是否过严或过轻。
// 危害性:补充解释“合理性”,衡量犯罪轻重的唯一标准,应该是社会遭受到的危害程度。
根据用户对社区造成的危害来决定应该给到什么处罚,例如批量发帖,可限制发帖功能;恶意金额转移,可限制提现;诈骗,可限制私聊及社区互动;涉黄,可封号等。
// 一致性:违规和处罚一一对应,弱化主观解释空间,用户、风控、业务、审核、申诉等团队的理解要一致。
这一步避免有的同学狠一点,会说全部干掉,因为都是坏用户;有的同学可能会说,不能干掉,因为这是我们的付费用户,教育教育就行了。
这一步可能会涉及内部、外部沟通流程:新增处罚时需一些团队讨论达成共识,新增规则后需同步到各个相关团队,要保证所有团队使用的文档的一致性。
// 及时性:判断违规后,及时处罚,避免用户继续违规
所以可能会涉及:无监督学习模型、风险感知、自动化分析/处置、兜底方案等。
// 威慑性:处罚的目的是预防不是报复,是希望未来更少人犯罪,所以需杀鸡儆猴、具有威慑力。
所以可能会涉及功能:处罚公示
// 教育性:具有教育作用,促使违规用户认识违规行为,并改正。
对于不太严重违规,我们更希望用户能够通过教育变回好用户,不再继续违规,所以可能会涉及功能:用户教育、消息通知等(对应着坐牢来思考这个问题)。
