图片来源于百度搜索
⑦ 针对性拉人
一些黑产组织会定位并接触核心玩家，向他们发送针对性的内容，以吸引这些玩家流失到他们的游戏中。尽管这种行为属于内容风险的范畴，但有些内容很难被准确识别。例如，为了赢得核心玩家的好感，黑产会采取长期策略，开始时聊一些无关紧要的话题，逐渐建立关系，然后再提及其他游戏，例如：“这个游戏不好玩，来玩XXX吧”。在这种情况下，依靠内容风险的拦截可能已经为时已晚。
因此，针对这类风险，更应从行为风险的角度进行防控，识别那些频繁与核心玩家联系的黑产账号。
3）竞品行为风险
竞品行为风险是指游戏行业中友商进行的非正当竞争行为。其中最常见的一种是爬虫抓取数据等行为。友商利用脚本技术获取厂商的游戏区服、用户信息和社区内容，这些行为构成了不正当竞争，给厂商带来了损失。
4）内部行为风险
内部行为风险是指游戏行业中内部成员所产生的风险，例如借用内部账号、贩卖内部账号以及向正常玩家出售游戏资源等行为，这些行为给厂商带来了损失。
3. 账号风险
账号风险涉及游戏行业中用户账号安全的相关问题，主要源自黑产对用户账号以及用户之间的攻击。当用户的账号信息、密码等被泄露或窃取时，可能导致账号被他人盗取，进而对原账号主的利益造成损害。举例来说，盗号者可能利用原账号主的账号发布违规内容，进行违法犯罪行为，或者直接出售盗取的账号。
二、游戏行业风险特征根据之前文章《浅谈风控系统的建设》的总结，业务风险都统一有以下特征：
- 无穷无尽：风险无法根除，利益驱动下黑产层出不穷。
- 高强对抗：风险防控是一场持续不断的技术对抗，双方技术能力螺旋上升。
- 高本低效：风控的成本高，但性价比低，并不能直接带来收益。
- 人力兜底：在当前阶段，基于AI防控规则的召回率与准确率很难达到平衡，因此仍然需要一定程度的人力兜底。
而游戏行业的风险在这些特点的基础上，还具有以下特征：
1）实时性要求高
游戏行业相关的风险防控都大多对实时性要求较高。
游戏内的实时内容，如文字和语音聊天，占据了很大比例。为了确保良好的玩家体验，这些内容需要能够及时发表，以避免对玩家造成不良影响。此外，行为风险的防控也是游戏行业中一项对实时性要求较高的任务。如果无法及时阻止玩家或黑产的违规行为，将会对游戏产生较大的负面影响。
2）风险对抗强度极高
在游戏行业中，存在着多种获利途径，如刷账号、刷广告、代充和卖外挂等。这些获利机会吸引了黑产，使其在游戏行业中获得了较大的空间。黑产不断升级其技术，挑战游戏厂商的反黑产能力。由于黑产具有专业化、职业化和利益链复杂的特点，游戏厂商往往难以全面防控这些黑产风险。
例如，外挂作为游戏中一种无法彻底禁止的现象，几乎伴随着每款游戏的出现。为了应对外挂问题，有的游戏厂商不仅需要提升自身的风控技术，还需要借助法律手段。以《永劫无间》二周年发布会为例，该游戏曾公开展示了与外挂制作团队斗智斗勇的成果，成功端掉了上百个外挂制作窝点，并抓获了超过40名犯罪嫌疑人。
图片来源于百度搜索
3）标准化难度高
在游戏行业中，建立一套标准化的风险防控体系并不容易，与其他行业相比，游戏行业面临着以下挑战：
① 游戏类型的多样性：游戏可以被划分为多个类型，如RPG、ACT、AVG、AAG、SLG、SRPG、RTS、FTG等，而且这些类型可以相互组合形成新的类别。随着游戏行业的发展，还会不断涌现新的类型。不同类型的游戏强调的方面也不同，例如一些强调团队协作的游戏（如MOBA和FPS）需要提供实时的语音和文字聊天功能，这要求风险防控系统能够实时应对风险。
而一些强调社交的游戏（如RPG）则需要对自定义装扮进行审查，以避免出现风险内容。例如，《动物森友会》这款游戏具有高度的自定义能力，但这也使得一些团体可以自由发布涉及政治和黄色内容等违规内容。在国内运营的情况下，这将对游戏的运营产生影响。
② 游戏功能的差异性：即使是同一类型的游戏，具体的功能也会有所不同。例如，一些RPG可能强调开放世界探索玩法，而另一些RPG则可能强调关卡副本式战斗。对于不同玩法的游戏，黑产的行为规则也会有所差异，因此我们的黑产识别特征规则需要进行定制化设计。
③ 游戏内容的差异性：不同游戏之间存在着内容上的差异。有些游戏是军事战争题材，而有些游戏则是剑与魔法题材。在内容防控方面，一般会屏蔽与党政军相关的内容，以避免玩家发布相关违规内容。
然而，如果在军事战争题材的游戏中也限制与军队相关的内容，那么玩家发布一些正常的战斗交流内容，如“打仗”、“军队”等，也可能被内容防控规则误判，从而极大地影响玩家的游戏体验。因此，内容防控规则需要根据游戏类型进行定制化。
④ 游戏运营策略的差异性：每个游戏对于风控策略的要求都不同，这受到游戏特性、防控成本、地区政策等多方面因素的影响。有些游戏过于强调单机体验，因此外挂和脚本对游戏的影响并不大，对于这些内容的防控可以不需要投入太多精力。
有些厂商在考虑到风险内容“高本低效”且人力有限的情况下，可能会允许一定量级的中低风险内容存在，以避免过度消耗人力。如果游戏发行的地区是海外，那么相关的内容防控要求可能相对较低，可以相应调整防控的严格程度。因此，厂商需要针对不同的游戏采用不同的策略，以实现“以最小的成本达到预期的风险防控建设”。
以上提到的差异增加了风险防控的标准化难度，因此在不同游戏之间需要考虑定制化的方案：
- 针对不同游戏的类型、功能和内容，需要结合考虑可能存在的风险类型，并引入相应的防控技术方案。
- 根据不同的运营策略要求，需要定制不同的防控策略。
之前文章《浅谈风控系统的建设》总结过，风险防控系统的业务模块可以分为“风险预防”、“信息采集”、“风险识别”、“风险应对”四个环节，而这四个环节也同样可以套用在游戏行业的风控功能模块建设上。
1. 风险预防
游戏行业中针对内容风险、行为风险和账号风险的预防措施基本一致，主要包括用户教育、规则限制、人机校验和身份验证等方面。
1）用户教育：针对游戏内的风险，风控团队可以与运营部门合作，制定适用于游戏的风险防控规则。同时，运营团队可以在玩家可见的位置进行公示，以进行用户教育，并明确违规行为可能面临的处罚。
2）规则限制：为了应对游戏内产生的内容风险、行为风险和账号风险，游戏厂商可以制定一些限制规则，并在可能产生风险的环节进行限制。对于内容风险，可以进行发表频率限制，例如，在实时聊天频道中可以设置文本发表频率限制，如每1~2秒一次，以允许玩家进行连续聊天，但限制机器高频刷屏行为。在社区发帖中可以设置几分钟的限制，以避免无意义的灌水对社区生态的影响。
对于行为风险，可针对高风险行为的入口限制操作频率，例如，厂商可以限制一个设备在一天内只能注册2个账号，以提高黑产刷量的成本（黑产需要购买设备储备以绕过这个限制）。
对于账号风险，可以进行异地登录限制，例如，拦截账号在短时间内在不同城市之间的登录，以防止潜在的账号被盗行为。
3）人机校验/身份验证：针对被标记为高风险用户的情况，可以要求用户进行人机校验或身份验证。这样一方面可以限制机器行为，另一方面也可以增加黑产实施违规行为的成本。
2. 信息采集
游戏行业的信息采集可以分为基础数据采集、风险情报采集。
1）基础数据采集
风控系统需要提供一套完整的基础信息采集方案，用于给到各内容产生系统、各行为产生系统、各账号相关系统进行相关数据的上报，以用作风险识别和应对的依据。但是信息采集也存在一定的挑战：
① 数据采集的不全面问题
为确保风险识别和应对的效果，信息采集需要全面覆盖。然而，在实际与各系统的研发对接过程中，由于两方部门的意识不对齐，且游戏内外与内容、行为、账号风险相关的位置众多，可能导致信息漏报的情况。因此，负责风控系统的中台部门还需设计一个验收环节，让熟悉这些系统的专业人员检查信息采集系统是否覆盖全面。
② 黑产的采集欺骗
技术娴熟的黑产可能采用各种手段绕过信息采集，或伪造虚假信息进行上报，使我们难以准确识别和应对风险。因此，风险控制系统的信息采集模块需要考虑如何应对这些风险。我们需要在客户端层面拦截绕过上报或数据篡改的数据，并在服务端层面识别和过滤绕过和篡改的数据。例如，设备指纹识别技术可帮助我们识别黑产的数据篡改行为。
2）风险情报采集
除了基础信息采集，还需要采集来自各个业务线的内部风险情报，如用户举报和其他业务线的反馈。这些风险情报途径能够挖掘出一些意料之外的风险内容，以便及时应对视野盲区中的意外风险。例如，玩家之间的作弊行为往往很难通过规则识别发现新型外挂。我们需要依赖受到外挂影响的玩家反馈，以及时应对外挂，并增强对这类外挂的识别能力。
同时，我们可以采集外部的风险情报，如实时敏感热点、竞品动向、新型破解技术等，以及时补充我们的风险识别能力。
3. 风险识别
1）内容风险识别
内容风险识别通常采用敏感内容库、风险识别AI和人工审核这三种手段。根据不同的运营策略，我们将内容划分为“高风险”、“中风险”、“低风险”或“无风险”，以帮助我们决定如何处理这些内容。
对于实时性要求较高的内容（如玩家的实时聊天），我们可以采用敏感内容库和风险识别AI进行事前识别，以提前应对。为降低误判率，我们应重点关注高风险或高准确率的识别内容。
此外，可以通过人工审核的方式进行补充审核，以防遗漏。对于实时性要求较低的内容，我们可让内容经过敏感内容库、风险识别AI和人工审核三个环节的完整识别，然后再发布，以确保内容的安全性。
2）行为/账号风险识别
行为/账号风险识别通常采用风险规则库、人工审核和黑名单等手段。我们针对风险行为/账号进行特征提取，从而总结出风险识别规则、人工审核判断依据和黑名单列表等内容，并将行为/账号风险划分为“高风险”、“中风险”、“低风险”或“无风险”的等级，用于辅助判断如何应对风险。
例如，对于黑产的脚本行为，我们可以通过抓取脚本号的行为来识别其共性。假设脚本角色通常按顺序依次使用ABCD功能，并在固定的时间节点升级到1234等级，那么我们可以建立一个规则描述这些共性行为，并识别出高风险的脚本角色，用于后续的处罚。
无论是内容风险、行为风险还是账号风险的识别，我们的识别手段都可能存在漏判和误判问题。因此，在正式上线识别策略配置之前，需要安排灰度环节，以观察效果并判断是否上线。我们可以使用召回率和准确率作为指标来衡量，并辅助判断是否上线。在上线后，我们还需要根据实际的防控效果来调整识别功能，以确保召回率和准确率都在业务可接受的范围内。
例如，我们使用敏感内容库来识别游戏中新出现的广告文本，风控人员采用了正则规则的配置方式。假设这个正则表达式写得不好，可能会误*正常玩家的聊天发言。因此，在正式拦截玩家发言之前，我们需要先观察该正则规则的准确率和召回率情况。如果误*和漏判在可接受范围内，就可以安排上线规则。
4. 风险应对
1）内容风险应对
游戏行业中对风险内容的应对方案主要包括禁止发表、屏蔽或替换、仅发布者可见和强制下架等措施。
2）行为风险应对
游戏行业中对风险行为的应对方案主要包括行为封禁、坐连封禁、警告提示、人机/身份校验。
此外，对于超承载量行为这类非玩家主观产生的风险，则可采用扩容方案、高防方案、限流方案、服务中止方案的应对手段。
3）账号风险应对
游戏行业中对风险行为的应对方案主要包括账号冻结、安全校验。
上述是一些常见的风险应对手段。然而，在确定何时采用何种应对方案时，需要根据风险控制策略进行决策。我们可以根据不同的风险类型、风险等级、识别精度和运营要求来定制相应的风险控制策略，以实现“以最小的成本达到预期的风险防控建设”。
为了管理和控制特定游戏采用的风险应对策略，并实时跟踪这些策略的效果和表现，系统可以建立一个“配置中心”。配置中心可以提供高度可配置性，用于决定采用何种风险应对策略，并及时进行针对性调整。
在制定策略配置时，可以遵循以下原则：
- 针对识别到的风险内容，首先考虑采用高效且对用户影响较小的应对方案，其次再考虑其他方案。
- 如果风险识别的准确率不够高，优先考虑拦截高风险内容/行为/账号，并采用对用户影响较小的应对方案，其次再考虑其他方案。
举例来说，对于实时性要求较高的内容（如文字聊天频道），当敏感内容库和风险识别AI识别到风险内容时，可以采用禁止发表、屏蔽或替换等措施，以实现既能有效拦截又对用户体验影响较小的方案。
然而，如果识别规则过于严格，可能会引起玩家的不满。例如，玩家可能多次编辑一段文字却无法发表，或者遇到异常情况。在这种情况下，我们需要有针对性地调整应对策略，仅针对高准确率或高风险的内容进行处理，而将其他内容先放行以保证用户体验，并最终通过人工筛查来处理。
四、总结上述内容是对游戏行业风险以及风控系统建设的梳理和理解，欢迎进一步补充。
总的来说，游戏行业的风险具有实时性高、高度对抗性和标准化难度高的特点。在构建相关的风控功能时，需要遵循“风险预防”、“信息采集”、“风险识别”和“风险应对”的框架，并针对每款游戏的风险类型、风险等级、识别精度和运营要求进行定制化的策略配置，以实现在每个游戏中以最小成本达到预期的风险防控建设。
本文由 @柠檬饼干净又卫生 原创发布于人人都是产品经理，未经许可，禁止转载
题图来自Unsplash，基于CC0协议
该文观点仅代表作者本人，人人都是产品经理平台仅提供信息存储空间服务。
,
