2020年疫情居家期间，为了打发时间，动漫流媒体平台Crunchyroll的创始人高昆（Kun Gao）与老友在线上聚首打游戏，却发现游戏环境“正变得非常有毒性（toxicity）”。 这成为他又一次创业的起点：创办游戏社区治理公司GGWP，采用人工智能（AI）审核技术解决游戏中的毒性问题。 “当时行业最先进的审核方式，只是脏话词表过滤。”高昆在接受澎湃新闻（）专访
2020年疫情居家期间ღღღ，为了打发时间ღღღ，动漫流媒体平台Crunchyroll的创始人高昆（Kun Gao）与老友在线上聚首打游戏ღღღ，却发现游戏环境“正变得非常有毒性（toxicity）”ღღღ。
这成为他又一次创业的起点ღღღ：创办游戏社区治理公司GGWPღღღ，采用人工智能（AI）审核技术解决游戏中的毒性问题ღღღ。
“当时行业最先进的审核方式ღღღ，只是脏话词表过滤ღღღ。”高昆在接受澎湃新闻（）专访时解释称ღღღ，但同一句脏话ღღღ，老友之间庆祝高光时刻时说没问题ღღღ，资深玩家冲着刚失利的新玩家说就是冒犯ღღღ。区分二者的不是词句本身ღღღ，而是语境ღღღ、关系和意图ღღღ。让AI读懂“意图”而非匹配“词句”ღღღ，正是AI审核公司试图跨越的那一步ღღღ。
AI如何帮助实现健康的游戏社区ღღღ，正日渐成为一个新兴的讨论线日由香港数码港主办的“2026数码娱乐领袖论坛（DELF）”上ღღღ，多位从业者在专场对谈 “好的游戏ღღღ：构建更健康的娱乐社群ღღღ，创造持久的社会与经济价值”中提出了洞见ღღღ。
8月28日ღღღ，在“2026数码娱乐领袖论坛（DELF）”上ღღღ，美国南加州大学互动媒体教授迈克·菲舍尔（左）ღღღ、GGWP联合创始人高昆（中）和剑桥数字游戏与创新学院（CADGI）创始人扬·亨利克·斯托加兹进行对谈贝斯特全球最奢游戏手机ღღღ。
“游戏不只是娱乐ღღღ，而是跨越文化ღღღ、语言与距离ღღღ，把人凝聚在一起的社交形态ღღღ。”对谈主持人ღღღ、美国南加州大学互动媒体教授迈克·菲舍尔（Mike Fischer）表示ღღღ。他随即抛出追问ღღღ：“我们有MAU（月活跃用户数）ღღღ、ARPU（每用户平均收入）一整套衡量收入的指标ღღღ，却没有任何衡量‘社区健康度’的指标贝斯特全球最奢游戏手机ღღღ。”
菲舍尔举了不丹的例子——除了国民生产总值ღღღ，该国还统计国民幸福总值ღღღ。言下之意ღღღ，如果连度量都没有ღღღ，治理就无从谈起ღღღ。
美国反诽谤联盟（ADL）连续多年进行的调查显示ღღღ，2020年ღღღ，81%的美国线上多人游戏玩家曾遭遇某种形式的骚扰ღღღ，68%遭受过包括人身威胁ღღღ、跟踪和持续骚扰在内的“严重骚扰”ღღღ。女性ღღღ、性少数与少数族裔玩家被针对的比例更高ღღღ，41%的女性玩家曾因性别遭受骚扰ღღღ。
更极端的行为也不罕见ღღღ：44%受访者报告曾被跟踪ღღღ，12%遭遇过“报假警”（swatting）——陌生人向警方谎报某人住址发生暴力案件ღღღ，诱使特警上门ღღღ。
2021年的报告将“遭遇过骚扰”的比例推高到六分之五ღღღ，涉及超过8000万美国成年人ღღღ；71%报告遭受过严重骚扰ღღღ，22%曾被“开盒”（doxing）ღღღ，即个人住址ღღღ、电话等隐私信息被恶意公开ღღღ。
游戏玩家遭受伤害是一个亟待解决的社会治理问题零刺青ღღღ，而游戏开发商从自身利益出发ღღღ，也不得不重新审视游戏的毒性问题ღღღ。
在上述机构2019年的调查中ღღღ，19%的玩家因骚扰彻底放弃了某款游戏ღღღ，23%因某款游戏“环境出了名的差”而刻意回避它ღღღ。
这些数字指向一个行业长期回避的事实ღღღ：毒性环境是一笔真实的成本ღღღ，只是它通常被记在别处——买量ღღღ、获客ღღღ、留存ღღღ，每一项都因玩家流失而变贵ღღღ。
“拥有一个正向的社区显然更好ღღღ，因为正向的社区更赚钱ღღღ。”高昆表示ღღღ，“如果有玩家尤其是新玩家ღღღ，在游戏旅程的一开始就遭遇毒性体验ღღღ，他就再也不玩这个游戏了ღღღ。”
好在叙事正在改变ღღღ。5年前零刺青贝斯特全球最奢游戏手机ღღღ，游戏毒性在行业内还多被当作“社区运营问题”ღღღ，是客服团队和志愿者管理员的事务贝斯特全球最奢游戏手机ღღღ，现在它越来越多地出现在财务和合规的语境里ღღღ。
“从经济学角度看ღღღ，我认为核心指标是玩家的终身价值贝斯特全球最奢游戏手机ღღღ。我有朋友25年前就在玩《魔兽世界》和《RuneScape》——这叫忠诚度ღღღ。所以忠诚度是关键的度量ღღღ。”剑桥数字游戏与创新学院（CADGI）创始人扬·亨利克·斯托加兹（Jan Henrik Storgårds）在对谈中表示ღღღ。
菲舍尔还提到了另一个层面ღღღ：“我们刚刚看到Meta不得不支付一笔巨额和解金ღღღ，就因为他们打造了一个非常不健康的在线社区ღღღ。”
就在此次论坛举行两天前ღღღ，美国社交巨头Meta同意支付约170亿美元ღღღ，与美国47个州ღღღ、哥伦比亚特区及多个属地就青少年成瘾诉讼达成和解ღღღ。
高昆的创业经历正好对应了行业的发展路径ღღღ。他在2006年与几位加州大学伯克利分校的校友联合创办了Crunchyrollღღღ，最初定位是一个日本动漫的在线视频分享和字幕交流社区ღღღ，后来逐渐转型为全球最大的动漫流媒体平台ღღღ。2021年ღღღ，该公司被索尼以近12亿美元收购ღღღ。前面那段“重拾游戏”的经历ღღღ，就发生在他退出之后ღღღ。
2022年3月ღღღ，GGWP公布1200万美元种子轮融资ღღღ，主打用AI治理游戏中的辱骂ღღღ、骚扰等有害行为ღღღ。今年5月ღღღ，GGWP宣布完成1500万美元A轮融资ღღღ。
简单来说ღღღ，关键词过滤的逻辑是“这个词不能出现”ღღღ，而意图识别的逻辑则是“这句话在此时此地意味着什么”ღღღ。
落到产品上ღღღ，GGWP的系统综合对局内的社交关系ღღღ、对话语境和历史记录判断行为性质零刺青ღღღ，并据此为每个玩家建立长期信誉档案ღღღ，配套渐进式处置ღღღ，比如初犯仅作提醒ღღღ，再犯“冷却”一小时ღღღ，多次违规才升级处罚ღღღ。
据高昆介绍ღღღ，在简单基线案件上ღღღ，系统独立判断的正确率可达99.9%以上ღღღ；低置信度且高严重度的案件则强制转入人工复核ღღღ，玩家可以申诉ღღღ，恶意举报者也会失去举报信誉ღღღ。
GGWP不是孤例ღღღ。2021年10月ღღღ，微软公司宣布收购内容审核公司Two Hatღღღ，后者当时每月对超过1020亿次用户交互进行实时分类ღღღ，其技术此前已被用于Xbox和《我的世界》ღღღ。
2023年8月起ღღღ，美国游戏发行巨头动视（Activision）与美国AI语音审核公司Modulate合作ღღღ，在《使命召唤》系列中部署语音实时审核系统ToxModღღღ，当年11月随《现代战争3》在全球上线（亚洲除外）贝斯特全球最奢游戏手机ღღღ，这是AI语音审核首次进入这个量级的射击游戏ღღღ。
与文本不同ღღღ，语音的即时性和匿名性使它长期成为骚扰的重灾区ღღღ，也是技术上最难啃的部分ღღღ：系统需要在实时对话流中同时处理词语ღღღ、语气ღღღ、情绪和上下文ღღღ，并在几十秒内给出风险评分ღღღ。
据亚马逊云科技的案例材料和动视发布的进度报告ღღღ，ToxMod部署后玩家暴露于毒性语音的时长最高降低约50%ღღღ，受处罚玩家中约80%未再犯规ღღღ。
今年1月ღღღ，ToxMod接入即时通信平台Discord的开发者SDKღღღ，中小团队接入语音审核的门槛从“自建系统”降为“打开一个集成开关”ღღღ。
规模化的另一面是成本结构的变化ღღღ。人工审核按人头扩张ღღღ，AI审核按调用量计费ღღღ，这也是为什么游戏厂商愿意为第三方服务付费ღღღ：自建一套覆盖文本ღღღ、语音ღღღ、用户名和举报工单的审核体系ღღღ，对大多数中等规模工作室而言ღღღ，成本远高于订阅一个服务ღღღ。
GGWP公布的客户与合作名单包括Unityღღღ、索尼ღღღ、Kraftonღღღ、thatgamecompany等游戏相关企业ღღღ，其服务还已延伸至游戏之外的粉丝社区平台Fandomღღღ。审核正在从每家公司的内部成本项ღღღ，变成一个可以外包的市场ღღღ。
这些进展合在一起ღღღ，也勾勒出行业正在形成的共识ღღღ：审核不再是“删除违规内容”ღღღ，而是一套围绕行为ღღღ、信誉和语境的治理系统ღღღ。处罚的目的不是清场ღღღ，而是改变行为ღღღ，ToxMod的“80%未再犯”与GGWP的渐进式处置ღღღ，体现的是同一个逻辑零刺青ღღღ。
然而ღღღ，AI审核的第一个软肋也是它自己ღღღ。当一套算法决定谁被禁言ღღღ、谁被“冷却”时ღღღ，谁来审核审核者？欧盟的《数字服务法》（DSA）对此给出的答案是透明度和申诉义务——平台必须说明处置理由ღღღ，申诉必须有人工介入ღღღ。
欧盟基本权利署（FRA）2026年1月发布的一份报告显示ღღღ，2025年上半年ღღღ，在线平台向DSA透明度数据库提交了超过100亿条内容处置“理由说明”ღღღ，其中超过一半的处置由自动化系统完全作出ღღღ。
规模化自动审核的副作用已经显现ღღღ：FRA于2022年发布的算法偏见研究报告发现ღღღ，仇恨言论检测算法容易对含有”穆斯林”ღღღ、“犹太人”等词汇的内容过度反应ღღღ；另有一项研究显示ღღღ，同类模型将非裔美式英语内容误判为攻击性言论的概率约为其他内容的1.5倍贝斯特全球最奢游戏手机ღღღ。
高昆没有回避这个问题ღღღ，他在专访中表示ღღღ，大语言模型天然会带有底层数据的偏见ღღღ，所以还需要有本地（in-region）的人工来帮助标注数据ღღღ。“即使在同一个地区ღღღ，普通人说话和玩家黑话也有差异ღღღ。”
他由此提出ღღღ，必须结合文化和语言去训练AIღღღ，让它更好地理解文化语境和语言本身零刺青ღღღ。“举个例子ღღღ，在中文里ღღღ，有很多用数字甚至单个字来表达负面含义的方式——在特定语境下就变成骂人的话零刺青ღღღ。这些都必须‘喂’给 AIღღღ，才能实现好的检测效果ღღღ。”
隐私是另一个争议点ღღღ。语音实时审核意味着“永远在听”ღღღ，尽管Modulate强调系统对未触发标记的音频不作保留ღღღ，只有被标记的片段才会进入人工复核阶段ღღღ，但对监控尺度的疑虑并未因此消散ღღღ。
高昆表示ღღღ，“我认为AI或者说技术的了不起之处在于规模化ღღღ：横跨数百万条对话ღღღ、实时完成ღღღ，且每一次的判断标准都一致ღღღ。这是人类不可能做到的ღღღ。”但他强调ღღღ，仍然存在需要主观判断ღღღ、由人介入的情形ღღღ，而且人还应该持续告诉AI该做什么调整ღღღ，AI再把这些反馈纳入下一轮的数据训练ღღღ。
8月30日ღღღ，“2026数码娱乐领袖论坛（DELF）”举行乐龄电竞及体验日活动ღღღ，邀请老年人体验电竞ღღღ。
除了利用AI技术审核游戏社区ღღღ，论坛还展望了游戏业的“下一站”ღღღ。当行业正在用大量AI工具来开发ღღღ、测试和审核游戏时ღღღ，未来三五年与今天会有何不同？
斯托加兹看到了悲观的一面ღღღ。“我们不幸地已经看到一个现象ღღღ：初级游戏设计师拿不到工作和实习了ღღღ。因为最初的概念ღღღ、最初的点子ღღღ，AI已经能做了ღღღ；而到了开发环节ღღღ，公司要找的是能超越AI生成代码的资深开发者ღღღ。”他说ღღღ。
但斯托加兹仍然强调自己是个“AI乐观派”ღღღ。他曾在与英国政府交流时被问及AI将如何影响创意产业ღღღ，给出的答案是ღღღ：“它（AI）会把你脑子里那些浪费时间的事拿走ღღღ，让你更有创造力ღღღ，因为你能更快地获得想法并投入使用ღღღ。以前你画一个角色草图要一天甚至更久——当然取决于你水平如何——而你需要的角色何止一个？现在你能以快得多的速度把想法过一遍ღღღ。所以这是件积极的事ღღღ。”
菲舍尔则指出ღღღ，在一些更富裕ღღღ、更工业化的国家ღღღ，的确有人在失业ღღღ。但在一些发展中国家ღღღ，“比如我去乌兹别克斯坦ღღღ、哈萨克斯坦或越南拜访开发者时ღღღ，他们热爱AI——它让他们第一次有能力在全球层面参与竞争ღღღ。”
高昆则预测ღღღ，游戏创作正在迎来“YouTube时刻”ღღღ：依靠生成式AIღღღ，个人开发者就能独立完成玩家愿意付费的完整体验ღღღ，全球游戏供给主体将从几千家工作室变成数百万创作者ღღღ。
“至于内容审核这一侧ღღღ，我认为它将变成基线配置（table stakes）ღღღ。直到今天ღღღ，在线社区还没有一个基础的安全底线ღღღ，而各国政府已经把这视为对民众的风险ღღღ，所以这条底线终将建立ღღღ，并且会走向监管ღღღ。这意味着运营商将有责任确保玩家在他们的环境里获得不受伤害的体验ღღღ。而这正是AI大显身手的地方——用它来确保这一切落地ღღღ。”他说ღღღ。返回搜狐ღღღ，查看更多贝斯特全球最奢华游戏官网ღღღ！贝斯特游戏官方网站贝斯特ღღღ，全球最奢华的游戏ღღღ。
