当前位置: 首页 > news >正文

游戏中的敏感词算法初探

在游戏中起名和聊天需要服务器判断是否含有敏感词,从而拒绝或屏蔽敏感词显示,这里枚举一些常用的算法和实际效果。

1.字符串匹配算法

常用的有KMP,核心就是预处理出next数组,也就是失配信息,时间复杂度在O(m+n) 。还有个比较有趣的算法,我之前也用过,叫Sunday算法,实现很简单,但是不稳定,时间复杂度最差也是O(m*n)。显然这些都是单字符串匹配的,一般游戏中都是有上万行的屏蔽字库。

2.Trie树

字典树,很实用的算法,把屏蔽字预处理成树状结构,就跟翻字典一样,相同前缀的同根,所以也叫前缀树,预处理完查询就是O(n)的效率。但是对于游戏来说不太适用,因为屏蔽词前缀相同的太少。这样导致构建出来的Trie树内存占用比较严重,查询效率也比较差。最近一直在用erlang,所以用map结构写了一版出来,具体实现可以参考

trie_test() ->trie_test(33000, #{tot => 0}).
trie_test(0, Trie) -> Trie;
trie_test(N, Trie) ->Rand = integer_to_list(random_int(1, 999999)),trie_test(N - 1, build_trie(Rand, 0, Trie)).build_trie(Word) -> build_trie(Word, 0, #{tot => 0}).
build_trie([], Index, Trie) ->CurNode = maps:get(Index, Trie, #{next => #{}, v => 0}),Trie#{Index => CurNode#{v => 0}};
build_trie([H | T], Index, Trie) ->Tot = maps:get(tot, Trie),CurNode = maps:get(Index, Trie, #{next => #{}, v => 0}),NextNode = maps:get(next, CurNode, #{}),Next = maps:get(H, NextNode, 0),{NewNum, NewTrie} =case Next of0 ->TempNode = maps:get(Tot + 1, Trie, #{next => #{}, v => 0}),Trie1 = Trie#{Tot + 1 => TempNode#{v => -1}},CurNodeNext = maps:get(next, CurNode, #{}),{Tot + 1, Trie1#{Index => CurNode#{next => CurNodeNext#{H => Tot + 1}}}};Num -> {Num, Trie}end,build_trie(T, NewNum, NewTrie#{tot => Tot + 1}).query_trie(Word, Trie) -> query_trie(Word, 0, 0, Trie).
query_trie(_, _, -1, _) -> -1;
query_trie([], Index, _Exist, Trie) ->#{v := V} = maps:get(Index, Trie, #{next => #{}, v => 0}), V;
query_trie([H | T], Index, _Exist, Trie) ->CurNode = maps:get(Index, Trie, #{next => #{}, v => 0}),NextNode = maps:get(next, CurNode, #{}),Next = maps:get(H, NextNode, 0),case Next of0 -> query_trie(T, Next, -1, Trie);_ -> query_trie(T, Next, 0, Trie)end.

2.AC自动机

著名的多模匹配算法,Trie和KMP的结合,实现比较复杂,游戏中也不适用。

3.Map

一般语言都带有Map结构,底层一般是散列表,把屏蔽字库预处理成map结构,然后O(m*m)的去查询,因为游戏中屏蔽字都比较短且需要检测的语句都不会很长,所以效率很可观。之前用lua做过性能测试,结果还是这个方法效率最高,很出乎我的意料。

4.总结

个人感觉需要做敏感词检测的话,最好是有会NLP的同学支持,因为屏蔽字库其实也很死板。游戏中各种广告敏感词都在日新月异,只有AI不断学习才能打败它们。要求不高的话,可以尝试Trie树和Map实现,不同开发语言和字库效果可能都不同,选最合适的即可。

http://www.lryc.cn/news/401900.html

相关文章:

  • 使用Java和Apache Kafka Streams实现实时流处理应用
  • 分享 .NET EF6 查询并返回树形结构数据的 2 个思路和具体实现方法
  • 【柴油机故障诊断】基于斑马优化算法ZOA优化柴油机故障诊断附Matlab代码
  • C1W4.Assignment.Naive Machine Translation and LSH
  • 智能听诊器:宠物健康监测的革新者
  • 001、Mac系统上Stable Diffusion WebUI环境搭建
  • k8s一些名词解释
  • ArkUI组件——循环控制/List
  • 定制开发AI智能名片商城微信小程序在私域流量池构建中的应用与策略
  • 网络安全(含面试题版)
  • 牛客 7.13 月赛(留 C逆元 Ddp)
  • LeetCode 92. 反转链表 II
  • mac M1 创建Mysql8.0容器
  • 【Vue3】4个比较重要的设计模式!!
  • Ubuntu安装virtualbox(win10)
  • 二次开发源码 借贷系统uniapp/借贷认证系统/小额信贷系统/工薪贷APP/资金贷系统h5
  • LG 选择 Flutter 来增强其智能电视操作系统 webOS
  • [ACM独立出版] 2024年虚拟现实、图像和信号处理国际学术会议(VRISP 2024,8月2日-4)
  • ASP.NET Core中创建中间件的几种方式
  • Atcoder ABC351 A-E 题解
  • 【终极指南】从零开始征服机器学习:初学者的黄金路线图
  • MongoDB自学笔记(三)
  • 编程中的智慧之设计模式三
  • 《YOLOv10改进实战专栏》专栏介绍 专栏目录
  • Python酷库之旅-第三方库Pandas(030)
  • 神经网络中的激活函数举例,它们各自的特点,以及哪个激活函数效果更好,为什么
  • 【树莓派3B+】控制引脚输出高低电平
  • 【Redis7】高阶篇
  • 在学习使用LabVIEW的过程中,需要注意哪些问题?
  • 网络编程-TCP/IP