【文本挖掘】反欺诈模糊匹配

问:一个可以做模糊匹配的字段,同一行的数据需要和其他行的数据分别比对,除了循环,有没有什么可以调高效率的方法。

方法一:数据量小的话,可以行列交换,矩阵运算

方法二:python内置map和reduce函数,处理速度大概是for的n倍,看数据复杂度

方法三:数据量大的话,建议用spark,大数据有大数据的方法,可以流处理或内存处理

方法四:如果是地址数据的话, 转化成可计算的数值 可以用word2vec或者tf-idf


  对数据分析、机器学习、数据科学、金融风控等感兴趣的小伙伴,需要数据集、代码、行业报告等各类学习资料,可添加微信:wu805686220(记得要备注喔!),也可关注微信公众号:风控圏子(别打错字,是圏子,不是圈子,算了直接复制吧!)

关注公众号后,可联系圈子助手加入如下社群:

  • 机器学习风控讨论群(微信群)
  • 反欺诈讨论群(微信群)
  • python学习交流群(微信群)
  • 研习社资料(qq群:102755159)(干货、资料、项目、代码、报告、课件)

相互学习,共同成长。

你可能感兴趣的:(学术研究:语言处理)