Coremail专家观点:如何应对当前AI技术对邮件安全的影响

近日,ChatGPT在互联网上掀起了一阵热潮,目前月活用户超过 1 亿,注册用户之多导致服务器一度爆满。

人工智能的话题遍地可见,如“ChatGPT会取代哪些行业?”、“ChatGPT的实现原理”、“ChatGPT的玩转攻略”等等,众说纷纭,那么对于邮件安全行业而言,人工智能又带来了哪些改变?

Coremail专家观点:如何应对当前AI技术对邮件安全的影响_第1张图片

3月23日,Coremail邮件安全人工智能实验室首席架构师潘庆峰(下文简称“大P”)在直播间进行了深度分享,作为中国电子邮件元老级技术专家,20年以来长期深耕于智能算法在邮件安全领域的应用实践,从目前大火的AI热潮中,他看到了哪些挑战与机会呢?

当前AI技术对邮件安全对抗的影响

当前 AI技术当前最热门的话题是ChatGPT和GPT-4了,通过体验ChatGPT, 人们惊叹于当前的深度学习模型已经能达到的水平。

大P认为,实际上,ChatGPT完成了两个任务,那就是语义分析和文本生成任务。

首先,如果把ChatGPT模型比作一个由大量数据训练而成的高维空间迷宫,通过读取每一个字符来决定下一步走向,最终我们可以抵达迷宫中的某个位置。

这个位置附近就是最可能的答案空间,从这个位置开始,按照最大可能性路径一个一个字地生成出答案,就是我们看到的ChatGPT回复。

因此,问题语义分析部分,就是Coremail反垃圾算法进行文本分类的基础。

实际正常邮件和垃圾邮件,它们都会集中聚类到高维空间的某个位置,我们会根据它们的空间位置来判断他们是否垃圾邮件。

大P认为,自然语言处理技术即将进入应用爆发期,主要会在邮件系统产业上形成三方面的应用。

第一,用户级层面上,邮件小助手应用AI自动生成回复或自动拟稿,甚至可以帮助撰写简单逻辑程序,由人工进行校验,提升工作效率。

第二,公司业务层面上,AI技术可以再读取大量公司文档后生成客服系统,与目前机械性的回复相比,后期的答疑质量将会大幅上升。

第三,对于垃圾邮件发送方而言,AI技术可能会被用来制作大量垃圾文本,形式内容不一但内涵一致,垃圾邮件的收发量有可能快速上升。

Coremail专家观点:如何应对当前AI技术对邮件安全的影响_第2张图片

AI 既是矛,也是盾

尽管ChatGPT被用作开发勒索软件和钓鱼邮件开发已是板上钉钉,大P在直播间中也强调每一项技术都可以用于进攻或防守,不用太过担心深度学习技术会导致现有的反垃圾识别系统失效。

大P分析了三点原因:首先,生成大量垃圾文本远比文本分类需要大得多的运算量,普通黑产团伙很难提供这种量级的算力支撑。

其次,考虑到生成文本的可读性及逻辑性,此类文本必然带有很多有指向性的词语,词性相近文本在高维空间的位置都是相似的,这代表着使用文本分类进行反垃圾不会有太多的变化。

最后,反垃圾算法也不是单纯的文本分类问题,还可通过发信历史、发信行为、发信来源等多种特征协助判断。

AI赋能邮件安全-矛盾结合

黑产团伙乐于使用AI生成垃圾文本,那么对于防守方而言,我们同样可利用深度学习技术动态生成垃圾邮件内容,用来给反垃圾系统做陪练。

面对日新月异的垃圾内容,Coremail作为防守方以拦截垃圾内容为目标不断调整反垃圾模型,整个过程是机器自动完成,双方都能在此对抗过程中提高自己的效能。

科技向善,众行者远,是Coremail对于当前AI技术+邮件安全的乐观期望,我们也期待着在这场划时代技术巨变中,每个人在寻求商业机会的同时,也能为社会的进步作出相应的贡献,使得更多人收益。

与Coremail一同,期盼AI新未来。

 

你可能感兴趣的:(安全资讯,人工智能,网络安全,ai,机器学习)