根据欧式距离和余弦相似度来计算tensor之间的相似度的代码实现

通常情况下,在端侧的模型推理过程中,使用的是量化后的数据来参与各层计算的,而并非原始的float数据类型,通常的量化数据类型有UINT8/INT8/INT16等等,由于数据表示范围的差异,在量化过程中,必然涉及到精度损失,这种同一个模型相同层之间使用量化推理计算得到的数据经过反量化之后和原始goden版的float数据的差异,我们用相似度表示,用图形化描述如下:

根据欧式距离和余弦相似度来计算tensor之间的相似度的代码实现_第1张图片

通常相似度的比较可以用余弦距离和空间欧式距离表示,根据线性空间理论,当两个向量相似时,他们的内积较大,我们可以认为内积大小表示两个向量的相似性,cos的结果表示余弦相似度。

你可能感兴趣的:(人工智能,嵌入式系统,算法,深度学习,人工智能,神经网络)