【机器学习】模糊认知图（Fuzzy Cognitive Map, FCM）概念介绍

关于模糊认知图的背景

模糊认知图（Fuzzy Cognitive Map, FCM）是一种软计算的方法，是由模糊逻辑和神经网络相结合的产物。FCM与神经网络、图论等领域都有密切联系，正因为其强大的直观表达能力以及推理能力，使得其在各个领域都有应用，也成为了人工智能领域的一个研究方向。

从神经网络的角度来看，可以把它看做是一个单层神经网络，因此很多基于神经网络的研究都可以进行借鉴；从图的角度来看，它是一种有向加权图，因此我们也可以借助一些图论方面的知识对其进行研究。另一方面，FCM允许反馈机制的存在，这样也就为复杂系统建模提供了可能。

模糊认知图的基本概念

FCM描述了系统概念集和概念间的因果关系，它的具体定义如下：
FCM可以表示为一个四元组$G=(C,E,U,f)$，
1、其中$C=(C_1,C_2,....C_c)$表示构成有向图的顶点的概念集，
2、$E:(C_i,C_j)\to w_{ij}$表示概念节点$C_i$到$C_j$的有向边的权重，则所有节点构成的权重矩阵表示为$W$。
3、$U:C_i\to u_i$表示概念节点$C_i$到激活度$u_i$的映射，则$U(t)=(u_1(t),u_2(t),...,u_c(t))$表示当前$t$时刻所有概念节点的激活度，也就是$G$的在$t$时刻的状态，其中$u_i(t)\in [0,1]$。
4、$f$表示压缩函数（squashing function），表示概念节点的激活度在$t$时刻到$t+1$时刻的转换函数，即：$$u_i(t+1)=f(\sum _{j=1}^c{w}_{ij}{u}_j(t))$$其中$f$用sigmoid函数进行表示，以此将激活度映射到[0,1]的区间中：$$f(u)=\frac{1}{1+e^{-\tau u}}$$sigmoid函数中的$\tau$表示一个陡峭参数（steepness parameter），其中，$\tau$越大，sigmoid函数形状越接近阶跃函数。通常情况下，$\tau$设置为5。

FCM的参数训练

通常概念节点会通过模糊C均值（Fuzzy C-means）聚类得到的中心表示，这也是信息粒化的过程，之后，对FCM的训练即是转换为一个对其权重矩阵$W$的优化问题。
权值的优化一般是通过启发式（heuristic）算法，例如PSO，或者基于梯度（gradient-based）的算法。
通过训练数据进行优化的loss function一般选取为SSE（Sum of Square Errors）:
$$SSE=\sum _{j=1}^N\sum _{i=1}^c(u_{ij}-t_{ij}{)}^2$$
即最小化期望输出与实际输出之间的差异。