无监督异常检测
VAE
方差是各个样本数据和平均数之差的平方和的平均数。
标准差(Standard
Deviation),又称均方差,是方差的平方根
均方误差(Mean Squared
Error)是各数据偏离真实值差值的平方和
的平均数,均方误差的开方叫均方根误差,均方根误差才和标准差形式上接近。
方差是数据序列与均值的关系,而均方误差是数据序列与真实值之间的关系
因此,AE的训练损失函数可以采用简单的MSE
训练AE并不需要对数据进行标注,所以AE是一种无监督学习方法
压缩后得到的隐含特征也可以用来做一些其它工作,比如相似性搜索等
主成分分析(PCA)的主要目标是将特征维度变小,同时尽量减少信息损失。简而言之,对于一个样本矩阵:
换特征,找一组新的特征来重新表示;
减少特征,新特征的数目要远小于原特征的数目。
通过PCA将n维原始特征映射到维k(k<n)上,称这k维特征为主成分。需要强调的是,不是简单地从n
维特征中去除其余n-
k维特征,而是重新构造出全新的k维正交特征,且新生成的k维数据尽可能多地包含原来n维数据的信息。例如,使用PCA将20个相关的特征转化为5个无关的新特征,并且尽 ...
general heterophily
heterophily
heterophily与heterogeneity不同。Heterogeneity更多地与推荐系统中的节点类型差异有关,例如用户和项目节点,但heterophily是具有相同类型的节点下的邻居之间的特征或标签差异。传统的GNN通常假设相似的节点(特征/类)连接在一起,但“对立吸引”现象也广泛存在于一般图中。
这个github仓库收集了跟heterophily有关的论文:https://github.com/alexfanjn/Graph-Neural-Networks-With-Heterophily
ICLR2023中了的heterophily的相关论文
Gradient Gating
for Deep Multi-Rate Learning on Graphs
粒子动力学观点:ACMP: Allen-Cahn
Message Passing with Attractive and Repulsive Forces for Graph Neural
Networks, ICLR OpenReview
提供新的benchmark数据集:A critical lo ...