邢存远的博客 | Welt Xing's Blog

静态属性图上的异常节点检测

文献综述解读

图异常检测即在图结构上进行异常检测任务。随着图神经网络在实际应用中受到欢迎，图异常检测也在诈骗预防等领域收到重视。A Comprehensive Survey on Graph Anomaly Detection with Deep Learning是一篇图异常检测领域的综述，内容丰富且齐全。由于笔者最近的研究需要，本文针对其中属性图节点的异常检测部分进行解读和总结。在图神经网络的异常检...

Posted by Welt Xing on August 20, 2022

图神经网络的批处理

Batch in GCN

前篇：https://welts.xyz/2022/08/15/gcn_graph_class/. 在那里，我们用图卷积网络实现了图分类任务。但在那里，我们进行优化时，每轮是计算全部数据集的平均损失，计算效率低，本文将讨论如何在图学习中使用batch，以及对其进行实验和分析。 Batch 考虑下面两张图：显然它们的邻接矩阵： \[\pmb A_1=\begin{bmatrix}...

Posted by Welt Xing on August 19, 2022

将GCN应用到图分类任务

From GCN to Graph Classification

前篇：https://welts.xyz/2022/08/13/gcn_implementation/. 在那里，我们实现了GCN层并应用到简单的图节点分类任务。本文我们将继续使用自实现的GCN模块，进行图分类任务。图分类的数据单位不再是节点，而是一个图，即一个图对应一个标签。因此，我们需要用一个特征向量来描述一张图。而将图节点的多个向量转换成图的表示向量的操作，被称作READOUT。R...

Posted by Welt Xing on August 15, 2022

GCN的实现与模块化

From Theory to Implementation

前篇：https://welts.xyz/2022/08/12/gcn/，在那里我们介绍了基于谱域的第三代GCN，同时引出了消息传递机制。本文会介绍如何用PyTorch实现一个GCN，然后去实现图节点分类任务。 Formulation 单隐层GCN的形式化如下： \[\text{GCN}(\hat{A},X)=f_2(\hat{A}f_1(\hat{A}XW_1)W_2)\] 其中$...

Posted by Welt Xing on August 13, 2022

GCN的介绍与推导

From GCN to Message Passing

近年来，深度学习领域关于图神经网络（Graph Neural Networks，GNN）的研究热情日益高涨，图神经网络已经成为各大深度学习顶会的研究热点。GNN处理非结构化数据时的出色能力使其在网络数据分析、推荐系统、物理建模、自然语言处理和图上的组合优化问题方面都取得了新的突破。由于实习任务的缘故，笔者近期也在进行GNN的学习。作为一个方兴未艾的领域，目前有很多的博客文章对GNN领域进...

Posted by Welt Xing on August 12, 2022

南京大学人工智能学院2022年开放日(夏令营)

流程介绍与面试经验分享

简单介绍流程： 5.16~6.16:报名； 6.28:简历筛完了，出笔试通知； 7.07:笔试； 7.09:笔试筛完了，出宣讲和面试通知； 7.11:导师宣讲； 7.12-7.13:面试，其中12日是非人工智能学院学生，13号是人工智能学院的学生； 7.18 : 优秀营员和候补出结果：这个repository记录（本人和同学）...

Posted by Welt Xing on August 12, 2022

文献解读：Outlier Detection in Urban Traffic Flow Distributions

针对单点不同时的车流分布的异常检测

原文获取：https://ieeexplore.ieee.org/document/8594923. 背景介绍在这里，我们面临这样一个场景：城市规划者希望从历史数据中学习，特殊情况（如事件或节日）如何与交通流中的不寻常模式相关，以支持改进对事件和交通系统布局的规划。因此，我们应该考虑在一定的时间间隔内观察到的交通流值的序列。这样的流序列可以被建模为流的概率分布。本文采用一种离群值检测方...

Posted by Welt Xing on June 24, 2022

异常检测的类别和方法

参考：https://www.cs.sjtu.edu.cn/~linghe.kong/AI007/Download/%E7%AC%AC9%E8%AF%BE.pdf. 应该是上交AI的专业课。这里对异常检测做了分门别类和论文列举，有趣的是还看到了院长当年的论文被提及。定义与分类不同于常规模式下的问题和任务，异常检测（Anomaly Detection ）针对的是少数、不可预测或不...

Posted by Welt Xing on June 23, 2022

PySVM：A NumPy implementation of SVM based on SMO algorithm

自实现SVM库简述

link : https://github.com/Kaslanarian/PySVM. 实现LIBSVM中的SVM算法，对标sklearn.svm模块 LinearSVC KernelSVC NuSVC LinearSVR KernelSVR NuSVR OneClassSVM Algorithm 我们实现了针对一般SVM对偶问题 \[\begin...

Posted by Welt Xing on May 28, 2022

一维卷积的快速实现(2)

基于im2col策略的卷积加速

前篇：一维卷积的快速实现；本文代码：https://github.com/Kaslanarian/FastConv. 本文记录笔者在PyDyNet中对高效实现CNN进行的探索，重点是采用im2col实现快速的一维二维的卷积和池化。im2col将卷积运算转换成矩阵乘积，它被很多深度学习框架，比如Caffe所采用。im2col方法搭配basic linear algebra subrout...

Posted by Welt Xing on May 19, 2022

Vago Mundo