Vago Mundo

尘世闲游，听凭风引

    Pytorch使用

    数据集和加载器

    在学习torch的过程中，笔者发现神经网络结构的创建并不难：定义一个类，在构造函数中定义神经网络层信息，然后按层的顺序，补全前向传播的forward方法即可，就像下面： import torch import torch.nn as nn import torch.nn.functional as F class Net(nn.Module): def __init__(self...

    Posted by Welt Xing on September 2, 2021

    高阶张量与Pytorch

    原理与运算

    引言 在Numpy与数据结构 - 邢存远的博客 Welt Xing’s Blog (welts.xyz)中，我们讨论了numpy的向量和矩阵的五则运算，并在研究更高维数据结构前停了下来，因为当时的工作并不会涉及到它。 我们现在来看sklearn模块中的digits数据集，这是将8*8的数字图片展平成长度为64的向量的数据集： from sklearn.datasets import ...

    Posted by Welt Xing on August 23, 2021

    卷积与池化的探究

    Python实现

    这里我们想用Python实现CNN中的卷积和池化操作，同时观察效果（代码在最下方）。 前篇：Understanding of a Convolutional Neural - Welt Xing’s Blog (welts.xyz) 卷积 不同卷积核下的效果展示 我们接下来会用这张图片作为原始图片进行卷积操作： 在论文《Understanding of a Convolutio...

    Posted by Welt Xing on August 22, 2021

    Understanding of a Convolutional Neural Network

    文献解读

    引言 从本文开始笔者打算讨论卷积神经网络，和组里进度相匹配。卷积神经网络在过去的十年里，在与模式识别相关的各个领域都取得了突破性的结果；从图像处理到语音识别。其最有益的方面是减少人工神经网络中参数的数量。这一成就促使研究人员和开发人员都使用更大的模型来解决复杂的任务，而这对于经典的ANN是不可能的。关于CNN解决的问题，最重要的假设是不应该具有空间相关的特征。例如，在人脸检测应用程序中，我...

    Posted by Welt Xing on August 22, 2021

    Pillow

    用于图像处理的Python第三方库

    引言 图片从数学上来说，只是一个二维矩阵（黑白图片）或者是一个三维张量，因此存在用程序操作的可能。笔者在这里尝试用Python处理图片，为后续卷积和池化操作做铺垫。 Pillow入门 用 Python 做图片处理，最著名的库就是 PIL（Python Imaging Library）了，不过由于年久失修，一群有志青年在 PIL 的基础上创建了 Pillow，支持最新的 Python3...

    Posted by Welt Xing on August 21, 2021

    实变函数论

    知识梳理

    一些重要/陌生知识点的记录以供复习参考 集合 集合基础 指标集 ${A_{\alpha}:\alpha\in\Lambda}$可以理解为C++中的数据结构std::map<int, std::set<T>>，也就是一族集合。$\Lambda$称作指标集，对应map的$key$集合，$A_\alpha$就是从中取出$key$为$\alpha$的集合。 ...

    Posted by Welt Xing on August 20, 2021

    An overview of gradient descent optimization algorithms

    文献解读

    原文地址：https://arxiv.org/abs/1609.04747 摘要 虽然梯度下降优化算法越来越流行，但仍被视作黑箱（black-box）优化器，因为很难对它们的优点和缺点进行实际的解释。这篇文章旨在为读者提供关于不同算法的直观解释，从而更好使用它们。在此概述过程中，我们将研究梯度下降的不同变体，引入最常见的优化算法，在并行和分布式环境中回顾体系结构，并研究优化梯度下降的其他...

    Posted by Welt Xing on August 20, 2021

    泛函分析论

    知识梳理

    度量空间 我们复习度量空间：设$X$是一个集合，若对于$X$中任意两个元素$x,y$，都有唯一确定的实数$d(x,y)$与之对应，而且这一对应关系满足下列条件： $d(x,y)\geqslant0,d(x,y)=0\leftrightarrow x=y$; $d(x,y)\leqslant d(x,z)+d(y,z)$; 则称$d(x,y)$是$x,y$的距离，称$(X,d...

    Posted by Welt Xing on August 20, 2021

    南京大学2021春季：操作系统

    实验报告

    前言 本文是对本学期操作系统实验必做的前四次实验的总结，以供参考。 lab1 主要是记录操作系统实验过程，为实验报告提供副本： 前导实验过程 这里是按照实验课发布的markdown文件中的指示实现实模式下Hello world的输出。 这里省略前面计基讲过的知识（P.S. 群里计科的学生似乎没接触过Linux、git这些东西，甚至被墙了也不知道为啥，很疑惑）。 实验利用...

    Posted by Welt Xing on August 19, 2021

    南京大学2021春季：智能系统设计与应用

    实验报告

    前言 本文是对《智能系统设计与应用》三次编程作业中所涉及的知识点介绍，以及编程想法的记录. 第一次作业：栅格世界的决策算法 实验目的 在$10\times10$的栅格世界中，分别应用值迭代，高斯-赛德尔值迭代和策略迭代算法，使得$\text{Agent}$在这个栅格世界的每一个格子（也就是一个状态）都能获取到状态效用并找到最优决策$\pi^\star(s)$. 关于栅格世界 栅格...

    Posted by Welt Xing on August 19, 2021

    FEATURED TAGS
    C/C++ Java Python 机器学习 SVM 集成学习 优化算法 神经网络 文献解读 数学 深度学习 卷积神经网络 自动微分 异常检测 数字信号处理 LIBLINEAR 在线学习 图神经网络
    ABOUT ME

    甄心动惧，敏以敬慎

    ✉️ xingcy@smail.nju.edu.cn