FunnyWii's Zone 时日曷丧,与汝偕亡

Archives

2022 / 11

NN中的Bias? 偏置允许激活函数向左或向右移动以更好地适应数据。 反向传播是啥? 允许来自 Cost Function 的信息,从网络末端反向向前传播,以便计算梯度 -> 更新参数。 梯度消失 首先,要知道NN是基于链式法则,因此层数越深,梯度将以指数形式传播。 梯度越来越小,权重值不再产生变化
卷积神经网路 Convolutional Neural Network CNN CNN的结构 卷积层 Convolution 池化层(下采样) Polling 全连接层 Full connection 卷积层 最基础的2D卷积操作,涉及到一个2D的过滤器(filter),或者说是核(kernel)。
在机器学习中,如果想对对非线性函数进行建模,深度前馈网络能够实现非线性函数的建模。 在深度学习中,使用一个简单函数的深度链来学习输入数据。 线性函数的输入函数: \hat{y} = \theta^Tx 非线性函数的输入函数:\hat{y} = f(\phi(x);\theta) 其中,\phi(x)
关于这门课 这门课的授课老师是号称谢菲尔德大学最受欢迎的Lecture - Dr Sean Anderson。课堂的风格确实比较生动有趣,而且因为Deep Learning目前仍然比较前沿的原因,课堂上时常举一些比较cool或者exciting的例子,比如一次关于CUDA的课堂,开始跟我们讨论比特币
问题 我的ThinkPad X280装了Ubuntu和Windows的双系统,但是我发现BIOS的启动顺序中,排第一的是Ubuntu,第三才是Windows。 Figure 1 初始BIOS启动顺序 这也就导致了,如果我开机之后什么都不操作,会默认进入Ubuntu,问题是,目前我用的更多的是Wind

2022 / 10

正则化回归模型 在一个模型中,自由度(可调节的参数)越多,就越容易过度拟合。因此需要约束这个模型,又称正则化 常见的正则化方法: Ridge Regression,也被称作L2 Regression Lasso Regression,也被称作L1 Regression Elastic Net 在上述
Artificial Neural Networks, ANN ANN是受构成动物大脑的生物神经网络模糊启发的计算系统。本文简单介绍一下ANN,详细的内容会在后面写深度学习的时候再说。 ANN可用于: 分类(多层感知器) - 模式识别(多层感知器、延时神经网络和递归网络等) 回归/函数逼近(前馈架构
聚类 聚类是一种无监督的机器学习方法,它能使类似的对象从其他对象中分离出来。它是无监督的,因为我们没有给模型任何标签;它只是检查特征并确定哪些样本是相似的并属于一个群组。 常见的聚类算法有: 分层聚类算法(Hierarchical Cluster Analysis HCA) k-Means Expe
主成分分析 通常获取到的数据集都会有很高的维度,会给运算造成很大压力,所以需要降维,但是我们并不知道哪些数据更关键,因此引入了主成分分析 (Principal Component Analyses,PCA)的方法。 假设有个m维向量 \vec X,我们希望用 I个变量来保存它,如果简单地把 \vec
机器学习的建模流程 Figure 1 Pipeline of Machine Learning 研究问题 采集数据 数据清洗 在采集到的数据中,可能有丢失的,比如NaN或者null,这种数据是不能直接拿来用的。为了解决这个问题,这部分数据会被imputed,具体impute的方法要根据数据的类型来决
决策树(Decision Trees) 对于决策树,目标变量是连续数值的,被称为回归树;若是离散值,被称为分类树。 决策树的组成 · 根结点(Root node):代表整个数据集或采样,并且可以被分为2个或多个同质的集合。 · 决策节点(Decision node):通过条件判断,决定如何分支。 ·
线性回归 回归被用来估计或解释一个独立变量(y)和一个or更多独立变量(x_i)之间的关系。最基础的回归-线性回归-基于一个线性方程。 假设这个方程为: y = \theta_1 x+ \theta_0 此处 y 是一个独立变量,\theta_0 和 \theta_1 是模型的参数,x 是另一个独立
Data Modelling and Machine Intelligence (DMMI) 数据建模和机器智能 其实这门课就是在讲机器学习(Machine Learning),起个这么长的名字属实没必要。 这门课的老师是 Dr John Oyekan,是一名非常年轻的,刚刚入职没多久的,黑人讲师,
什么是Overfitting 算法在训练集上表现好,但在测试集上表现不好,泛化性能差。 引起过拟合的原因 模型本身过于复杂,以至于拟合了训练样本集中的噪声。 如何解决过拟合 交叉验证。 用更多的数据进行训练。 数据增强。 特征选择。 Early Stop。 正则化 Regularization。 什
一些Python的知识点(非报错及其解决方法) 啥是面向对象(OOP) 面向对象三要素封装、继承、多态 封装: 确标识出允许外部使用的所有成员函数和数据项,或者叫接口。有了封装,就可以区分内外,使得类实现者可以修改封装内的东西而不影响外部调用者。 继承: 继承有两种含义:其一是继承基类的方法,并做出

2022 / 09

随便说说 授课老师是 Professor Lyudmila Mihaylova,我们叫她mila。看名字应该是一个斯拉夫人,在大毛和二毛刚刚开打的时候,我们一致猜测她是大毛的,理由:NULL。 mila的声音轻轻的,而且本人看起来也十分的文静,可能从小到大是一个乖乖女吧。总之我十分敬佩这些从大毛二毛
前言 本文内容是针对 .pcd格式的点云进行处理。 文中模型出自TU Wien采集的佛头模型[2]。 相关函数和算法 pcd格式点云文件读取 clear all ptCloud = pcread('head1.pcd'); pcshow(ptCloud) Figure 1.1 佛头点云的可视化
前言 有人会好奇,同样是点云,.pcd和 .ply 的处理能有啥大区别吗? 其实是有的,.pcd 文件的数据,是基于点的,也就是里面存储的内容全部都是和点相关的信息。 而 .ply 增加了关于面的信息,也就是有了 mesh。在介绍使用 MeshLab 进行点云表面重建的那篇文章中,已经提到过这点。几

2022 / 07

傅里叶变换 傅里叶的原理说明:任何连续测量的时序或信号,都可以用不同频率的正弦波信号的无限叠加来表示。 在数学的角度来看,傅里叶变换算法利用直接测量得到的初始信号,用累加的方式来计算该初始信号中不同正弦波信号的频率,幅值和相位。 而从物理学的角度来看,傅里叶变换可以帮助我们将时域的信号转为频域来分析
两台设备的同步出的问题,设备都挂上了梯子,但是还是不能成功同步,而且会莫名其妙的删掉很多文件。 解决方法是 Win + R 打开 cmd,输入 %localappdata%\Microsoft\OneDrive\onedrive.exe /reset 之后 Onedrive 会关闭。 关闭之后再输入