深度学习 - 卷积神经网络 Convolutional Networks
卷积神经网路 Convolutional Neural Network CNN CNN的结构 卷积层 Convolution 池化层(下采样) Polling 全连接层 Full connection 卷积层 最基础的2D卷积操作,涉及到一个2D的过滤器(filter),或者说是核(kernel)。
深度学习 - 深度前馈网络 Deep Feedforward Networks
在机器学习中,如果想对非线性函数进行建模,深度前馈网络能够实现这一目标。 在深度学习中,使用一个简单函数的深度链来学习输入数据。 线性函数的输入函数: \hat{y} = \theta^\top x 非线性函数的输入函数: \hat{y} = f(\phi(x); \theta) 其中: \phi(
关于深度学习(Deep Learning ACS61011)这门课
关于这门课 这门课的授课老师是号称谢菲尔德大学最受欢迎的Lecture - Dr Sean Anderson。课堂的风格确实比较生动有趣,而且因为Deep Learning目前仍然比较前沿的原因,课堂上时常举一些比较cool或者exciting的例子,比如一次关于CUDA的课堂,开始跟我们讨论比特币
多系统BIOS的默认启动顺序调整
问题 我的 ThinkPad X280 装了 Ubuntu 和 Windows 的双系统,但是我发现 BIOS 的启动顺序中,排第一的是 Ubuntu,第三才是 Windows。 Figure 1 初始 BIOS 启动顺序 这也就导致了,如果我开机之后什么都不操作,会默认进入 Ubuntu。问题是,
机器学习 - 正则化和优化器(Regularisation and Optimisers)
当模型可调节参数(自由度)过多时,容易学习到训练数据中的噪声,进而出现过拟合(训练集误差小、测试集误差大)。因此要对模型的参数引入某种限制,在训练过程中避免过拟合。 正则化通过在损失函数中加入参数惩罚项,约束参数规模,迫使模型优先学习数据的通用规律,而非噪声。 范数 在正式进入正则化的学习之前,先了
机器学习- 感知机 Perceptron
Neural Networks, NN 1943 年 Warren McCulloch 和 Walter Pitts 提出了最早的神经元数学模型(McCulloch-Pitts 神经元),可看作人工神经网络(artificial neural network, ANN)的雏形,通常也简称为神经网络(
机器学习 - 分层聚类和Kmeans
聚类 聚类是一种无监督的机器学习方法,它能使类似的对象从其他对象中分离出来。它是无监督的,因为我们没有给模型任何标签;它只是检查特征并确定哪些样本是相似的并属于一个群组。 常见的聚类算法有: 分层聚类算法(Hierarchical Cluster Analysis, HCA) K-means Exp
机器学习 - 主成分分析(PCA)
主成分分析 获取到的数据集通常都会有很高的维度,给运算造成很大压力,所以需要降维,但是我们并不知道哪些数据更关键,因此引入了主成分分析 (Principal Component Analysis, PCA) 的方法。PCA 算法在无监督学习中扮演着重要的角色。 PCA 的目的是通过某种变换,将数据的
机器学习 - 特征工程(Feature Engineering)
机器学习的建模流程 机器学习项目一般遵循一个固定的流程,从定义问题到部署模型。Figure 1 展示了一个典型的 pipeline:先明确研究问题,然后采集数据、清洗数据、预处理数据,接着做特征工程和建模,最后评估和部署。 Figure 1 Pipeline of Machine Learning
机器学习 - 决策树 (Decision Tree)
什么是决策树 (Decision Trees) 对于决策树,目标变量是连续数值的,被称为回归树;若是离散值,被称为分类树。 比如,预测房价,是回归树;预测病患是否患病,是分类树。本文重点介绍分类树。 决策树是一种非参数化模型。 决策树的构造 根结点(Root node):代表整个数据集或采样,并且可