数字图像处理笔记(一) 发表于 2018-12-14 | 分类于 Computer Vision 字数统计: 2.4k 字 | 阅读时长 ≈ 9 分钟 什么是数字图像处理数字图像是由有限数量的元素组成的,每个元素都有一个特定的位置和幅值,这些元素称为像素。可以定义为二维函数f(X,y),其中,x,y是空间坐标,f(x,y)是点(x,y)的幅值. 灰度图像是一个二维灰度(或亮度)函数f(x,y) 彩色图像(如RGB,HSV)由三个二维灰度(或亮度) ... 阅读全文 »
CS224n笔记(五) 发表于 2018-12-12 | 分类于 Cs224n 字数统计: 3.2k 字 | 阅读时长 ≈ 11 分钟 NMT全称:Neural Machine Translation。主要就是指用一个大型神经网络建模整个翻译过程的系统。与word2vec和word embedding一样,不要细究NMT与Seq2Seq的区别。 主要架构抽象的架构就是一个encoder一个decoder.在过去,传统的基于短语的翻译 ... 阅读全文 »
信息检索常用的评价标签MAP 发表于 2018-12-06 字数统计: 1.9k 字 | 阅读时长 ≈ 7 分钟 前言最近在准备kaggle的一个比赛的时候,看到里面的评判标准为:$MAP@5$,又到了我这个菜鸡的知识盲区了。因此不得不写下这篇博客来。记录一下。 MAP可以由三个部分来理解:P、AP、MAP。这些都是信息检索领域的概念。 信息检索、分类、识别、翻译等领域都可能用到这些指标 粗略了解 这张图是我们 ... 阅读全文 »
Embedding层 发表于 2018-12-05 | 分类于 Deep Learning 字数统计: 1.9k 字 | 阅读时长 ≈ 7 分钟 尴尬最近看别人做电影的推荐系统,用在输入用户特征和电影特征的时候用到了Embedding层,一开始疑惑了好久这里的embedding层是怎么做的,上网查了一下才发现是就是之前的word embedding. 望以后能学习致用! Pytorch中的embeddingPytorch中的embedding ... 阅读全文 »
机器学习(三)——决策树 发表于 2018-12-04 | 分类于 Machine Learning 字数统计: 7.2k 字 | 阅读时长 ≈ 26 分钟 决策树模型的简介分类决策树模型是一种描述对实例进行分类的树形结构。我们可以理解这种树形结构是符合if-then的规则,也可以认为是定义在特征空间与类空间上的条件概率分布。我们希望我们构建的树结构的泛化能力尽可能强。在学习时,我们利用训练数据,根据损失函数最小化的原则建立决策树模型。预测时,对新数据利 ... 阅读全文 »
CS224n笔记(四) 发表于 2018-11-29 | 分类于 Cs224n 字数统计: 2.4k 字 | 阅读时长 ≈ 9 分钟 写在前面在CNN网络中的训练样本数据为iid(独立同分布数据),所解决的问题也是分类问题或者回归问题或者是特征表达问题。但更多的数据是不满足iid的,如语音翻译,自动文本生成。它们是一个序列问题,包括时间序列和空间序列。这时就要用到RNN网络。 传统语言模型语言模型就是计算一个单词序列(句子)的概率 ... 阅读全文 »
深度学习中卷积的骚操作 发表于 2018-11-28 | 分类于 DL 字数统计: 2.2k 字 | 阅读时长 ≈ 8 分钟 前言从2012年 AlexNet发展至今,大牛们提出了各种CNN模型,目的就是增加准确率、更轻量。研究讨论这些模型的目的,也是为了分析一下日后CNN变革的方向 Group convolutiongroup convolution最早是在AlexNet中出现,由于当时的硬件资源有限,训练AlexNet ... 阅读全文 »
机器学习(二)———逻辑回归 发表于 2018-11-28 | 分类于 Machine Learning 字数统计: 3.5k 字 | 阅读时长 ≈ 12 分钟 逻辑回归与线性回归逻辑回归与线性回归虽然都有回归两个字,但两者的作用却大不一样。逻辑回归处理的是分类问题,而线性回归处理的是回归问题。 在逻辑回归的讨论中,我们认为y是因变量,而非$\frac{p}{1-p}$,这便引出了逻辑回归与线性回归的最大的区别,即逻辑回归的因变量为离散的,而线性回归中的因变 ... 阅读全文 »
深度学习与流形学习(一) 发表于 2018-11-25 字数统计: 3.5k 字 | 阅读时长 ≈ 12 分钟 什么是流形流形学习的观点:认为我们所观察到的数据实际上是由一个低维流形映射到高维空间的。由于数据内部特征的限制,一些高维中的数据会产生维度上的冗余,实际上这些数据只要比较低的维度的维度就能唯一的表示。所以直观上来讲,一个流形好比是一个d维的空间,在一个m维的空间中(m>d)被扭曲之后的结果。需 ... 阅读全文 »
CS224n笔记(三) 发表于 2018-11-22 | 分类于 Cs224n 字数统计: 3.6k 字 | 阅读时长 ≈ 13 分钟 Dependency parsing语言学的两种观点如何描述语法有两种主流观点:1.短语结构文法(也叫上下文无关文法),英语术语是:Constituency=phrase structure grammar=context-free grammars(CFG).简单来说,是把词按照结构组成句子。上下 ... 阅读全文 »