神经网络的参数计算
神经网络的参数计算理论上
卷积层：$K^2×C_i×C_o+C_o$其中K为卷积核大小,$C_i$为输入channel数,$C_o$为输出的channel数(也是filter的数量),算式的第二项是偏置项的参数量.
BN层:$2×C_i其中C_i$为输入的channel数
全连接层:$T_i×T
...
DenseNet
DenseNetDenseNet模型的基本思路与ResNet一致，但是它建立的是前面所有层与后面层的密集连接（dense connection），它的名称也是由此而来。DenseNet的另一大特色是通过特征在channel上的连接来实现特征重用（feature reuse）。
可以看到，ResNet
...
C++知识点（二）
感受野的计算问题
https://www.jianshu.com/p/9997c6f5c01e
感受野在卷积神经网络中，感受野（Receptive Field）的定义是卷积神经网络每一层输出的特征图（feature map）上每个像素点在原始图像上映射的区域大小，这里的原始图像是指网络的输入图像，是经过预处理（如re
...
葫芦娃的葫芦书刷题（五）
Random Forest
随机森林随机森林实际上是一种特殊的bagging方法，它将决策树用作bagging中的模型。随机森林顾名思义，是用随机的方式建立一个森林，森林里面有很多的决策树组成，随机森林的每一棵决策树之间是没有关联的。
随机森林由决策树组成，决策树实际上是将空间用超平面进行划分的一种方法，每次分割的时候，都将当
...
GBDT要点
GBDT算法流程GBDT通过采用加法模型(基函数的线性组合),以及不断减少训练过程产生的残差来达到将数据分类或回归的算法.(boosting的过程)训练过程: gbdt通过多轮迭代,每轮迭代产生一个弱分类器，每个分类器在上一轮分类器的残差基础上进行训练。对弱分类器的要求一般是足够简单，并且是低方差和
...
葫芦娃的葫芦书刷题(四)
知识星球上的小知识点
3月19号
降维一般指的是数据,而稀疏一般指的是参数向量.PCA是数据本身冗余性降维,而L1是根据预测值去选择相关特征,出发点不同。
YOLO模型预训练时ImageNet像素减半,测试像素扩大一倍?我觉得应该是使能检测出更小物体.
机器翻译中是否存在数据不平衡的问题?一般如何解决?机器翻译中存在着
...
Kaggle模型融合
https://mp.weixin.qq.com/s/QVFwMzh2IyKeCjSJ6vjZeA
Kaggle比赛集成指南集成模型是一种能在各种的机器学习任务上提高准确率的强有力技术。在第一部分中，我们会讨论从提交文件中建立集成。主要包括：
投票集成
平均
排名平均
第二部分我们会讨论 通过
...