OpenSL

【今日观点】 贝叶斯推断的进一步理解

近期,再次研读机器学习经典算法,在阅读到逻辑斯汀回归时,又一次的遇到了贝叶斯估计。逻辑斯汀回归用后验概率作为回归结果。 那么到底什么是先验概率,什么是后验概率呢? 在我看来,先验概率就是人们根据经验或者甚至随机的给定的一个概率值,可能不准。...

梯度下降算法和正规方程组-OpenSL
机器学习

梯度下降算法和正规方程组

admin阅读(39)评论(0)

为了修正权系数,最终实现正确的分类,我们可以使用梯度下降法和正规方程法。其中特征变量比较少(n没有上万)时,我们既可以用梯度下降法又可以用正规方程法,但当特征变量比较多时,我们最好用梯度下降法,因为当特征变量比较多是,用正规方程法计算会比较...

关联规则挖掘——Apriori算法的基本原理以及改进-OpenSL
机器学习

关联规则挖掘——Apriori算法的基本原理以及改进

admin阅读(59)评论(0)

问题引入 关联规则挖掘发现大量数据中项集之间有趣的关联或者相互联系。关联规则挖掘的一个典型例子就是购物篮分析,该过程通过发现顾客放入其购物篮中不同商品之间的联系,分析出顾客的购买习惯,通过了解哪些商品频繁地被顾客同时买入,能够帮助零售商制定...

机器学习

挖掘建模–分类与预测

admin阅读(37)评论(0)

前面我们已经谈了关于数据预处理:数据清洗、数据集成、数据变换和数据规约的问题。下面将描述关于数据挖掘与建模的问题: 1.分类与预测问题 分类和预测问题是预测问题的两种主要类型(在统计学习中称为生成和判别) 分类属有监督学习; 分类算法的两步...

傅里叶变换 与 小波变换-OpenSL
机器学习

傅里叶变换 与 小波变换

admin阅读(28)评论(0)

作者:zhiming 链接:https://www.zhihu.com/question/19725983/answer/17040960 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 傅里叶变换,可以理...

机器学习

PCA SVD

admin阅读(23)评论(0)

先说PCA吧,PCA降维的大致思想就是: 挑选特征明显的、显得比较重要的信息保留下来。 那么关键就是【特征明显的,重要的信息】如何选择? 选择标准有两个: 1: 同一个维度内的数据,方差大的比较明显,因为方差大表示自己和平均水平差异大,有个...

什么是特征工程,怎么做?-OpenSL
机器学习

什么是特征工程,怎么做?

admin阅读(57)评论(0)

我们在拿到数据时,并不是直接就开始训练的,总是要先对数据进行分析。数据中可能存在一些缺失值、异常值等。 《特征工程三部曲》之一数据处理 要理解特征工程,首先就要理解好数据(Data)和特征(Feature)的概念 (一)逻辑梳理 特征工程(...

SGD Adam等-OpenSL
深度学习

SGD Adam等

admin阅读(37)评论(0)

1. SGD Batch Gradient Descent 在每一轮的训练过程中,Batch Gradient Descent算法用整个训练集的数据计算cost fuction的梯度,并用该梯度对模型参数进行更新: Θ=Θ−α⋅▽ΘJ(Θ)...

seq2seq学习笔记-OpenSL
深度学习

seq2seq学习笔记

admin阅读(64)评论(0)

1. RNN基础 对于RNN,我看到讲得最通俗易懂的应该是Andrej发的博客: The Unreasonable Effectiveness of Recurrent Neural Networks 这里有它的中文翻译版本: 递归神经网络...

决策树--信息增益,信息增益比,Geni指数的理解-OpenSL
机器学习

决策树–信息增益,信息增益比,Geni指数的理解

admin阅读(39)评论(0)

决策树 是表示基于特征对实例进行分类的树形结构       从给定的训练数据集中,依据特征选择的准则,递归的选择最优划分特征,并根据此特征将训练数据进行分割,使得各子数据集有一个最好的分类的过程。 决策树算法3要素: 特征选择 决策树生成 ...