发表于   |   更新于 | 分类于 | | 阅读次数:

声明

部分参考K-Means聚类算法原理

聚类算法

聚类算法是一种无监督学习算法,它主要用于将相似的样本自动归到一个类别中.
聚类算法与分类算法的区别:聚类算法是无监督学习,而分类是监督学习,在聚类算法中我们根据样本之间的相似度(或者说距离),将样本归到不同的类别中,对于不同的相似度我们得到的聚类结果可能是不通的.
K-Means是一种聚类算法,它实现起来比较简单,而且聚类的效果也不错,所以应用比较广泛.K-Means也有很多变体,如K-Means++,距离计算优化elkan K-Means算法和大数据情况下的优化Mini Batch K-Means算法。

阅读全文 »

发表于   |   更新于 | 分类于 | | 阅读次数:

这里总结一下LeetCode上经典的几个问题,其实思路真的都很简单,所有的变体大部分都是依据2Sum和3Sum得来.
另外以前都是主用C++,最近开始用py,写这篇总结主要是为了记录下思路,然后练习下py.

阅读全文 »

发表于   |   更新于 | 分类于 | | 阅读次数:

最优化是一种数学方法,它是研究在给定约束之下如何寻求某些因素,以使某一些指标达到最优的一些学科的总称.在机器学习中,大部分的机器学习算法的本质都是建立优化模型,通过最优化方法对目标函数(损失函数)进行优化,从而训练出最好的模型.梯度下降法,牛顿法和拟牛顿法是求解无约束最优化问题的常用方法.

阅读全文 »

发表于   |   更新于 | 分类于 | | 阅读次数:

什么是word2vec

关于word2vec，首先需要弄清楚它并不是一个模型或者DL算法，而是描述从自然语言到词向量转换的技术。
Word2Vec本质上就是一个只有一个hidden layer的全连接神经网络,它可以将所有的词向量化,这样词与词就可以定量的去度量他们之间的关系.

阅读全文 »

发表于   |   更新于 | 分类于 | | 阅读次数:

COUNT BAYESIE
在概率论和统计学中,我们经常用一个简单的近似分布来代替观测数据或复杂的分布.KL散度帮助我们衡量当我们选择一个简单近似的分布来代替复杂的数据或复杂的分布的时候有多少信息损失了.

阅读全文 »