机器学习中的概率估计指什么？

2020/09/28 04:44

机器学习算法会涉及到大量的数学基础内容，数学好的童靴们，你们的优势来了。在机器学习中涉及到了三个数学工具，分别是线性代数、概率统计（概率估计）、最优化理论。

今天，我们来讲概率统计，在机器学习中会涉及到很多相关的知识点，我们一起来看看！

（一）概率核心理论
概率的核心理论，搞清楚条件概率的问题，并且理清联合概率、边缘概率、条件概率这几个核心概念。同时，在此基础上熟悉和掌握贝叶斯公式和相关理论。

（二）核心的几种随机变量的分布以及变量之间的关系
这是基础的知识点，我们需要掌握离散型随机变量的几种主要的分布，而连续型随机变量主要就是掌握正态分布即可。并且熟练运用程序的工具获取分布的期望、方差等数字特征，了解概率密度函数和累积分布函数。对多组不同的变量，熟悉协方差以及相关性的意义和计算方法。

（三）参数估计理论
这一部分的内容会在后续的算法中广泛的体现和运用，因此理论与方法显得格外重要。需要重点掌握最小偏差无偏估计、最大似然估计和贝叶斯估计的相关内容。并且学习EM算法。

（四）建立随机理论的相关概念
这里首先需要掌握蒙特卡罗方法的基本思想。同时巩固贝叶斯的思想方法，接触一下马尔科夫蒙特卡洛（MCMC）算法。

（五）随机过程初步理论和应用
随机过程是门很深的课程，从应用的角度来讲，对于理论层面不必研究太深，以基础知识和基本应用为主。

首先马尔科夫链是必须学习的，了解状态转移矩阵、多步转移、几种不同的状态分类、平稳分布等最基本的内容。然后在此概念基础上，学习隐马尔科夫链的相关内容，聚焦其基本概念，以及概率估计、计算和参数学习的一些方法。