理解

先来看看几个小例子:

  • 猎人师傅和徒弟一同去打猎,遇到一只兔子,师傅和徒弟同时放枪,兔子被击中一枪,那么是师傅打中的,还是徒弟打中的?
  • 一个袋子中总共有黑白两种颜色100个球,其中一种颜色90个,随机取出一个球,发现是黑球。那么是黑色球90个?还是白色球90个?

看着两个小故事,不知道有没有发现什么规律…由于师傅的枪法一般都高于徒弟,因此我们猜测兔子是被师傅打中的。随机抽取一个球,是黑色的,说明黑色抽中的概率最大,因此猜测90个的是黑色球。

他们有一个共同点,就是我们的猜测(估计),都是基于一个理论:概率最大的事件,最可能发生

其实我们生活中无时无刻不在使用这种方法,只是不知道它在数学中是如何确定或者推导的。而在数理统计中,它有一个专业的名词-极大似然估计,说白了就是看谁最像.

在机器学习中的应用

在机器学习中经常用极大似然估计根据已知的样本结果信息,反推最具有可能(最大概率)导致这些样本结果出现的模型参数值!

换句话说,极大似然估计提供了一种给定观察数据来评估模型参数的方法,即:“模型已定,参数未知”。

举个例子,这里有一些数据:

1,2,4,6,4,5,7,4,8,9,7,3,7,5,

我们决定用高斯分布模型对这些数据进行建模:

但是我们不能确定模型中的参数怎么办?

猜啊,根据已知的数据,猜出最有可能是什么,这就是极大似然估计

用数学表述为:

式中只有两个变量,利用极值处导数为0可求极值点的的值.

posted @ 2018-12-09 13:44:46
评论加载中...

发表评论