永利爆大奖平台仅仅是罗列一些数学课本中的重要理论

当前位置:永利爆大奖a56 > 永利爆大奖平台 > 永利爆大奖平台仅仅是罗列一些数学课本中的重要理论
作者: 永利爆大奖a56|来源: http://www.szzhuche.com|栏目:永利爆大奖平台

文章关键词:永利爆大奖a56,支撑超平面算法

  无论做任何事情,人们总是希望以最小的代价获得最大的利益,力求最好! 为此,人们发明各式各样的数学工具:导数,积分等。 现代优化理论大都来源于处理多元问题的理论,它有三个重要的基础:

  由此,一个最优化问题需要我们同时具备三种基本的能力:数学建模、公式推导、算法设计。

  下面我们正式进行凸优化的知识海洋。仅仅是罗列一些数学课本中的重要理论,为理解机器学习算法提供了理论视角。

  凸集分离定理的意义在于:它为分类问题提供了理论上的支持。在机器学习的分类问题中,我们可以把带有类别标签的训练集看作不同的凸集,而分隔它们的超平面就是分类器。我们的目标是根据这些训练集的特性,找到一个分类算法,通过学习或训练并计算出这些凸集的超平面从而达到了分类的目的。

  凸函数是凸集中元素的数学特征表示,体现了凸集中元素所呈现的规律性。它被定义为某个向量空间的凸子集\(C\)上的实值函数\(f\)。若在其定义域\(C\)上的任意两点\(x_1,x_2\),及\(\alpha \in [0,1]\),均有

  在最优化理论中,局部最优解被称为满意解,全局最优解被称为最优解。大多数传统的最优化理论和算法都只能保证找到满意解,因而人们尽可能的使用凸函数作为优化问题的目标函数。对于那些无法转换为凸函数的优化问题,只有通过穷举法来计算函数的所有值 (如果可能) 来找到全局最优解。当然针对一些特定的问题可以通过,诸如模拟退火法、隐马尔科夫链算法等随机优化方法来寻找最优解。但这不是我们讨论的要点,我们主要列举一些我认为比较重要的凸函数的相关知识点。

  如果不考虑算法的优劣,对于同一个算法执行过程所占用的资源越多,则说明该算法要解决的问题的复杂性越高。在各类算法理论中,通常将在多项式时间内即可解决的问题看作易解问题,需要指数时间才可解决的问题看作是难解问题。因而,当前算法研究领域的一个重要任务是如何将指数时间算法变换为多项式算法?

  除了问题规模和运算时间的比较之外,衡量一个算法还需要考虑确定性和非确定性的概念。下面先引入自动机模型,或简称为自动机(Automata Machine) 或机 (Machine),实际上常指一种基于状态变化进行迭代的算法 (如玻耳兹曼机 (Boltzman) 和支持向量机)。在算法领域常把这类算法看作是一个机器。

  所谓确定性是指针对各种自动机模型, 根据当时的状态和输入, 若自动机的状态转移是唯一确定的,则称确定性;在每一时刻,若自动机有多个状态可供选择,并尝试执行每个可选择的状态时,则称为非确定性. 通俗地说,确定性就是程序在每个运行时 (自动机状态转移时) 产生下一步的结果是唯一的, 因此返回的结果也是唯一的。而非确定性就是在每个运行时执行路径是并行的 (随机的):所有路径都有可能返回结果,也可能只有部分返回结果,也可能不返回结果,但只要有一个路径能够返回结果,那么算法就会结束。

  在求解优化问题时,永利爆大奖平台非确定性算法可能会陷入局部最优,因为所有并行的路径中某个执行路径运行达到最优,算法就会结束,但此时返回的不一定是全局最优解。

网友评论

我的2016年度评论盘点
还没有评论,快来抢沙发吧!