Microsoft Word - 机器学习中的目标函数总结.docx

Size: px

Start display at page:

Download "Microsoft Word - 机器学习中的目标函数总结.docx"

位都
5 years ago
Views:

1 机器学习中的目标函数总结几乎所有的机器学习算法最后都归结为求解最优化问题, 以达到我们想让算法达到的目标为了完成某一目标, 需要构造出一个目标函数来, 然后让该函数取极大值或极小值, 从而得到机器学习算法的模型参数如何构造出一个合理的目标函数, 是建立机器学习算法的关键, 一旦目标函数确定, 接下来就是求解最优化问题, 这在数学上一般有现成的方案如果你对最优化算法感兴趣, 可以阅读 SIGAI 之前的公众号文章理解梯度下降法, 理解牛顿法, 理解凸优化, 机器学习中的最优化算法总结本文的侧重点是对目标函数的构造进行总结下面我们将介绍机器学习中一些典型的目标函数的构造思路, 并对各种算法的目标函数做一个总结按照用途和要解决的问题, 机器学习算法可以分为有监督学习, 无监督学习, 强化学习 3 种类型其中, 有监督学习又进一步细分为分类问题与回归问题, 无监督学习算法分为聚类问题和数据降维问题概括起来, 各类算法要解决的核心问题是 : 分类算法回归算法聚类算法数据降维强化学习是什么是多少怎么分怎么压怎么做对于有监督学习中的分类问题与回归问题, 机器学习算法寻找一个映射函数 : h( x) 为输入的样本数据预测出一个实数值或类别标签不同的是, 分类问题要确定样本的类别, 即回答是什么的问题 ; 回归问题要预测出一个实数值, 即回答是多少的问题例如, 如果要确定一张图像是猫还是狗, 则为分类问题, 算法的输入为图像, 输出为类别编号如果我们要根据一个人的年龄学历行业等信息预测他 / 她的收入, 则属于回归问题二者都是要确定上面这种形式的函数对于无监督学习的聚类问题, 机器学习算法要寻找一个集合的划分, 将样本集 D 划分成多个不相交的子集 : D,..., D k 每个样本属于这些子集中的一个, 因此可以概括为解决怎么分的问题, 与分类问题不同的是, 这里没有人工事先定义好的类别, 因此也没有训练过程例如, 如果要将一批新闻划分为不同类型的, 就属于聚类问题, 这里没有实现定义好的类, 算法自己完成划分, 这些类可能是政治体育娱乐经济军事等对于数据降维问题, 机器学习算法要寻找一个映射函数, 将一个高维向量映射成一个低

2 维向量 : ( x) 但要尽可能的保留之前向量的一些重要信息对于强化学习, 机器学习算法要为每种状态 s 下确定一个动作 a 来执行, 即确定策略函数, 使得执行这些动作之后得到我们预期的结果 : ( s) 执行动作后会得到奖励, 这个预期的结果是让奖励最大化例如, 用强化学习来实现自动驾驶, 要根据当前的路况来决定怎么开车, 这里的路况就是状态, 开车就是动作, 通过控制汽车去我们想去的目的地, 这就是目标上面这些算法要完成的目标是一个抽象的概念, 具体实现时, 要通过一个目标函数来体现, 算法要通过让目标函数取极大值或极小值来确定模型的参数 a 有监督学习首先来看有监督学习, 要确定一个映射函数, 这个函数带有参数, 而参数则通过训练样学习得到假设映射函数为 : h ( x; ) 其中是模型的参数, 如何确定它的值, 是训练算法的核心一般来说, 我们称有监督学习的目标函数为损失函数, 它通过模型对每个训练样本 x 的预测值! 与训练样本的真正标签值来构造其含义是, 如果算法预测错了, 则有损失, 因此该函数反映了映射函数的预测值与样本真实标签值之间的误差让误差最小化, 就是让损失函数最小化 : 其中为训练样本数,( ) m L L x, ; x,,,..., ( ) ( ) 是已知的, 目标函数的未知数是模型的参数为训练样本样本的特征向量以及标签值此时某些有监督的机器学习算法拟合的是概率密度函数或者某一概率分布, 此时需要根据样本来确定概率分布的参数在学习概率论与数理统计时我们知道, 确定一个概率分布的参数最常用的是最大似然估计, 它求解如下的似然函数最大化问题 : ( ) max p x ; 求解函数极值时需要对参数求导, 这种连乘形式的函数求导不方便, 因此对似然函数取对数, 得到对数似然函数 : ( ) max p x ; 这类问题的核心是根据一组样本来估计概率分布的参数, 使得在参数取最优值的时候, 这组样本出现的概率最大下面针对分类问题和回归问题, 分别总结常用的目标函数

3 分类问题对于分类问题, 预测函数的输出值是离散化的类别标签给定一组训练样本, 在训练时的目标是让这组训练样本尽量被正确的分类, 这对应于经验风险最小化的思想感知器算法的是最简单的线性分类器, 它的目标是让所有样本尽可能分类对于二分类问题, 线性分类器的判别函数为 : ( + b) sg w x 样本的标签值为 + 或 -, 分别对应正样本和负样本如果线性函数预测出来的值和样本的真实标签值不同号, 则预测错误 ; 如果同号, 则预测正确要将预测错误最小化, 只需求解如下最优化问题即可 : m ( w x + b) 对于每个训练样本, 如果预测正确, 则损失函数为负, 否则为正这样我们就构造出了一个容易求解的损失函数对于二分类或多分类问题, 都可以用欧氏距离作为分类的损失函数对于多分类问题, 一般不直接用类别编号作为预测值, 而是为类别进行向量化编码, 如 oe-hot 编码此时损失函数定义为 : m h( x) 在人工神经网络发展的早期, 这种函数被广泛使用, 但后来对于多分类问题, 更多的采用交叉熵损失函数在后面我们会介绍此函数, 至于原因, 在 SIGAI 之前的公众号文章群话题精华五月集锦机器学习和深度学习中一些值得思考的问题中曾经做过说明, 感兴趣的读者可以阅读这篇文章线性判别分析 (LDA) 是一种有监督的数据降维算法, 它的目标是最大化类间差异, 最小化类内差异数据经过投影之后, 在低维空间里, 同类样本聚集在一起, 不同类的样本相距尽可能远类内差异用每个类的方差来衡量, 类间差异用各个类的类中心之间的距离来衡量, 二者的比值为我们要优化的目标由此构造出如下损失函数 : ( B ) ( W ) tr W S W max L ( W) tr W S W 求解这一问题最后归结为求解矩阵的特征值问题前面介绍的感知器算法的目标函数, 欧氏距离损失, 代表的都是经验风险, 即在训练样本集上让误差最小化这样做的泛化性能不一定好, 还有一种做法为结构化风险最小化, 典型代表是支持向量机支持向量机不仅要让所有训练样本尽可能被正确分类, 还要让分类间隔最大化, 根据解析几何中点到超平面的距离公式, 我们构造出了它的优化目标 :

4 m w w (w x + b) + C 0,,..., 这个优化问题还带有不等式约束 SVM 推导的细节,SIGAI 之前写过一篇公众号文章, 后面将做更详细的讲解, 敬请期待我们可以从另一个角度解释支持向量机的优化目标函数, 即合页损失函数合页损失函数定义为 : 其意义为当 : 即当样本的间隔大于时 : ( w x) max 0, 该样本的损失是 0; 否则样本的损失是失函数,SVM 训练时优化的目标为 : w x 0 w x w x 此时是一个正的损失采用合页损 ( ( ) ) m w w w + C max 0, w x 这和前面一种表述是等价的此时, 目标函数的前半部分充当正则化项, 后半部分充当真正的损失函数, 用于对违反约束的样本进行惩罚前面说过, 对于输出概率值的模型, 可以采用最大似然估计来估计模型的参数典型的代表是 ogstc 回归对于二分类问题, 如果样本的类别标签值为和 0, 则对数似然函数为 : ( ) ( ) ( ) + ( ) ( ( ) ) max L w og h x og h x 将 ogstc 回归推广到多分类问题, 即 softmax 回归, 它输出一个样本属于每个类的概率值因此, 训练样本的标签值为一个向量, 如果样本属于某一类, 该分量为, 其他分量为 0 损失函数根据标签向量与预测出的概率向量构造, 使用的是 softmax 交叉熵, 定义为 : 而交叉熵损失定义为 : k L ( ) j k j m og t exp exp ( j x) ( t x)

5 L og 它在深度神经网络中被广泛使用 AdaBoost 算法训练时优化的目标函数为指数损失函数, 它根据强分类器的输出值 F(x) 与样本的标签值构造 : (, ( x) ) exp F( x) L F ( ) 在这里, 样本的标签值为 - 或 +, 对应于负样本和正样本强分类器通过加法模型构造, 求解时每次优化一个弱分类器和它的权重, 具体做法在之前的公众号文章理解 AdaBoost 算法中已经介绍, 由此可以推导出 AdaBoost 的训练算法神经网络尤其是深度学习中使用的损失函数种类繁多, 除了传统的欧氏距离之外, 还有近几年流行的交叉熵, 以及其他函数, 下表列出了常用的一些损失函数以及它们的导数 : 类型损失函数导数欧氏距离 L! L (!! ) softmax 交叉熵对比损失合页损失 ( x ) L og L ( k x ) exp( x ) j exp j d a b L d max m d,0 ( ( ) ( )) + L ( ( a b )) L a b ( ( a b )) k p ( max ( 0, { } j) ) L { j} L j t j t j 0 信息增益 j ( j ) k L h og! p j L p j h j!! p j 在这里, 求导是对神经网络的预测数据进行的损失层是神经网络训练时的最后一层, 它也只用于训练阶段在实现反向传播算法时, 它是梯度反向传播的起点需要说明的是, 对前面介绍的很多损失函数, 我们都可以加上正则化项, 得到新的损失函数, 以减轻过拟合回归问题回归问题直接预测出所需要的函数值最常用的是欧氏距离损失, 它直接反映预测值与真实值之间的误差 :

6 h ( x ) 除此之外, 还有其他的函数可以考虑, 如接下来要介绍的 L 光滑的损失函数如果预测函数是线性函数, 则为线性回归, 这是最简单的回归算法, 其损失函数为 : L b b ( w, ) ( w x + ) 如果加上 L 和 L 正则化项, 则分别得到 LASSO 回归和岭回归多任务损失函数在一些实际应用中, 机器学习算法要同时解决多个问题例如对于目标检测问题, 其目目标是检测出图像中各种大小各种位置各种类写的目标, 即要同时判断出每个目标的类型 ( 是人, 是车, 还是其他类型的东西 ) 以及目标所在的位置大小 : 目标的位置和大小一般用一个矩形框来定义目标, 即其外接矩形, 用参数表示为 (x,, w, h), 其中 (x, ) 是矩形左上角的坐标,w 为宽度,h 为高度前者是一个分类问题, 后者是一个回归问题为了同时完成这些目标, 设计出了多任务损失函数此函数由两部分构成, 第一部分为分类损失, 即要正确的判定每个目标的类别 ; 第二部分为定位损失, 即要正确的的确定目标所处的位置以 Fast R-CNN 为例, 它的损失函数为 : u u ( p,, t, v) cs ( p, ) + [ ] oc ( t, v) L u L u u L 前半部分为分类损失, 可以采用交叉熵完成多分类任务后半部分为定位损失, 确定矩形框的大小和位置, 但并没有使用欧氏距离, 而是采用了 L 光滑的损失函数, 定义为 : smooth L ( x) 0.5 x x < x 0.5 x 在之后的 Faster R-CNN,YOLO,SSD 等算法中, 都采用了这种多任务损失函数的思路除此之外, 在其他地方也有多任务损失函数的影子, 例如人脸识别卷积神经网络用于人脸识别任务时, 主要的作用是为每个人提取出有区分度的特征要确保对同一个人的不同

7 表情姿态角度的人脸图像所提取出的特征向量不要有太大的差异 ; 但同时要确保提取的特征向量能区别不同的人基于这一思路,DeepID 设计出了一种多任务的损失函数 : L Idet + Verf 损失函数的前半部分为 softmax 交叉熵, 用于区分不同的人, 即解决多分类问题后半部分为人脸验证损失, 其目标是同一个人的特征向量尽量接近, 不同人的特征向量尽量距离得远此后的各种人脸识别算法, 大多采用了各种新设计的损失函数, 例如 Ceter oss 的目标是让不同人的特征向量能被正确的分类, 而同一个人的特征向量离这个人所有特征向量的类中心尽可能接近这样就迫使神经网络提取出的特征向量能有效的区分不同人, 而且同一个人的特性向量分布尽量紧密下图是用这一算法提取出的人脸特征向量通过 PCA 投影到 D 平面后的结果 : 从上图可以看出, 通过加大中心损失的系数, 同一个人的特征最后收缩在很小的一个范围内, 不同人的特征向量中间以一个很大的间距被分开, 以此增加分类算法的泛化性能数据生成模型数据生成模型生成符合某种分布的随机数, 而这种随机数服从何种概率分布, 我们是不知道的, 无法写成概率密度函数的表达式来生成对抗网络是深度生成模型的典型代表生成对抗网络由一个生成模型与一个判别模型构成, 前者先用样本进行学习, 然后可以生成和真实样本服从相同分布的样本数据后者对生成模型生成的样本以及真实样本进行判定, 确定一个样本是生成的, 还是真实的训练的目标是, 生成模型要尽可能的欺骗判别模型, 即让判别模型把自己生成的样本判定为真实样本 ; 判别模型的目标是准确的区分出真实样本和生成的样本, 尽可能的把生成模型产生的模型鉴别处理, 即判定为假由此构造出如下的目标函数 : ( ( )) ( ) ( ) ( ) + ( ) ( ) m max V D, G og Dx og D Gz G D x! pdata x z! pz z

8 目标函数由两部分构成后半部分只用于生成模型, 要让生成模型产生的样本, 被判别模型判定为真, 即让 D(G(z)) 尽可能接近于, 即让目标函数取极小值整个目标函数都用于判别模型, 前半部分要让判别模型将真实样本尽量判别为真, 后半部分要让判别模型将生成的样本尽量判别为假, 即让目标函数取极大值, 这类似于而分类问题的交叉熵无监督学习无监督学习分为聚类问题与数据降维问题两种类型, 它们优化的目标完全不同, 我们分别进行介绍聚类聚类算法将一组样本划分成多个类, 确保同一类中的样本差异尽可能小, 而不同类的样本之间尽量不同可以基于这一思想构造损失函数 : m S k x S x 其含义是每一类样本距离它的类中心要近, 可以理解为这类似于每个类的方差所有类的方差之和要尽可能小这就是 k 均值算法要优化的目标数据降维数据降维算法要确保将向量投影到低维空间之后, 仍然尽可能的保留之前的一些信息, 至于这些信息是什么, 有各种不同理解, 由此诞生了各种不同的降维算法主成分分析的优化目标是最小化重构误差, 即用投影到低维空间中的向量近似重构原始向量, 二者之间的误差要尽可能的小最小化重构误差的目标为 : j ' d m m + a e x j j 这里有附带约束条件, 即投影的基向量 e j 之间要相互正交类似的, 自动编码器也采用了这一思想自动编码器是一种特殊的神经网络, 由编码器和解码器两部分构成前者对输入数据进行映射, 得到编码后的向量 ; 后者对编码后的向量进行重构, 恢复出原始向量解码器只在训练时使用, 训练完成之后, 只需要编码器这一部分, 用于对输入数据进行降维或特征提取其训练时的目标函数为 : m x g ' x ( h ( ) ) 即神经网络训练时的标签值和输入向量值相同这和 PCA 非常类似, 不同的是神经网络的映射是非线性的某些非线性降维算法如流形学习, 采用了更复杂的目标函数以等距映射为例, 它采用了测地距离来构造损失函数, 投影到低维空间之后, 要保持这种距离信息, 由此得到优化目标函数为 : N N j ( d ( ) ) G j j m,

9 流形学习的原理在之前的 SIGAI 公众号文章流形学习概述中已经介绍, 感兴趣的读者可以阅读强化学习最后来说强化学习不同于有监督学习和无监督学习, 强化学习的目的是寻找出一个策略函数, 使得在每种状态下, 按照该函数确定的动作执行, 最后得到的累计回报最大化之所以要计算累计回报是因为执行完一个动作之后要进入一个新的状态, 在这个新的状态下又要执行动作这里的累计回报用状态价值函数或者动作价值函数来定义, 这是递归的定义状态价值函数的自变量为状态以及策略函数, 定义为在一个状态 s 下按照策略来确定动作执行, 最后得到的累计回报值 : V ( s ) 如果使用状态价值函数, 强化学习要求解所有状态下的状态价值函数最大化问题 : ( s ) max ( ) V V s 由于各个状态之间存在关联, 因此求解算法不同于其他机器学习算法关于强化学习的原理,SIGAI 将在后面的公众号文章中详细介绍这篇文章更详细的讲解已经由 SIGAI 录制成了视频, 本文作者亲自讲述, 精心剪辑制作如果你对文章的话题感兴趣, 可以登录 SIGAI 的官网 : 注册账号之后, 即可观看视频并下载讲解的 PP 由于要支付高昂的讲师费剪辑费, 以及服务器研发硬件与带宽等开销, 因此我们向各位同学象征性的收取一部分成本费, 本视频的价格为 9.9 元, 以维持 SIGAI 后续的内容创作和研发如果你喜欢我们的文章, 希望能支持我们!SIGAI 将持续输出高质量的内容与产品

图的左半部分列出了常用的机器学习算法与它们之间的演化关系, 分为有监督学习, 无监督学习, 强化学习 3 大类右半部分列出了典型算法的总结比较, 包括算法的核心点如类型, 预测函数, 求解的目标函数, 求解算法理解和记忆这张图, 对你系统化的掌握机器学习与深度学习会非常有帮助! 我们知道, 整个

图的左半部分列出了常用的机器学习算法与它们之间的演化关系, 分为有监督学习, 无监督学习, 强化学习 3 大类右半部分列出了典型算法的总结比较, 包括算法的核心点如类型, 预测函数, 求解的目标函数, 求解算法理解和记忆这张图, 对你系统化的掌握机器学习与深度学习会非常有帮助! 我们知道, 整个机器学习算法地图作者 :SIGAI 2018.7.04 原创声明 : 本文为 SIGAI 原创文章, 仅供个人学习使用, 未经允许, 不能用于商业目的很多同学在学机器学习和深度学习的时候都有一个感受 : 所学的知识零散不系统, 缺乏整体感, 这是普遍存在的一个问题在这里,SIGAI 对常用的机器学习和深度学习算法进行了总结, 整理出它们之间的关系, 以及每种算法的核心点, 各种算法之间的比较