l1和l2正则化的区别
l1和l2正则化的区别是:
1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。
2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。
3、最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0。
以上就是关于l和l2正则化的区别的全部内容,以及l1和l2正则化的区别的相关内容,希望能够帮到您。
版权声明:本文来自用户投稿,不代表【易百科】立场,本平台所发表的文章、图片属于原权利人所有,因客观原因,或会存在不当使用的情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系(邮箱:350149276@qq.com)我们将及时处理,共同维护良好的网络创作环境。