Skip to content

Commit

Permalink
update
Browse files Browse the repository at this point in the history
  • Loading branch information
szcf-weiya committed Nov 21, 2018
1 parent 955e0e6 commit cc55142
Showing 1 changed file with 1 addition and 1 deletion.
Original file line number Diff line number Diff line change
Expand Up @@ -30,7 +30,7 @@

![](../img/03/fig3.19.png)

这里我们主要对小的 $\epsilon$ 值感兴趣。令 $\epsilon\rightarrow0$ 则有图3.19的右图,在这种情形下与图3.10的lasso路径相同。我们称这个极限过程为无穷小的向前逐渐回归(infinitesimal forward stagewise regression)或者$FS_0$。这个过程在非线性、自适应方法中有着很重要的作用,比如boosting(第10和16章),并且是增长的向前逐渐回归的,这是最能禁得起理论分析的版本。由于它与boosting的关系,Buhlmann and Hothorn (2007)[^4]称这个过程为"L2boost"
这里我们主要对小的 $\epsilon$ 值感兴趣。令 $\epsilon\rightarrow0$ 则有图3.19的右图,在这种情形下与图3.10的lasso路径相同。我们称这个极限过程为无穷小的向前逐渐回归(infinitesimal forward stagewise regression)或者 $FS_0$ 。这个过程在非线性、自适应方法中有着很重要的作用,比如boosting(第10和16章),并且是增长的向前逐渐回归的,这是最能禁得起理论分析的版本。由于它与boosting的关系,Buhlmann and Hothorn (2007)[^4]称这个过程为"L2boost"

Efron 最初认为 LAR 算法 3.2 是 $FS_0$ 的一个实现,允许每个连结变量(tied predictor)以一种平衡的方式更新他们的系数,并且在相关性方面保持连结。然而,他接着意识到 LAR 在这些连结预测变量中的最小二乘拟合可以导致系数向相反的方向移动到它们的相关系数,这在算法3.4中是不可能发生的。下面对LAR算法的修正实现了$FS_0$:

Expand Down

0 comments on commit cc55142

Please sign in to comment.