epsilon 如果不想依赖别人写的包的话,可以参考 Andrew Ng 的课程 https://class.coursera.org/ml-005 ,应该在 VII. Regularization (Week 3) 里就有相关内容,编程作业题目里有怎么得到 参数 的估计的代码,只不过是用 Octave/matlab 写的。但Andrew Ng 的课程里只有L2的惩罚,有 L1的惩罚的麻烦,因为 L1惩罚不可导,所以应该要用到其它的求最优化的算法,网上搜一搜应该能找到。
enthumelon lars包貌似就是纯R代码,没有夹杂C的东西。算法上采用coordinate decent并寻求KKT条件。glmnet本来就提供你说的功能-前提是你要去看那个F99的代码。 如果使用形式更加一般的最优化函数,你可以考虑<bblatex>\|\beta\|_{\ell_2}=\beta^++\beta^-</bblatex>, 这样的话使用拉格朗日变换后就是线性约束下的L2优化(需要求KKT后带入变换)--但是效果嘛,不见的会好。