Das Lasso schrumpft so, dass es "Ecken" in der Beschränkung gibt, was in zwei Dimensionen einer Raute entspricht. Wenn die Summe der Quadrate eine dieser Ecken "trifft", dann wird der der Achse entsprechende Koeffizient auf Null geschrumpft. … Daher führt das Lasso eine Schrumpfung und (effektiv) eine Teilmengenauswahl durch.
Warum gibt das Lasso Null-Koeffizienten an?
Das Lasso schrumpft so, dass es "Ecken" in der Beschränkung gibt, was in zwei Dimensionen einer Raute entspricht. Wenn die Summe der Quadrate eine dieser Ecken "trifft", dann wird der der Achse entsprechende Koeffizient auf Null geschrumpft.
Warum schrumpft Lasso auf Null, aber nicht Ridge?
Es wird gesagt, dass, weil die Form der Einschränkung in LASSO eine Raute ist, die erh altene Lösung der kleinsten Quadrate die Ecke der Raute berühren könnte, so dass es zu einer Schrumpfung einer Variablen führt. Bei der Kammregression wird jedoch weil es ein Kreis ist, die Achse oft nicht berührt
Warum schrumpfen die Kammregressionskoeffizienten?
Ridge-Regression schrumpft alle Regressionskoeffizienten gegen Null; Das Lasso neigt dazu, einen Satz von Null-Regressionskoeffizienten zu ergeben, und führt zu einer Lösung mit geringer Dichte. Beachten Sie, dass sich die Regressionskoeffizienten sowohl für die Ridge-Regression als auch für das Lasso von positiven zu negativen Werten bewegen können, wenn sie auf Null geschrumpft werden.
Sind Lasso-Koeffizienten verzerrt?
…die Lasso-Schrumpfung führt dazu, dass die Schätzungen der Nicht-Null-Koeffizienten in Richtung Null verzerrt werden und im Allgemeinen nicht konsistent sind [Hinzugefügter Hinweis: Dies bedeutet, dass, da die die Stichprobengröße wächst, konvergieren die Koeffizientenschätzungen nicht].
