決策樹作為分類算法在這個視頻中我們講決策樹推廣位回歸算法。以便我們可以預(yù)測一個數(shù)值。我們用之前的例子用其他離散的特征來預(yù)測動物的體重我們看看決策樹是什么樣子的我們已經(jīng)構(gòu)建了這樣的一個樹他的根節(jié)點是耳朵然后根據(jù)臉型去分最后達(dá)到了葉子節(jié)點葉子節(jié)點是分好類的動物體重的平均值如果一個新的樣本走到這里那么也是平均值。如果要從新開始構(gòu)建這個決策樹體重等這些關(guān)鍵決策是如何選擇要分割的特征呢我們根據(jù)三個特征進(jìn)行分割最后得到三個樹我們應(yīng)該如何判斷那一個最佳的呢在這里我們不再視圖減少熵這是在分類的時候使用的雜質(zhì)度量而是試圖減少數(shù)據(jù)子集中Y體重的方差方差統(tǒng)計的是一組數(shù)字的變化范圍與之前的決策樹相比回歸樹判斷節(jié)點的信息增益是加權(quán)的方差決策樹是純度選擇信息增益最大的特征作為節(jié)點。