隨機森林預測價格

『壹』 隨機森林importance在多少以上證明變數可用

隨機森林是一種集成分類器,對影響隨機森林性能的參數進行了分析,結果表明隨機森林中樹的數量對隨機森林的性能影響至關重要。對樹的數量的確定方法以及隨機森林性能指標的評價方法進行了研究與總結。以分類精度為評價方法,利用UCI數據集對隨機森林中決策樹的數量與數據集的關系進行了實驗分析,實驗結果表明對於多數數據集,當樹的數量為100時,就可以使分類精度達到要求。將隨機森林和分類性能優越的支持向量機在精度方面進行了對比,實驗結果表明隨機森林的分類性能可以與支持向量機相媲美。
R文件內容：
library(randomForest)
## 訓練
pos<-read.table("lncrna3k.pwm",header=T);
rownames(pos)<-pos[,1]
pos[,1]<-NULL
neg<-read.table("cds3k.pwm",header=T);
rownames(neg)<-neg[,1]
neg[,1]<-NULL
test<-rbind(pos,neg)
tY<-c(rep(1,dim(pos)[1]),rep(0,dim(neg)[1]))
tY<-as.factor(tY)
rf <- randomForest(test,tY,ntree=5000, keep.forest=TRUE, importance=TRUE);

TP<-rf$confusion[4];
TN<-rf$confusion[1];
FN<-rf$confusion[2];
FP<-rf$confusion[3];

sen<-TP/(TP+FN)
spe<-TN/(TN+FP)
ACC<-(TP+TN)/(TP+FN+TN+FP)
mcc=(TN*TP-FN*FP)/((TP+FN)*(TN+FN)*(TN+FP)*(TP+FP))^(1/2)
c(TP,FN,FP,TN,sen,spe,ACC,mcc)
## 測試
## 補充讀數據
rfPred <- predict(rf,test,type="vote",norm.votes=TRUE, predict.all=FALSE, proximity=FALSE, nodes=FALSE);

『貳』 你知道隨機森林演算法么，求代寫，出高價

說價格

『叄』 增加決策樹的數據，對於隨機森林主要降低預估的哪個方面值

隨機森林是一種集成分類器,對影響隨機森林性能的參數進行了分析,結果表明隨機森林中樹的數量對隨機森林的性能影響至關重要。對樹的數量的確定方法以及隨機森林性能指標的評價方法進行了研究與總結。以分類精度為評價方法,利用UCI數據集對隨機森林中決策樹的數量與數據集的關系進行了實驗分析,實驗結果表明對於多數數據集,當樹的數量為100時,就可以使分類精度達到要求。將隨機森林和分類性能優越的支持向量機在精度方面進行了對比,實驗結果表明隨機森林的分類性能可以與支持向量機相媲美。

『肆』 r使用隨機森林實現所屬類別的概率嗎

用R做隨機森林，先用訓練集建模，之後用測試集進行預測，為什麼總是顯示？代碼如下sub<-sample(1:nrow(dx),round(nrow(partd)/4))x1.rf<-randomForest(X1T~.,data=dx,importance=T,subset=-sub)pre1<-predict(x1.rf,data=dx,subset=sub)另外，隨機森林的結果里給出的confusionmatrix是什麼意思？和預測錯誤

『伍』 隨機森林為什麼不會過度擬合

來源：知乎

謝宇傑

大型機軟體工程師
不是不會過擬合，而是在滿足一定的條件下不容易過擬合。特徵參數要足夠多，特徵參數之間相關性盡量低。
知乎用戶

Breiman的這句話完全錯誤，根本沒有不過擬合的學習方法！
對於隨機森林來說: 在有躁音的情況下(注意，現實世界應用中躁音不能忽略)，樹太少很容易過擬合，增加樹可以減小過擬合，但沒有辦法完全消除過擬合，無論你怎麼增加樹都不行。

------------------
隨機森林
決策樹主要流行的演算法有ID3演算法，C4.5演算法、CART演算法，主要花費時間在建決策樹和剪枝過程中，但一旦建成決策樹，由於他是樹形結構能夠直觀的顯示出模型，而且在後期的分類過程中也比較容易分類，但決策樹有一些不好的地方，比如容易過擬合。為了減少決策樹的不足，近年來又提出了許多模型組和+決策樹的演算法，這些演算法都是生成N棵決策樹，雖然這N棵樹都很簡單，但是它們綜合起來就很強大了，有點類似與adaboost演算法。
隨機森林主要思想是先對原始樣本隨機選出N 個訓練子集用於隨機生成N顆決策樹，針對每個樣本集在構建決策樹的選擇最優屬性進行劃分時是隨機選擇m個屬性，而不是像常用的決策樹將所有的屬性參與選擇，再由這些決策樹構成一個森林,隨機森林的每一棵決策樹之間是沒有關聯的。在得到森林之後，當有一個新的輸入樣本進入的時候，就讓森林中的每一棵決策樹分別進行一下判斷，看看這個樣本應該屬於哪一類，然後看看哪一類被選擇最多，就預測這個樣本為那一類。
隨機森林演算法三個步驟：
（1）為每棵決策樹抽樣產生訓練集
隨機森林演算法採用Bagging抽樣技術從原始訓練集中產生N 個訓練子集(假設要隨機生成N顆決策樹)，每個訓練子集的大小約為原始訓練集的三分之二，每次抽樣均為隨機且放回抽樣，這樣使得訓練子集中的樣本存在一定的重復，這樣做的目的是為了在訓練的時候，每一棵樹的輸入樣本都不是全部的樣本，使森林中的決策樹不至於產生局部最優解。
（2）構建決策樹
為每一個訓練子集分別建立一棵決策樹，生成N棵決策樹從而形成森林，每棵決策樹不需要剪枝處理。
由於隨機森林在進行節點分裂時，隨機地選擇某m個屬性（一般是隨機抽取指定logM +1個隨機特徵變數,m<<M）參與比較，而不是像決策樹將所有的屬性都參與屬性指標的計算。為了使每棵決策樹之間的相關性減少，同時提升每棵決策樹的分類精度，從而達到節點分裂的隨機性。
（3）森林的形成
隨機森林演算法最終的輸出結果根據隨機構建的N棵決策子樹將對某測試樣本進行分類，將每棵子樹的結果匯總，在所得到的結果中哪個類別較多就認為該樣本是那個類別。
由於上面兩個隨機采樣（從原始訓練集中隨機產生N個訓練子集用於隨機生成N顆決策樹和在針對每個樣本集構建決策樹過程中隨機地選擇m個屬性）的過程保證了隨機性，所以不會出現過擬合over-fitting。隨機森林中的每一棵數分類的能力都很弱，但是多棵樹組合起來就變的NB，因為每棵樹都精通某一方面的分類，多棵樹組成一個精通不同領域的決策專家。
隨機森林優缺點
優點：
1、隨機森林可以處理高維數據，並確定變數的重要性，是一個不錯的降維方法；
2、對數據缺失，隨機森林也能較好地保持精確性；
3、當存在分類不平衡的情況時，隨機森林能夠提供平衡數據集誤差的有效方法；
缺點：
1、隨機森林演算法可以解決回歸問題，但是由於不能輸出一個連續型值和作出超越訓練集數據范圍的預測，導致在對某些雜訊的數據進行建模時出現過度擬合；
2、隨機森林演算法類似於黑盒子，由於幾乎無法控制模型內部的運行，只能在不同的參數和隨機種子之間進行嘗試。

『陸』 我用Python進行隨機森林回歸，訓練好模型後用來預測，預測值卻為一個定值，請問這是什麼原因導致的

隨機森林是以決策樹為基礎的一種更高級的演算法。隨機森林可用於回歸也可以用於分類。它的工作原理是生成多個分類器/模型，各自獨立地學習和作出預測。最後對這些預測進行集成，因此優於任何一個單分類的做出預測，是一種優秀的機器學習模型。

之所以你沒能學習到有效的模型，可能是你的數據中的因子與預測指標的關聯強度不夠，因此學習到的是常數模型，也有可能是數據的處理流程或者模型的使用方法不對。網頁鏈接這個網址上的課程完整講解了隨機森林演算法的使用，希望對你有幫助

『柒』 隨機森林 特徵重要性多大是好

這個沒有標准。
比如，在回歸分析中，可決系數R方多大為好？沒有標准，只能說越大越好。
我想題主是應用RF來篩選特徵。這個時侯需從預留多少個特徵思考。若需預留10個特徵，那麼把重要性絕對值最大的10個特徵保留下來即可，其他特徵也就被剔除了。

『捌』 隨機森林中的預測變數重要性大於1為什麼

你好：
因為隨機森林裡
有樹木，花草
鳥類，昆蟲
等等，就像一個小生態圈
所以預測變數重要性大於1