R语言进行集成学习算法：随机丛林

1. # 10.4 集成学习及随机森林
2. # 导入car数据集
3. car <- read.table("data/car.data",sep = ",")
4. # 对变量重命名
5. colnames(car) <- c("buy","main","doors","capacity",
6.                    "lug_boot","safety","accept")
7. # 随机选取75%的数据作为训练集建立模型，25%的数据作为测试集用来验证模型
8. library(caret)
9. library(ggplot2)
10. library(lattice)
11. # 构建训练集的下标集
12. ind <- createDataPartition(car$accept,times=1,p=0.75,list=FALSE)
13. # 构建测试集数据好训练集数据
14. carTR <- car[ind,]
15. carTE <- car[-ind,]
16. carTR<- within(carTR,accept <- factor(accept,levels=c("unacc","acc","good","vgood")))
17. carTE<- within(carTE,accept <- factor(accept,levels=c("unacc","acc","good","vgood")))
20. # 使用adabag包中的bagging函数实现bagging算法
21. #install.packages("adabag")
22. library(adabag)
23. bagging.model <- bagging(accept~.,data=carTR)
25. # 使用adabag包中的boosting函数实现boosting算法
26. boosting.model <- boosting(accept~.,data=carTR)
28. # 使用randomForest包中的randomForest函数实现随机森林算法
29. #install.packages("randomForest")
30. library(randomForest)
31. randomForest.model <- randomForest(accept~.,data=carTR,ntree=500,mtry=3)
33. # 预测结果，并构建混淆矩阵，查看准确率
34. # 构建result，存放预测结果
35. result <- data.frame(arithmetic=c("bagging","boosting","随机森林"),
36.                      errTR=rep(0,3),errTE=rep(0,3))
37. for(i in 1:3){
38.   # 预测结果
39.   carTR_predict <- predict(switch(i,bagging.model,boosting.model,randomForest.model),
40.                            newdata=carTR) # 训练集数据
41.   carTE_predict <- predict(switch(i,bagging.model,boosting.model,randomForest.model),
42.                            newdata=carTE) # 测试集数据
43.   # 构建混淆矩阵
44.   tableTR <- table(actual=carTR$accept,
45.                    predict=switch(i,carTR_predict$class,carTR_predict$class,carTR_predict))
46.   tableTE <- table(actual=carTE$accept,
47.                    predict=switch(i,carTE_predict$class,carTE_predict$class,carTE_predict))
48.   # 计算误差率
49.   result[i,2] <- paste0(round((sum(tableTR)-sum(diag(tableTR)))*100/sum(tableTR),
50.                               2),"%")
51.   result[i,3] <- paste0(round((sum(tableTE)-sum(diag(tableTE)))*100/sum(tableTE),
52.                               2),"%")
53. }
54. # 查看结果
55. result

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。