# przyklad 6.1

options(OutDec=",")
library("ElemStatLearn")
library("mlbench")
library("rpart")
library("gbm")
library("ipred")

##### ipred

data(DNA)
m<-nrow(DNA)

dna.bag.blad<-matrix(ncol=20,nrow=100)

for (j in 1:100)
{
ucz <- sample(1:m, size = 2124, replace = FALSE) 
dna.ucz<-DNA[ucz,]
dna.test<-DNA[-ucz,]
y.test<-dna.test$Class

ks<-seq(5,100,by=5)

for (k in seq(along=ks)) 
{
#### petla ###
print(ks[k])

lmod<-ks[k] # liczba modeli pojedynczych do klasyfikacji

# bagging

dna.bag<-bagging(Class~.,data=dna.ucz,nbagg=lmod)
Z.dna<-predict(dna.bag, newdata=dna.test, type="class",aggregation="majority")
dna.bag.blad[j,k]<-1-(sum(as.numeric(Z.dna==y.test))/length(y.test))
print(dna.bag.blad[j,k])

}
}


## rys 6.2
######################

blad<-numeric(length=20)
for (k in 1:20) blad[k]<-mean(dna.bag.blad[1:99,k])

plot(ks,blad,type="n",xlab="Liczba modeli bazowych",ylab="Błąd predykcji",main="Zbiór DNA")
lines(ks,blad,type="l",lty=1)
points(ks,blad,pch=19)