机器学习理念:将模型应用于有偏见的数据

如果我从所有数据建立一个PCA versicolor和virginica和重建二维绘图的误差(PCA所有光圈尺寸),我得到

然而,如果杂色是新数据,则结果不那么令人信服.

然而,无论如何,PCA(或类似的smth)都是为数值数据完成的,因此,它可以提供良好的指示而没有太多的开销.

我所知道的第二种技术是基于所谓的一类支持向量机.普通支持向量机将构建一个试图分离两个目标类的分类器Y.一类支持向量机试图将看不见的数据分开.如果使用支持向量机进行分类,使用这种技术是相当有吸引力的.你基本上会得到两个分类.第一个是目标数据,第二个是先前是否看过类似数据.

如果我建立在一个类分类setosa,并virginca通过新颖性和颜色我得到如下图:

可以看出,数据versicolor似乎已经不再可疑了.在那种情况下,它是一个新的类.然而,如果我们假设这些是弗吉尼亚的实例,它们就会危险地靠近超平面漂移.

半监督学习和转导

解决你的根本问题.转导学习的概念,半监督学习的特例可能是咄咄逼人的.在Semi监督学习中,训练集由两部分组成.标记数据和未标记数据.Semi-sup-l使用所有这些数据来构建分类器.转换学习是一种特殊情况,其中未标记的数据是您的测试数据D2.Vapnik给出了这样的想法:"当你想解决一个更简单的问题时,不要试图解决一个更复杂的问题[为所有可能的数据建立一个分类器] [预测标签D2]

APENDIX

RCODE用于绘图

ggplot(iris)+aes(x=Petal.Width,y=Petal.Length,color=Species)+geom_point()+stat_ellipse()
library(e1071)
iris[iris$Species %in% c("virginica","setosa"),]

ocl <- svm(iris[iris$Species %in% c("virginica","setosa"),3:4],type="one-classification")
coloring <- predict(ocl,iris[,3:4],decision.values=TRUE)

ggplot(iris)+aes(x=Petal.Width,y=Petal.Length,color=coloring)+geom_point()+stat_ellipse()
ggplot(iris)+aes(x=Petal.Width,y=Petal.Length)+geom_point(color=rgb(red=0.8+0.1*attr(coloring,"decision.values"),green=rep(0,150),blue=1-(0.8+0.1*attr(coloring,"decision.values"))))

pca <- prcomp(iris[,3:4])

#pca <- prcomp(iris[iris$Species %in% c("virginica","setosa"),1:4], retx = TRUE,  scale = TRUE)
pca <- prcomp(iris[iris$Species %in% c("virginica","setosa"),1:4], retx = TRUE,  scale = TRUE,tol=0.2)
  pca <- prcomp(iris[iris$Species %in% c("virginica","versicolor"),1:4], retx = TRUE,  scale = TRUE,tol=0.4)
  predicted <-predict(pca,iris[,1:4])
  inverted <- t(t(predicted %*% t(pca$rotation)) * pca$scale + pca$center)
  ggplot(inverted[,3:4]-iris[,3:4])+aes(x=Petal.Width,y=Petal.Length,color=iris$
                                    Species)+geom_point()+stat_ellipse()