Autoencoder 自编码
切换视频源:

Autoencoder 自编码

作者: Alice 编辑: 莫烦 发布于: 2016-10-30

学习资料:

自编码,简单来说就是把输入数据进行一个压缩和解压缩的过程。 原来有很多 Feature,压缩成几个来代表原来的数据,解压之后恢复成原来的维度,再和原数据进行比较。

它是一种非监督算法,只需要输入数据,解压缩之后的结果与原数据本身进行比较。

今天要做的事情是把 datasets.mnist 数据的 28×28=784 维的数据,压缩成 2 维的数据,然后在一个二维空间中可视化出分类的效果。

导入模块并创建数据

数据仍然用 datasets.mnist

建立模型

encoding_dim,要压缩成的维度。

接下来是建立 encodeddecoded ,再用 autoencoder 把二者组建在一起。训练时用 autoencoder

encoded 用4层 Dense 全联接层,激活函数用 relu,输入的维度就是前一步定义的 input_img

接下来定义下一层,它的输出维度是64,输入是上一层的输出结果。

在最后一层,我们定义它的输出维度就是想要的 encoding_dim=2

解压的环节,它的过程和压缩的过程是正好相反的。相对应层的激活函数也是一样的,不过在解压的最后一层用到的激活函数是 tanh。 因为输入值是由 -0.5 到 0.5 这个范围,在最后一层用这个激活函数的时候,它的输出是 -1 到 1,可以是作为一个很好的对应。

接下来直接用 Model 这个模块来组建模型,输入就是图片,输出是解压的最后的结果。

当我们想要看由 784 压缩到 2维后,这个结果是什么样的时候,也可以只单独组建压缩的板块,此时它的输入是图片,输出是压缩环节的最后结果。

激活模型

接下来是编译自编码这个模型,优化器用的是 adam,损失函数用的是 mse

训练模型

接下来训练自编码模型,注意它的输入和输出是一样的,都是训练集的 X。

可视化结果

最后看到可视化的结果,自编码模型可以把这几个数字给区分开来,我们可以用自编码这个过程来作为一个特征压缩的方法,和PCA的功能一样,效果要比它好一些,因为它是非线性的结构。

2-6-1.png


降低知识传递的门槛

莫烦经常从互联网上学习知识,开源分享的人是我学习的榜样。 他们的行为也改变了我对教育的态度: 降低知识传递的门槛免费 奉献我的所学正是受这种态度的影响。 【支持莫烦】 能让我感到认同,我也更有理由坚持下去。