当前位置:  开发笔记 > 人工智能 > 正文

张量流中的Batch_size?理解这个概念

如何解决《张量流中的Batch_size?理解这个概念》经验,为你挑选了1个好方法。

我的问题很简单,也很直接.批量大小在训练和预测神经网络时指定了什么.如何对其进行可视化,以便清楚地了解数据如何馈送到网络.

假设我有一个自动编码器

encoder = tflearn.input_data(shape=[None, 41])
encoder = tflearn.fully_connected(encoder, 41,activation='relu')

我正在输入带有41个功能的csv文件,所以我理解的是它将从csv文件中获取每个功能,并在批量大小为1时将其提供给第一层的41个神经元.

但是当我将批量大小增加到100时,100个批次的41个特征将如何被馈送到该网络?

model.fit(test_set, test_labels_set, n_epoch=1, validation_set=(valid_set, valid_labels_set),
          run_id="auto_encoder", batch_size=100,show_metric=True, snapshot_epoch=False)

是否会对批次或其中的某些操作进行标准化?

两种情况下的epoc数量相同



1> rmeertens..:

批量大小是您在网络中提供的样本数量.对于输入编码器,您可以指定输入未指定(无)的样本量,每个样本包含41个值.

使用None的优点是,您现在可以同时使用100个值的批次进行训练(这对您的渐变有用),并使用一批只有一个值(一个您想要预测的样本)进行测试.

如果没有为每个批次指定标准化,则每个批次没有标准化;)

希望我解释得很好!如果您有更多问题,请随时问他们!


它将始终在您放入网络的整个test_set中运行。假设您有300个样本...批次大小为1和100之间的差异是,在第一种情况下,他反向传播300次,在第二种情况下,他反向传播了3次。第二个更快,更精确。
推荐阅读
保佑欣疼你的芯疼
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有