当前位置:  开发笔记 > 编程语言 > 正文

Keras + Tensorflow:调试NaNs

如何解决《Keras+Tensorflow:调试NaNs》经验,为你挑选了0个好方法。

这是一个关于如何在张量流图中找到Nan的第一次出现的一个很好的问题:

在向后传递中调试nans

答案非常有用,以下是代码:

train_op = ...
check_op = tf.add_check_numerics_ops()

sess = tf.Session()
sess.run([train_op, check_op])  # Runs training and checks for NaNs

显然,第一次遇到Nan时,同时运行训练和数字检查将导致错误报告.

我如何将其整合到Keras中?在文档中,我找不到任何看起来像这样的东西.

我也检查了代码.更新步骤在此处执行:https: //github.com/fchollet/keras/blob/master/keras/engine/training.py

有一个函数称为_make_train_function创建计算损失和应用更新的操作.这被称为训练网络.

我可以像这样更改代码(总是假设我们在tf后端运行):

check_op = tf.add_check_numerics_ops()

self.train_function = K.function(inputs, 
    [self.total_loss] + self.metrics_tensors + [check_op],
    updates=updates, name='train_function', **self._function_kwargs)

我目前正在尝试正确设置它,并不确定上面的代码是否真的有效.也许有一种更简单的方法?

推荐阅读
凹凸曼00威威_694
这个屌丝很懒,什么也没留下!
DevBox开发工具箱 | 专业的在线开发工具网站    京公网安备 11010802040832号  |  京ICP备19059560号-6
Copyright © 1998 - 2020 DevBox.CN. All Rights Reserved devBox.cn 开发工具箱 版权所有