如何在Tensorflow中编写自定义丢失函数？

我是新来的tensorflow.我想写自己的自定义丢失函数.有关于此的任何教程吗？例如,铰链损失或sum_of_square_loss(虽然这已经在tf中)？我可以直接在python中完成它,或者我必须编写cpp代码吗？

我们需要记下损失函数.例如,我们可以使用基本均方误差作为预测y和目标y_的损失函数:

 loss_mse = 1/n(Sum((y-y_)^2))

有像张量基本功能tf.add(x,y),tf.sub(x,y),tf.square(x),tf.reduce_sum(x),等.

然后我们可以在Tensorflow中定义我们的损失函数,如:

cost = tf.reduce_mean(tf.square(tf.sub(y,y_)))

注意:y和y_是张量.

此外,如果我们可以写下方程,我们可以定义任何其他损失函数.对于一些训练操作员(最小化器),损失函数应满足某些条件(平滑,可微分......).

总之,Tensorflow将数组,常量,变量定义为张量,使用tf函数定义计算,并使用会话来运行图形.我们可以定义我们喜欢的任何内容并最终运行它.

除了另一个答案之外,如果可以将其表示为现有函数的组合,则可以在Python中编写损失函数.

例如,看看sigmoid_cross_entropy_with_logits 链接的实现,它是使用基本转换实现的.

几乎在所有tensorflow教程中,他们都使用自定义函数.例如,在最初的教程中,他们编写了一个自定义函数:

将当前模型与提供的数据之间的增量的平方相加

squared_deltas = tf.square(linear_model - y)
loss = tf.reduce_sum(squared_deltas)

在接下来的初学者MNIST中,他们使用交叉熵:

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))

如你所见,它并不难:你只需要以张量格式编码你的函数并使用它们的基本功能.

例如,这里是如何实现F-beta分数(F1分数的一般方法).它的公式是:

我们唯一需要做的就是找到如何为布尔值或0/1值计算true_positive,false_positive,false_negative.如果您有0/1值的向量,则可以将每个值计算为:

TP = tf.count_nonzero(actual, predicted)
FP = tf.count_nonzero((actual - 1) * predicted)
FN = tf.count_nonzero((predicted - 1) * actual)

现在,一旦你了解了这些价值观,就可以轻松获得这些

denom = (1 + b**2) * TP + b**2 TN + FP
Fb = (1 + b**2) * TP / denom