极客教程Pytorch 中的错误：CrossEntropyLoss()不支持多目标
在本文中，我们将介绍Pytorch中的一个常见错误：使用CrossEntropyLoss()函数时不支持多目标的问题，并提供相应的解决方案。
阅读更多：Pytorch 教程
Pytorch中的CrossEntropyLoss()函数
在深度学习任务中，交叉熵损失函数（CrossEntropyLoss）常用于多分类任务的目标函数。Pytorch提供了该损失函数的实现。其定义如下：
torch.nn.CrossEntropyLoss(weight=None, size_average=None, ignore_index=-100, reduce=None, reduction='mean')
其中，weight表示各类别的权重，size_average表示是否对batch中的样本取平均，ignore_index表示需要忽略的类别索引，reduce和reduction用于设置损失的计算方式。
多目标问题引发的错误
然而，CrossEntropyLoss()在Pytorch中的使用时，不支持多目标的情况。当试图对多个目标进行分类时，即同时对多个目标预测进行交叉熵损失的计算时，将会引发错误。
例如，假设我们的任务是对一张图片同时进行多个目标的分类，我们可以通过模型得到多个预测结果张量。通常情况下，我们希望使用交叉熵损失函数对这些结果进行训练，最小化损失以提高模型的准确性。然而，在使用CrossEntropyLoss()时，如果传递多个目标张量，就会出现错误。
import torch
import torch.nn as nn
predictions1 = torch.randn(2, 10) # 第一个目标预测结果
predictions2 = torch.randn(2, 10) # 第二个目标预测结果
targets1 = torch.randint(10, (2,)) # 第一个目标真实标签
targets2 = torch.randint(10, (2,)) # 第二个目标真实标签
loss = nn.CrossEntropyLoss()
output1 = loss(predictions1, targets1) # 计算第一个目标的损失
output2 = loss(predictions2, targets2) # 计算第二个目标的损失
运行上述代码将会报错，提示”multi-target not supported”。这是因为CrossEntropyLoss()只接受单个目标张量作为输入。
解决方案：重写损失计算过程
为了解决多目标问题，我们需要书写自定义的损失计算过程。一种常用的解决方案是使用BCEWithLogitsLoss()函数结合Sigmoid函数进行计算。
首先，我们需要对每个目标单独计算损失。使用BCEWithLogitsLoss()对每个目标使用Sigmoid函数进行二分类，然后计算二分类损失。最后，对各个目标的损失求平均得到多目标的总损失。
import torch
import torch.nn as nn
predictions1 = torch.randn(2, 10) # 第一个目标预测结果
predictions2 = torch.randn(2, 10) # 第二个目标预测结果
targets1 = torch.randint(10, (2,)) # 第一个目标真实标签
targets2 = torch.randint(10, (2,)) # 第二个目标真实标签
sigmoid = nn.Sigmoid()
bce_loss = nn.BCEWithLogitsLoss()
# 对第一个目标进行计算
predictions1 = sigmoid(predictions1) # 对预测结果应用Sigmoid函数进行二分类
targets1 = targets1.float().unsqueeze(1) # 将真实标签转换为浮点型，并添加维度以匹配预测结果
loss1 = bce_loss(predictions1, targets1) # 计算第一个目标的二分类损失
# 对第二个目标进行计算
predictions2 = sigmoid(predictions2) # 对预测结果应用Sigmoid函数进行二分类
targets2 = targets2.float().unsqueeze(1) # 将真实标签转换为浮点型，并添加维度以匹配预测结果
loss2 = bce_loss(predictions2, targets2) # 计算第二个目标的二分类损失
# 计算多目标的总损失
loss = (loss1 + loss2) / 2
print(loss)
通过对每个目标单独计算损失并对其求平均，我们成功地解决了多目标问题。在上述代码中，我们首先对每个目标的预测结果应用Sigmoid函数进行二分类，然后计算二分类损失。最后，将各个目标的损失求平均得到多目标的总损失。
总结
本文介绍了Pytorch中的一个常见错误：使用CrossEntropyLoss()函数时不支持多目标的问题，并提供了解决方案。通过书写自定义的损失计算过程，我们可以解决多目标问题。在该解决方案中，我们使用了BCEWithLogitsLoss()函数和Sigmoid函数进行二分类损失计算。通过对每个目标单独计算损失并求平均，我们可以处理多个目标的分类任务。希望本文能帮助读者更好地理解和解决这个问题。