看懂这篇指南，包你掌握神经网络的“黑匣子”

这也说明了在输入图像像素细微改变时输出类别将如何产生变化。梯度的所有正值都表明，像素值的细微变化会增加输出值：

这些梯度与图像的形状相同(梯度是针对每个像素计算的)，对直观感觉产生影响。

那么如何生成显著图呢?首先使用下述代码读取输入图像。

然后，通过VGG16模型生成显著图：

# Utility to search for layer index by name.  
# Alternatively we can specify this as -1 since it corresponds to the last layer. 
layer_idx = utils.find_layer_idx(model, 'predictions') 
 
# Swap softmax with linear 
model.layers[layer_idx].activation = activations.linear 
model = utils.apply_modifications(model) 
 
#generating saliency map with unguided backprop 
grads1 = visualize_saliency(model, layer_idx,filter_indices=None,seed_input=image) 
#plotting the unguided saliency map 
plt.imshow(grads1,cmap='jet') 

可以看到，模型更加关注狗的面部。下图呈现了使用导向反向传播后的结果：

#generating saliency map with guided backprop 
grads2 =  visualize_saliency(model, layer_idx,filter_indices=None,seed_input=image,backprop_modifier='guided') 
#plotting the saliency map as heatmap 
plt.imshow(grads2,cmap='jet') 

导向反向传播将所有的负梯度变为0，即只更新对类别概率有积极影响的像素。

CAM(Class Activation Maps)(梯度加权)

CAM也是一种神经网络可视化技术，基本原理是根据其梯度或对输出的贡献来权衡激活图。

以下节选自Grad-CAM论文给出了该技术的要点：

（编辑：西安站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!