协同适应

在神经网络中,协同适应指的是神经元之间产生的一种复杂的、非必要的依赖关系。一个神经元 A 的学习目标,可能不是为了直接拟合最终目标,而是为了修正另一个神经元 B 所犯的错误

  • 例子:假设一个网络在识别猫。神经元 B 可能学习到了一个“尖耳朵”的特征,但它对所有尖耳朵的动物(包括狐狸)都会高强度激活。神经元 A 为了修正 B 的错误,可能会学习到一个非常奇怪的特征,比如“当 B 激活时,如果图像中没有胡须,就抑制输出”。
  • 问题:这种 A 和 B 之间的“私下约定”在训练集上可能表现很好,但它不具有泛化能力。当测试集出现一只没有胡须的猫时,这个组合可能会失败。