《机器学习：算法视角（原书第2版）》 —3.4.2　XOR函数

3.4.2　XOR函数

　图3-9　XOR逻辑函数的数据以及四个数据点的图示XOR有着与OR函数相同的四个输入，但是观察图3-9，你会发现不可能在图中画一条直线来把true与false（即十字形与圆形）分开。用我们刚学的说法，XOR函数不是线性可分的。如果上面的分析是正确的，那么感知器将无法得到正确的结果，并且运用上面的感知器代码，我们会发现：

这会得到下面的结果（省略了初始的几次循环）：

你会发现算法没有收敛，只是在两个错误的答案之间不断循环。就算运行更长时间，结果也不会发生改变。因此，即使对一个简单的逻辑函数，感知器也无法学到正确的结果。这正是Minsky和Papert在《感知器》一书中证明的，而且感知器甚至连这些问题都无法解决这一发现，还导致了更有趣的结果——它使得有关神经网络的研究停止了很长时间。其实，对于这个问题有一个很显然的解决方法，就是使网络变得更加复杂：增加更多的神经元，同时使它们之间的连接变得更加复杂，然后看看这样做是否能有所帮助。但是，这样做又使得网络的训练变得更加困难。实际上，如何解决这样一个问题是下一章的主题。