李航第二章课后习题答案
2.1
**题目描述:**Minsky和Papert指出:感知机是线性模型,所以不能表示复杂的函数。如异或(XOR),验证感知机为什么不能表示异或。
解:异或的输入输出如下:
x(1)x(1) | ||
---|---|---|
1 | 1 | -1 |
1 | -1 | 1 |
-1 | 1 | 1 |
-1 | -1 | -1 |
接下来我们简单证明一下异或操作的线性不可分性:
证:利用反证法,假设存在一个超平面wx+b=0wx+b=0,满足条件:
y(w⋅x+b)>0y(w⋅x+b)>0
∀x∈{(1,1)T,(−1,1)T,(1,−1)T,(−1,−1)T}∀x∈{(1,1)T,(−1,1)T,(1,−1)T,(−1,−1)T}
根据异或的输入输出,可以得到以下四个不等式:
w(1)+w(2)+b<0⇢(1)w(1)+w(2)+b<0⇢(1)
(1)式+(3)式可得:b<0b<0 。矛盾,故不存在超平面满足线性可分条件。
2.2
题目描述:模仿例题 2.1,构建从训练数据求解感知机模型的例子。
解:代码:
2.3
题目描述:证明以下定理:样本集线性可分的充分必要条件是正实例点所构成的凸壳与负实例点所构成的凸壳互不相交。
目前没搞懂,可以参考 https://blog.****.net/sanmaopep/article/details/78542361