小样本数据通常不建议用深度学习的理由:
对于classification model,有如下结论
训练样本N,h为Vc维数,详见/HappyAngel/p/3633989.html
如果现在训练模型的算法能使得training error很小,而model complexity penalty又很小,就能保证test error也很小的概率是 1-η。所以要使得模型的generalization比较好,要保证training error和model complexity penalty都能比较小。观察model complexity penalty项,可以看到,h越大,model complexity penalty就会越大。N越大,model complexity penalty则会越小。大致上讲,越复杂的模型有着越大的h(VC dimension),所以为了使得模型有着好的generalization,需要有较大的N来压低model complexity penalty。 这就是为什么深度学习的模型需要大量的数据来训练,否则模型的generalization会比较差,也就是过拟合。
所以在小样本进行深度学习的时候一定要模型的适用性。
图网络代码地址。
http://tkipf.github.io/graph-convolutional-networks/