Sparse-Eingang für LS-SVM

Question

Ich versuche die Funktionen von Deep Neural Networks (DNN) zu verwenden, um die Lease Squared SVM zu trainieren. Die Standardprozedur zum Lösen der LS-SVM besteht darin, die Kernel-Matrix umzukehren. Die Kernel-Matrix aus dem Feature von DNN ist jedoch nicht vollständig. Weiß jemand, wie man diese spärliche Matrix auf eine Matrix mit vollem Rang überträgt, ohne viel Information zu verlieren? Ist PCA eine gute Lösung, um die Eingabedimension zu reduzieren und zu verdichten?

Answer 1

Sie scheinen Dinge zu verwirren. Kernel-Matrix ist eine Matrix von paarweisen Skalarprodukten, diese sind nicht Features. Wenn Sie Ihre Feature-Matrix F haben, die spärlich ist und N x H Größe, dann Kernmatrix (mit linearer Kernel auf diesen Raum) ist einfach:

K = F F' 

die N x N ist, und dicht Somit gibt es kein Problem mit der Anwendung von SVM.