Neural Network Ordinal Classification für das Alter

Question

Ich habe ein einfaches neurales Netzwerk (Python, Theano) erstellt, um das Alter einer Person basierend auf ihrer Ausgabenhistorie aus einer Auswahl verschiedener Geschäfte zu schätzen. Leider ist es nicht besonders genau.

Die Genauigkeit könnte durch die Tatsache beeinträchtigt werden, dass das Netzwerk keine Kenntnis über die Ordnungsmäßigkeit hat. Für das Netzwerk gibt es keine Beziehung zwischen den Altersklassifikationen. Es wählt derzeit das Alter mit der höchsten Wahrscheinlichkeit aus der Softmax-Ausgabeschicht aus.

Ich habe überlegt, die Ausgabeklassifizierung für jedes Alter auf einen Durchschnitt der gewichteten Wahrscheinlichkeit zu ändern.

Z. B Gegeben Alte Wahrscheinlichkeiten: (Alter 10: 20%, Alter 20: 20%, Alter 30: 60%)

Rather than output: Age 30 (Highest probability) 
Weighted Average: Age 24 (10*0.2+20*0.2+30*0.6 weighted average) 

Diese Lösung fühlt sich suboptimal. Gibt es eine bessere Lösung für die ordinale Klassifizierung in neuronalen Netzen oder gibt es eine bessere maschinelle Lernmethode, die implementiert werden kann? (Z. B. logistische Regression)

Answer 1

Dieses Problem kam in einer früheren Kaggle competition (dieser Thread verweist auf das Papier, das ich in den Kommentaren erwähnt).

Die Idee ist, dass, sagen Sie 5 Altersgruppen hatte, wo 0 4, statt einem heißen sie kodieren, und eine softmax Zielfunktion verwenden, können Sie sie in K-1 Klassen codieren und verwenden Sie ein Sigmoid-Objektiv. Also, als Beispiel wären Ihre Kodierungen

[0] -> [0, 0, 0, 0] 
[1] -> [1, 0, 0, 0] 
[2] -> [1, 1, 0, 0] 
[3] -> [1, 1, 1, 0] 
[4] -> [1, 1, 1, 1] 

Dann wird das Netz die Ordnungen lernen. Hoffe das hilft.