Wie geht man mit der Kombination von Text und numerischen Funktionen um?

Question

Mit Blick auf Kaggel Job Salary Prediction, sehe ich numerische Features (wie Kategorie) und textuelle (wie FullDescription).

Wie gehe ich zum Training solcher Daten vor? Ich dachte über die Vektorisierung des Textes unter Verwendung TfidfTransformer nach, jedoch schafft es spärliche Matrix, die viele Lernalgorithmen (wie RandomForestRegressor) verweigern, mit zu arbeiten. Wenn ich den Feature-Vektor für den Text habe, wie kombiniere ich ihn dann mit anderen Features?

Gibt es irgendwelche Hinweise, wie man mit solchen Daten arbeitet?

Danke!

Answer 1

Ich würde zuerst ein lineares Modell auf den tf-IDF-Funktionen jedes Textfelds unabhängig lernen und die linearen Modelle Vorhersagen als ein zusätzliches Merkmal zu den anderen Funktionen hinzufügen und ein ExtraTreesRegressor oder GradientBoostedTreeRegressor auf den kombinierten Funktionen trainieren.