Machine Learning Text Klassifizierung, wo ein Text gehört zu 1 bis N Klassen

Question

Also versuche ich (nur zum Spaß) Filme basierend auf ihrer Beschreibung zu klassifizieren, die Idee ist es, Filme "zu markieren", so ein gegebener Film könnte "Aktion sein "und" Humor "zur gleichen Zeit zum Beispiel.

Wenn Sie einen Textklassifizierer verwenden, erhalten Sie normalerweise die Klasse to, zu der ein bestimmter Text gehört, aber in meinem Fall möchte ich einen Text den 1 bis N Tags zuweisen.

Derzeit ist mein Trainingssatz wie diese

+--------------------------+---------+ 
|  TEXT    | TAG | 
+--------------------------+---------+ 
| Some text from a movie | action | 
+--------------------------+---------+ 
| Some text from a movie | humor | 
+--------------------------+---------+ 
| Another text here  | romance | 
+--------------------------+---------+ 
| Another text here  | cartoons| 
+--------------------------+---------+ 
| And some text more  | humor | 
+--------------------------+---------+ 

aussehen würde Was ich als nächstes tue, ist Klassifizierer zu trainieren, mir zu sagen, ob jeder Tag zu einem einzigen Text gehört, so zum Beispiel, wenn ich will Figur heraus, ob ein Text als „Humor“ eingestuft ich mit folgenden Ausbildung

+--------------------------+---------+ 
|  TEXT    | TAG | 
+--------------------------+---------+ 
| Some text from a movie | humor | 
+--------------------------+---------+ 
| Another text here  |not humor| 
+--------------------------+---------+ 
| And some text more  | humor | 
+--------------------------+---------+ 

Dann trainiere ich einen Klassifikator gesetzt

enden würde, dass ein Text ist Humor oder nicht (der gleiche Ansatz auch nicht lernen würde, ist mit den restlichen Tags gemacht). Danach habe ich mit insgesamt 4 Klassifizierer beenden, die

• Aktion/keine Aktion
• Humor/nein Humor
• Romantik/keine Romantik
• Cartoons/keine Cartoons

Schließlich sind Wenn ich einen neuen Text bekomme, wende ich ihn an jeden der 4 Klassifikatoren an, für jeden Klassifizierer, der mir eine positive Klassifizierung gibt (das heißt, gibt mir X anstelle von Nein-X), wenn diese Klassifizierung über einem bestimmten Schwellenwert liegt (sagen wir 0.9), dann nehme ich das an der neue Text gehört zu Tag X, und dann wiederhole ich das gleiche mit jedem der Klassifikatoren.

Insbesondere verwende ich Naive Bayes als Algorithmus, aber das gleiche könnte mit jedem Algorithmus angewendet werden, der eine Wahrscheinlichkeit ausgibt.

Jetzt ist die Frage, ist dieser Ansatz richtig? Mache ich hier etwas schrecklich falsch? Aus den Ergebnissen ergibt sich, dass Dinge sinnvoll erscheinen, aber ich hätte gerne eine zweite Meinung.

Answer 1

Ja, das macht Sinn. Es ist eine wohlbekannte, grundlegende Technik für die Klassifizierung von Multilabel/Multiklassen, die als Klassifizierer "Eins gegen alle" (oder "Eins gegen alle") bekannt ist. Dies ist sehr alt und weit verbreitet. Auf der anderen Seite - es ist auch sehr naiv, da Sie keine Beziehungen zwischen Ihren Klassen/Tags betrachten. Vielleicht interessiert es Sie, etwas über strukturelles Lernen zu lesen, das Themen behandelt, bei denen es eine gewisse Struktur über dem Etikettenraum gibt, die ausgenutzt werden kann (und normalerweise auch vorhanden ist).

Answer 2

Das von Ihnen beschriebene Problem kann von Latent Dirichlet Allocation, einer statistischen topic model Methode behoben werden, um die zugrunde liegenden ("latente") Themen in einer Sammlung von Dokumenten zu finden. Dieser Ansatz basiert auf einem Modell, bei dem jedes Dokument eine Mischung aus diesen Themen darstellt.

In der Regel entscheiden Sie zunächst über die Themen (in Ihrem Fall sind die Tags die Themen) und dann einen Trainer. Die LDA-Software gibt dann eine Wahrscheinlichkeitsverteilung über die Themen für jedes Dokument aus.

Hier ist eine gute Einführung: http://blog.echen.me/2011/08/22/introduction-to-latent-dirichlet-allocation/

Answer 3

Ja.Ihr Ansatz ist korrekt und es ist eine bekannte Strategie, Klassifikatoren, die für die binäre Klassifizierung ausgelegt sind, in die Lage zu versetzen, Mehrklassen-Klassifizierungsaufgaben zu bearbeiten.

Andrew Ng (von Standford University) erklärt diesen Ansatz here. Auch wenn es für die logistische Regression erklärt wird, wie Sie erwähnt haben, kann die Idee auf jeden Algorithmus angewendet werden, der Wahrscheinlichkeit ausgibt.