Verwenden benutzerdefinierten Klassifizierer für Mutibel Klassifizierung mit GridSearchCV und OneVsRestClassifier

Question

Ich versuche, den OneVsRestClassifier verwenden, um Multilabel-Klassifizierung auf eine Reihe von Kommentaren zu tun. Mein Ziel ist es, jeden Kommentar zu einer möglichen Liste von Themen zu taggen. Mein benutzerdefinierter Klassifikator verwendet eine manuell ausgewählte Liste von Wörtern und die entsprechenden Tags in einem CSV, um jeden Kommentar zu markieren. Ich versuche, die Ergebnisse der Bag of Words-Technik und meinen benutzerdefinierten Klassifikator mit dem VotingClassifier zu kombinieren. Hier ist ein Teil meiner vorhandenen Code:

import numpy as np 

from sklearn.base import BaseEstimator, ClassifierMixin 
from sklearn.ensemble import VotingClassifier 
from sklearn.feature_extraction.text import CountVectorizer, TfidfTransformer 
from sklearn.grid_search import GridSearchCV 
from sklearn.linear_model import SGDClassifier 
from sklearn.multiclass import OneVsRestClassifier 
from sklearn.pipeline import Pipeline 
from sklearn.preprocessing import MultiLabelBinarizer 

class CustomClassifier(BaseEstimator, ClassifierMixin): 
    def __init__(self, word_to_tag): 
     self.word_to_tag = word_to_tag 

    def fit(self, X, y=None): 
     return self 

    def predict_proba(self, X): 
     prob = np.zeros(shape=(len(self.word_to_tag), 2)) 

     for index, comment in np.ndenumerate(X): 
      prob[index] = [0.5, 0.5] 
      for word, label in self.word_to_tag.iteritems(): 
       if (label == self.class_label) and (comment.find(word) >= 0): 
        prob[index] = [0, 1] 
        break 

     return prob 

    def _get_label(self, ...): 
     # Need to have a way of knowing which label being classified 
     # by OneVsRestClassifier (self.class_label) 

bow_clf = Pipeline([('vect', CountVectorizer(stop_words='english', min_df=1, max_df=0.9)), 
        ('tfidf', TfidfTransformer(use_idf=False)), 
        ('clf', SGDClassifier(loss='log', penalty='l2', alpha=1e-3, n_iter=5)), 
        ]) 
custom_clf = CustomClassifier(word_to_tag_dict) 

ovr_clf = OneVsRestClassifier(VotingClassifier(estimators=[('bow', bow_clf), ('custom', custom_clf)], 
               voting='soft')) 

params = { 'estimator_weights': ([1, 1], [1, 2], [2, 1]) } 
gs_clf = GridSearchCV(ovr_clf, params, n_jobs=-1, verbose=1, scoring='precision_samples') 

binarizer = MultiLabelBinarizer() 

gs_clf.fit(X, binarizer.fit_transform(y)) 

Meine Absicht ist es, diese manuell kuratierte Liste von Wörtern durch mehrere Heuristiken zu verwenden, erhalten die Ergebnisse von nur Anwendung Tasche von Wörtern erhalten zu verbessern. Zur Zeit habe ich Schwierigkeiten, einen Weg zu finden, um zu wissen, welches Label während der Vorhersage klassifiziert wird, da eine Kopie von CustomClassifier für jedes Etikett mit OneVsRestClassifier erstellt wird.

Answer 1

Ich glaube, Sie suchen das classes_ Attribut: http://scikit-learn.org/dev/modules/generated/sklearn.multiclass.OneVsRestClassifier.html#sklearn.multiclass.OneVsRestClassifier