Le tecniche di spiegazione per algoritmi di Machine Learning si dividono in 4 grandi categorie, in base alla combinazione di due importanti caratteristiche:

• Local vs Global una tecnica di spiegazione è considerata Local quando ci aiuta a capire la previsione per un particolare individuo del dataset (e per gli individui con caratteristiche simili).
  Le tecniche Global invece, forniscono una spiegazione valida per tutti gli individui del dataset: di solito è una spiegazione aggregata.

• Model-Agnostic vs Model-Specific alcune tecniche possono essere utilizzate su qualsiasi tipo di algoritmo di Machine Learning e vengono dette Model-Agnostic per questo motivo.
  Le tecniche Model-Specific invece, sfruttano la struttura stessa del modello per generare spiegazioni (ad esempio la struttura degli alberi decisionali oppure l’architettura delle reti neurali), e non sono quindi adattabili a modelli diversi.

Intuizione Geometrica dei modelli di Previsione

Come funzionano le tecniche Model-Agnostic? Come è possibile che una singola tecnica funzioni per qualsiasi modello di Previsione? 

Consideriamo un qualsiasi modello di Machine Learning/Deep Learning. È possibile visualizzarlo come una superficie geometrica in uno spazio multidimensionale (gli assi del nostro spazio geometrico sono le variabili X usate per prevedere la variabile Y).

Il vero vantaggio dei modelli di ultima generazione è che la loro superficie è molto flessibile e può adattarsi facilmente ai dati che abbiamo. Possiamo quindi ottenere superfici molto curve e con forme particolari.

Questa particolarità si trasforma anche in uno svantaggio, nel momento in cui vogliamo capire come, muovendoci sulla sua superficie, la previsione del modello si modifica. Infatti, non conosciamo la formula esatta della superficie.

LIME (Local Interpretable Model-agnostic Explanations)

LIME è una tecnica Locale e Model-Agnostic.

Questo metodo di spiegazione sfrutta la geometria presente nei modelli di previsione, permettendole di funzionare su qualsiasi tipo di modello. 

LIME è capace di generare la retta tangente alla superficie dell’algoritmo di Machine Learning, per una zona del piano geometrico scelta da noi (la regione in cui si trova il nostro individuo per il quale vogliamo ottenere la spiegazione).

Il vantaggio della retta tangente è principalmente la semplicità della formula: otteniamo una buona approssimazione della superficie con una formula semplice e di facile lettura anche per persone non esperte.

Per saperne di più, ti invitiamo a scoprire il nostro corso Machine Learning Explanations: LIME

Autore: Giorgio Visani