XAI, perchè è importante per fidarsi dell’IA

di Giulio Presaghi

Ormai la parola “IA” è sotto la bocca di tutti. Una tecnologia così dirompente che sta trasformando e trasformerà ancora una volta l’industria tecnologica e non solo. Tutti i settori, nessuno escluso, sono toccati da questa rivoluzione e mentre si cercano nuove metodologie e strategie per implementare sistemi IA efficienti ed efficaci in azienda, una problematica radicale appare sfocata sullo sfondo. Come possiamo fidarci dell’IA? Come funziona veramente?

Per rispondere a queste ed altre domande, i Data Scientist (figure professionali strettamente legate al mondo dei dati e dell’intelligenza artificiale) stanno rispolverando dei vecchi studi su degli algoritmi in grado di spiegare cosa accade dietro un modello IA. Questa è chiamata eXplanableAI (Intelligenza Artificiale Spiegabile). Si tratta di processi applicabili a modelli di intelligenza artificiale per evidenziare dei tratti o caratteristiche che essi prendono in considerazione durante il loro processo di inferenza.

Un campo di studio molto interessante e tutt’ora insondato è proprio la finanza. Infatti l’utilizzo di modelli IA in questo settore è molto frequente. Che sia per valutare il profilo di rischio di un cliente che richiede un mutuo ad una banca o una valutazione di un’azienda, tecnologie di questo tipo possono aiutare molto a velocizzare ed ottimizzare i processi di analisi. Tuttavia, in settori così delicati, si trova molto scetticismo, soprattutto da parte dei clienti. Una persona che vuole una consulenza per acquistare un’azione o investire in un indice e necessita di una proiezione del rendimento futuro dell’investimento, si trova molto spesso in difficolta quando il broker o il consulente gli rivela l’utilizzo di sistemi IA nella sua analisi. Il problema sta nel non sapere cosa succede “sotto il cofano”. Ed ecco che entra in gioco l’XAI.

Attraverso la disciplina dell’Asset Pricing, si analizzano i fattori che influenzano l’andamento del valore di determinati asset finanziari. Proprio in questo ambito, il Machine Learning è utilizzato per determinare quali fattori sono utili per tale scopo e per predire il valore di tali asset. Applicando algoritmi di XAI come LIME o SHAP, è possibile per l’analista ottenere una spiegazione fondamentale delle variabili (o fattori) utilizzati per l’ottenimento di un certo risultato, mostrando in dei comodi grafici la magnitudine dell’influenza che essi hanno sul valore finale. Ciò ovviamente è ancora campo inesplorato. Nonostante gli studi iniziali sull’IA spiegabile risalgano agli anni 70, c’è bisogno ancora di rifiniture ed adattamenti ai nuovi hardware del nuovo millennio.

Ad ogni modo, questa tecnologia ha tanto potenziale per risolvere questo immenso ed arcano dilemma: Possiamo fidarci dell’IA?