Intelligenza artificiale, machine learning e reti neurali sono termini che indicano tecnologie ormai entrate a pieno titolo nella nostra vita quotidiana, innovando in maniera prepotente tantissimi ambiti: dall’economia alla logistica alla ricerca in campo medico. L’IA, applicata a processi che in passato erano di competenza umana, ha permesso di compiere enormi balzi in avanti in termini di produttività, di efficacia e di precisione. 

Basti pensare agli acquisti che facciamo sul web, all’utilizzo di applicazioni per la messaggistica sullo smartphone oppure, ancora a una richiesta di concessione di un mutuo in banca. Per tutte queste azioni, dobbiamo interagire con sistemi di decisione automatizzata la cui architettura è sorretta dall’intelligenza artificiale. Ma le decisioni degli algoritmi che governano le reti neurali sono effettivamente le più giuste e imparziali? Oppure possono essere viziate dai pregiudizi presenti nei dati usati o da quelli dei programmatori che li hanno creati? È possibile per gli utenti avere informazioni attendibili sul loro comportamento?

Fino ad oggi, per le reti neurali, era molto improbabile. Queste creano autonomamente un elevato numero di algoritmi molto complessi e decifrarli non è possibile nemmeno per l’analista più esperto. A meno di non avere la chiave giusta che permette di aprire la loro scatola nera, la “black-box”. Questa chiave l’ha trovata Roberto Confalonieri, ricercatore alla Facoltà di Scienze e Tecnologie informatiche, che è stato recentemente premiato alla conferenza ECAI 2020, la conferenza scientifica europea sull’AI e una delle più importanti al mondo, proprio per un suo paper sulla explainability dei modelli decisionali delle reti neurali. Il motivo di tale riconoscimento? Roberto ha creato un nuovo algoritmo – ribattezzato “Trepan Reloaded” perché ha “ricalcato” e potenziato un algoritmo già esistente – che è in grado di scardinare la “black-box” delle reti neurali. 

“Trepan era un algoritmo inventato negli anni ’90 per estrarre gli alberi decisionali dalle reti neurali. In pratica interpretava le loro decisioni e forniva la rappresentazione simbolica del processo”, spiega Confalonieri, “noi l’abbiamo aggiornato e, sfruttando le ontologie, l’abbiamo reso in grado di restituire una descrizione più comprensibile agli utenti”. 

L’importanza della explainability dei sistemi decisionali automatizzati è evidente. Si pensi alla legittimità di scelte prese in contesti che possono essere molto sensibili come, per esempio, nel caso di diagnosi mediche o di sistemi di guida automatizzati. Basti pensare a una macchina a guida autonoma che percepisce due ostacoli contemporaneamente sulla propria strada: un bambino e un adulto con una carrozzina. In base a quale principio sceglie di urtare l’uno e schivare l’altro? Si tratta di questioni di non poco conto, su cui è opportuno che ci sia una consapevolezza da parte dell’utente, tant’è che a livello europeo – con il GDPR – si parla di “diritto alla spiegazione per gli utenti coinvolti in un processo di decisione automatica”. 

“Oltre che per motivi etici, la spiegabilità è necessaria anche per gli sviluppatori che devono aumentare la robustezza dei sistemi e prevenire eventuali discriminazioni che questi possano favorire”, puntualizza Confalonieri, “con Trepan Reloaded riusciamo a garantirla utilizzando le ontologie, dando maggior peso ai concetti associati alle ontologie”.

Se adesso è possibile grazie a Trepan Reloaded estrarre solo un unico albero della conoscenza, l’obiettivo di Confalonieri è di creare una sorta di “biblioteca degli alberi della conoscenza” in cui a seconda del livello di dettaglio delle informazioni, ognuno possa avere accesso a quelle che più gli servono: ad esempio, nel caso della diagnostica, il medico avrà bisogno di una spiegazione più approfondita mentre il paziente di una versione semplificata. Sarà questo l’obiettivo dei prossimi studi del ricercatore di Scienze e Tecnologie informatiche.

(zil)