17/12/2019

ETICA o A.I? CRIF Academy risolve il dilemma

Lo scorso novembre si è tenuta la giornata di alta formazione e confronto di CRIF Academy, la business school di CRIF, sull’Intelligenza Artificiale e Machine Learning nei processi di credito. L’evento ha visto la partecipazione di numerosi professionisti provenienti da tutta Italia e dalle principali aziende di credito italiane. Tra i relatori, Federico Chesani, dell’Università di Bologna, ha approfondito le principali opportunità e novità sul tema identificandone i punti critici e la possibilità di sviluppo nel rapporto con la clientela; nonché l’ottimizzazione dei processi di Credit Risk Management.

L’Artificial Intelligence sta infatti entrando sempre più nel settore finanziario, quindi in un contesto fortemente normato per tutelare il consumatore e l'impresa. A tal proposito, l’uso sapiente e consapevole dei dati gestiti diventa allora fondamentale.

In questi mesi, un ambito di riflessione cruciale ha riguardato l’attenzione che l’UE pone sull’etica nell’Intelligenza Artificiale. Il Prof. Chesani ne ha approfondito la questione: “La definizione di A.I. sta evolvendo e si sta espandendo, infatti per tutte le aziende rappresenta un asset fondamentale per agevolare le decisioni. Tuttavia, manca ancora una regolamentazione chiara e quali aspetti etici salvaguardare affinché i bias non pregiudichino le azioni e le scelte da intraprendere. Pertanto, gli aspetti etici vanno presi in considerazione per esempio nel design, nel miglioramento del prodotto o nelle risorse usate durante il ciclo di vita del prodotto stesso, ciò significa che ha un impatto diretto sul business”.

Infatti, ci sono esperienze in cui chatbot basati su A.I. hanno iniziato a interagire in modo deviato assumendo linguaggi volgari e offensivi, pensiamo quindi alle implicazioni di simili derive su un sistema di credit origination: "Nel frattempo, l’UE ha introdotto alcune linee guida, e molto lavoro è già stato fatto riguardo all'introduzione di aspetti e componenti etici in AI: molte attività sono tuttora in corso e ne vedremo i risultati nei prossimi anni” - ha concluso Chesani.

CRIF sta studiando attentamente le implicazioni etiche nell’impiego di sistemi AI based (deep learning, augmented analytics e facial recognition system) per non farsi trovare impreparata e porsi come riferimento verso i propri clienti e partner. Infine, la giornata di formazione CRIF Academy ha visto anche la condivisione di alcune sperimentazioni di Machine Learning in ambito Credit Risk Management. Ad esempio, lo sviluppo di un sistema di Early Warning con l’applicazione di una random forest. L’applicazione delle tecniche di Machine Learning offre maggiore flessibilità in fase di sviluppo dei modelli, permettendo di testare in modo agile e veloce il valore aggiunto di vasti ed eterogenei data asset, riducendo i tempi di analisi, sviluppo e implementazione degli indicatori, nel rispetto dei più elevati standard tecnologici di data protection e privacy (GDPR).

L’A.I. è in grado di rivedere i customer journey, ad esempio ottimizzando le attività di verifica antifrode o AML, grazie a metodologie RPA (Robotic Process Automation). Una tecnologia che permette, mediante un software o un “robot”, di acquisire e interpretare gli applicativi esistenti per elaborare transazioni, manipolare dati, generare risposte e comunicare con altri sistemi digitali.

Sì, Intelligenza Artificiale, ma…

Il corso ha approfondito anche il difficile tema della comprensione dei risultati di questi sistemi. È stato presentato l’approccio sviluppato insieme all’ateneo di Bolognese, basato sulla metodologia Local Interpretable Model-agnostic Explanations (LIME), presentato anche di recente al convegno “Credit Scoring and Credit Control Conference XVI” di Edimburgo. Nel dettaglio, l’approccio CRIF-Unibo ha evidenziato come l’applicazione di LIME restituisca le variabili più importanti che hanno spinto il modello di Machine Learning verso quella particolare decisione. LIME si presenta così come un approccio possibile per risolvere il problema della scarsa comprensione dei modelli di Credit Risk Management basati sul Machine Learning.

I partecipanti, a conclusione della giornata, erano molto soddisfatti della profondità con cui si è analizzato un tema di forte attualità dando spunti interessanti di riflessione, oltre al fatto di aver toccato con mano la sanbox di CRIF per fare simulazioni di Machine Learning.

Scopri le best practice nazionali e internazionali di CRIF sull'Intelligenza Artificiale.

Vuoi sapere di più sui corsi CRIF Academy o per organizzare un corso ad hoc?
Scrivi a: crifacademy@crif.com