Il processo decisionale automatizzato (ADM) sta rapidamente diventando una parte importante della società odierna. Che si tratti di affari, pubblica amministrazione, diritto o sanità, istruzione e trasporti, ADM utilizza dati, macchine e algoritmi per prendere decisioni in diverse situazioni. Con il progresso di varie tecnologie, come l’intelligenza artificiale e l’apprendimento automatico, l’influenza di questi sistemi cresce di giorno in giorno, ma anche le questioni tecniche ed etiche che stanno dietro ad essi hanno innescato ampie discussioni.
Con l'evolversi della tecnologia, il processo decisionale automatizzato viene definito in modo diverso. Alcune definizioni considerano l'ADM come decisioni prese senza alcun intervento umano; altre applicazioni possono comportare scelte effettuate da decisori umani con l'aiuto di sistemi di supporto.
Le tecnologie e le applicazioni ADM sono disponibili in molte forme, dai sistemi di supporto decisionale ai processi decisionali completamente automatizzati.
Ad esempio, da modelli semplici basati su alberi decisionali a sistemi complessi che utilizzano reti neurali profonde, la diversità di queste tecnologie consente ad ADM di coprire campi che vanno dall'intrattenimento alla sorveglianza.
Il fulcro del processo decisionale automatizzato sono i dati. In sostanza, i sistemi ADM utilizzano diversi tipi e fonti di dati per analizzare e apprendere. Questi dati possono provenire da social media, sensori, cartelle cliniche, ecc., rendendo necessaria l’elaborazione di dati su larga scala per raggiungere il processo decisionale.
La qualità dei dati è fondamentale per l'impatto dei risultati, ma molti set di dati soffrono di distorsioni, mancanze e incoerenze.
Una scarsa qualità dei dati può portare a un processo decisionale distorto, che rappresenta una delle sfide affrontate da molti attuali sistemi ADM.
Il funzionamento del sistema ADM si basa su una varietà di tecnologie decisionali automatizzate. Dalla corrispondenza dei dati di base all’analisi predittiva sofisticata, questi sviluppi tecnologici stanno ampliando i confini dell’automazione.
L'apprendimento automatico implica l'addestramento dei programmi informatici su grandi set di dati, il che consente agli algoritmi di migliorare continuamente i loro processi decisionali.
Con la maturità della GPU e della tecnologia del cloud computing e il rapido sviluppo del deep learning, anche l'ambito di applicazione dell'apprendimento automatico si sta rapidamente espandendo, spaziando dal riconoscimento delle immagini all'elaborazione del linguaggio.
I sistemi decisionali automatizzati vengono ampiamente adottati nei settori pubblico e privato per ragioni tra cui il desiderio di migliorare la coerenza, migliorare l'efficienza, ridurre i costi e risolvere problemi complessi.
Ad esempio, gli strumenti di valutazione del rischio vengono utilizzati per integrare o sostituire il giudizio di giudici e agenti delle forze dell'ordine. Negli Stati Uniti, tali strumenti vengono utilizzati per determinare il rischio di reiterazione di reati.
Nel mondo commerciale, l'auditing continuo utilizza strumenti analitici avanzati per automatizzare il processo di audit, mentre nei mercati finanziari i sistemi di trading automatizzati che generano e inviano ordini di trading in base a regole preimpostate sono diventati la norma.
Tuttavia, con l'applicazione diffusa dell'ADM sorgono anche questioni tecniche, legali, etiche e sociali. Ad esempio, i sistemi di raccomandazione automatizzati per le piattaforme dei media digitali sollevano preoccupazioni sulla privacy degli utenti e sulla trasparenza nell’uso dei dati.
In questo contesto, come garantire che il processo decisionale automatizzato sia giusto, giusto e trasparente è diventato un problema urgente da risolvere.
Con la natura "scatola nera" degli algoritmi, sempre più persone iniziano ad aspettarsi il "diritto di spiegazione" per comprendere il processo decisionale automatizzato.
La tendenza allo sviluppo di sistemi decisionali automatizzati continuerà ad accentuarsi man mano che la governance, la politica e la tecnologia continuano ad evolversi, come bilanciare innovazione e rischio sarà una delle principali sfide che la società umana dovrà affrontare.
In un mondo basato sui dati, come possiamo garantire che il processo decisionale automatizzato non sia solo efficiente, ma anche giusto ed etico?