Lunedì 12 settembre in Bicocca come saprete si è tenuto l’evento sullo stato dell’arte delle valutazione di impatto sulle persone, sulle organizzazioni e sulla società delle tecniche di automazione basate su sistemi di intelligenza artificiale.

Sin dalle prime fasi della discussione, è apparso evidente che l’assenza di una definizione completa e condivisa di ciò che significa “Intelligenza Artificiale”, rende estremamente complicato finalizzare una regolamentazione dei sistemi di IA, del loro uso e sviluppo.

A testimonianza dell’urgenza per formulare una definizione di IA, e della continua ricerca di un equilibrio tra i diversi interessi coinvolti, basti sapere che il provvedimento noto come “AI Act” in discussione presso le istituzioni europee, dall’ultima revisione alla lettura attuale ha visto proporre più di 3000 emendamenti.

Si tratta infatti di una materia così trasversale nei diversi ambiti in cui si propaga (informatico, giuridico, industriale, accademico, e così via…) da rendere impossibile la formulazione di una definizione in poche righe.

In ciascuno dei settori in cui se ne parla però, persistono almeno tre elementi, gli “ingredienti dell’IA”: l’elevata potenza di calcolo di un sistema, algoritmi e tecniche come deep learning e machine learning, e i dati necessari all’educazione e al funzionamento dell’algoritmo.

Dalla compresenza di questi tre elementi si ha un sistema di Intelligenza Artificiale.

Ma dove troviamo strumenti di questo genere nella nostra quotidianità? Sono stati portati alcuni esempi, e tra i più diffusi ricordiamo:

• il marketing, dove l’IA raccoglie e analizza i dati aiutando ad ottimizzare strategie e target
• l’ambito sanitario, dove supporta le decisioni mediche potendo prevedere, rilevare e caratterizzare accuratamente ed in modo efficace la malattia
• la pubblica amministrazione, dove può aiutare a prevedere eventuali commissioni di reati, velocizzare il processo di assunzione, le pratiche di assistenza, indennità e disoccupazione
• l’arte, settore in cui l’IA riesce ormai ad espandere oltre i loro contorni le immagini, aiutando così a restaurare dipinti rovinati dal tempo o creare opere completamente originali

Ovviamente la diffusione dell’IA non si limita a questi pochi esempi, e proprio in virtù della sua potenziale “onni-applicabilità”, si stima una prospettiva di crescita – soprattutto economica – che porterà ad investire, solo nei prossimi 10 anni e solo all’interno dell’Unione Europea, oltre 20 miliardi di euro.

Ma quali sfide e minacce attendono il futuro dell’IA?

Durante l’incontro ne sono state catalogate alcune, dalla tutela dei diritti fondamentali dei cittadini alla sicurezza, dalla privacy alla libertà di espressione. All’interno delle nostre “cronache dal mondo” abbiamo portato alcuni esempi di sistemi che fanno uso di IA che, se alimentati da set di dati non “imparziali”, portano in moltissimi casi a risultati discriminatori e colmi di pregiudizio.

Per evitare che l’IA supporti le persone nel prendere decisioni sbagliate, o viziate dal pregiudizio veicolato dai dataset, nel 2019 la Commissione Europea, come abbiamo visto, si è posta l’obiettivo di promuovere un’IA affidabile, incentrata sulla persona e in accordo con le linee guida etiche.

Secondo la Commissione stessa, affinché possa dirsi affidabile, l’IA deve essere “legale”, “robusta” ed “etica”.

Da qui la necessità di valutare, secondo specifici modelli, la presenza di questi tre elementi in armonia con le finalità e l’ambiente in cui l’IA dovrà essere applicata.

Ecco la scelta delle “Valutazioni dell’Impatto Algoritmico”: uno strumento a supporto di sviluppatori e utenti, per valutare appunto l’impatto di un sistema sugli aspetti legali ed etici, con lo scopo di mitigare i potenziali rischi.

La valutazione dei sistemi è consigliata durante lo sviluppo, prima della distribuzione e comunque periodicamente per valutare gli effetti dell’IA nel tempo.

In estrema sintesi ciò che si evidenziato durante l’incontro è che vi è un rapido sviluppo in corso, che il dare norme alle nuove tecnologie è sempre più sfidante, visto anche che ogni innovazione porta in sé nuovi linguaggi e legami sociali, ma soprattutto che i portatori d’interesse sono variegati tra loro e, dall’altro lato, la consapevolezza di quanto sta accadendo intorno a noi è ancora molto bassa.

A tal scopo ti segnaliamo puoi contattarci per richiedere la copia digitale di un quaderno che abbiamo pubblicato sul tema, e abbiamo pensato ad un occasione unica ove poter tirare le fila del discorso: segna sul calendario la data del 28 ottobre #savethedate