Il 23 marzo di quest’anno davamo avvio al primo tavolo di lavoro sulle valutazioni d’impatto dell’AI. Questa serie, “Elementi sull’impatto dell’AI“, iniziata la scorsa settimana, non è altro che il risultato delle ricerche fatte fino ad oggi.

Ma cos’è una valutazione d’impatto?

Ogni novità introdotta all’interno di un sistema precostituito comporta una serie di cambiamenti in grado di stravolgerne il funzionamento. Questo è il caso delle nuove tecnologie e del loro impatto una volta introdotte in azienda e più in generale nella società.

Per far fronte a queste cambiamenti, negli ultimi anni stiamo assistendo ad una crescente opera di formalizzazione di strumenti di valutazione d’impatto in vari contesti: da quello ambientale alle nuove tecnologie.

Dando seguito a quanto già proposto nel caso delle valutazioni d’impatto sui dati personali, anche nel contesto dell’AI il legislatore europeo ha deciso di affidarsi a questo strumento come mezzo per analizzare in maniera olistica l’impatto di questi sistemi in contesti complessi.

La norma al momento è ancora in fase di discussione in sede istituzionale e le valutazioni di conformità dei sistemi di AI al momento non sono ancora un obbligo. Ciononostante, il tema è già parte del nostro presente.

Uno dei risultati della ReD OPEN Factory dal 23 marzo ad oggi è stato infatti di rilevare come i rischi di un uso inconsapevole dei sistemi di AI stiano lentamente guadagnando importanza in contesti aziendali connessi a settori critici.

Il fenomeno è di particolare rilevanza per i fornitori di AI, e continueremo a darne evidenza nelle settimane a venire, in attesa dell’evento “Algorithmic Impact Assessment” del 12 di Settembre.