Quando l’IA sbanda: indagine sugli algoritmi che seminano ingiustizia

Gli algoritmi stanno plasmando sempre più le nostre vite, ma attenzione: senza salvaguardie etiche, l'intelligenza artificiale può diventare un temibile vettore di ingiustizia. Un'immersione in una questione cruciale per il nostro futuro digitale.

La tua prossima richiesta di prestito, la tua candidatura per un lavoro, persino una diagnosi medica... E se fosse un'intelligenza artificiale (IA) a decidere? Pratico, ma questi sistemi, per quanto sofisticati, possono trasformarsi in macchine discriminatorie. Quindi, come assicurarci che l'IA non diventi il nuovo volto della disuguaglianza, e che l'automazione non significhi discriminazione?

L'IA, quel ingenuo che impara i nostri difetti

Ti starai chiedendo come una macchina possa essere parziale? Beh, l'IA è un po' come un bambino molto dotato: impara da ciò che le mostriamo. Se i dati storici con cui viene addestrata riflettono discriminazioni passate – ad esempio, se un certo gruppo è stato storicamente svantaggiato nell'accesso al credito – l'IA rischia di apprendere e perpetuare questi stessi schemi. È il famoso principio del «garbage in, garbage out» (dati errati in ingresso producono risultati errati in uscita).

Ma non è tutto! Il pregiudizio può insinuarsi anche attraverso la progettazione stessa del sistema. Le scelte su cosa misurare, i risultati da privilegiare o il modo in cui i dati vengono etichettati (spesso da esseri umani, con le loro soggettività) possono tutti distorcere il risultato. Si parla allora di pregiudizio di campionamento, quando il dataset non rappresenta tutti i gruppi, o di pregiudizio di etichettatura derivato da valutazioni umane soggettive.

IA al lavoro: la rivoluzione annunciata si è rivelata un fiasco?

Il lupo travestito da CAP: la trappola del "proxy bias"

Uno degli aspetti più insidiosi è il pregiudizio per delega. Immagina di vietare a un'IA di usare un criterio sensibile come l'origine etnica per prendere una decisione. Buona intenzione, no? Peccato che l'IA, astuta, potrebbe identificare altre informazioni, apparentemente neutre, che in realtà sono fortemente correlate a quel criterio. Ad esempio, un CAP o il livello di istruzione potrebbero, indirettamente, diventare sostituti (proxy) dell'origine o dello status socio-economico, portando a discriminazioni mascherate. È un vero rompicapo da individuare senza test rigorosi.

Quando l'algoritmo deraglia: esempi concreti e conseguenze reali

Purtroppo, le derive non sono solo teoriche. L'articolo di Artificial Intelligence News ricorda alcuni casi emblematici. Nel 2018, Amazon ha dovuto abbandonare uno strumento di reclutamento basato sull'IA perché favoriva sistematicamente i candidati maschi. Alcuni sistemi di riconoscimento facciale hanno anche mostrato tassi di errore di identificazione molto più alti per le persone di colore rispetto a quelle caucasiche.

Ma l'esempio più eclatante è senza dubbio quello dell'amministrazione fiscale olandese. Tra il 2005 e il 2019, un algoritmo utilizzato per rilevare frodi ai sussidi familiari ha preso di mira in modo sproporzionato famiglie con doppia cittadinanza o redditi bassi. Risultato: circa 26.000 famiglie accusate ingiustamente. Lo scandalo è stato tale da portare alle dimissioni del governo olandese nel 2021. Un vero terremoto che mostra l'impatto devastante di un'IA mal controllata.

PINMAP: l’IA che insegna ai robot a non schiantarsi più contro gli ostacoli (trasparente)

Uno sceriffo in città? I regolatori entrano in scena

Di fronte a queste sfide, i legislatori iniziano a reagire. L'Unione Europea ha sguainato il suo «AI Act» nel 2024. Questo regolamento, una prima mondiale, classifica i sistemi di IA in base al loro livello di rischio. Quelli considerati ad alto rischio, come quelli utilizzati per il reclutamento o l'accesso al credito, dovranno rispettare requisiti rigorosi in termini di trasparenza, supervisione umana e, ovviamente, verifica dei pregiudizi.

Negli Stati Uniti, sebbene non esista ancora una legge federale unica, agenzie come l'EEOC (Commissione per le pari opportunità di lavoro) e la FTC (Commissione Federale per il Commercio) sono in allerta, avvertendo che sistemi parziali potrebbero violare le leggi anti-discriminazione. La Casa Bianca ha persino pubblicato un «Blueprint for an AI Bill of Rights», una sorta di carta delle buone pratiche. E alcuni Stati, come la California e l'Illinois, oltre alla città di New York, hanno già preso l'iniziativa con proprie normative, in particolare per l'uso dell'IA nei processi di assunzione. A New York, ad esempio, la legge AEDT (Automated Employment Decision Tool), entrata in vigore il 5 luglio 2023, impone audit sui pregiudizi per gli strumenti di IA utilizzati nel reclutamento e nella promozione.

Google Gemini 2.5: Un tuffo nel cuore dell’IA che vuole pensare (molto) più in grande

Costruire IA più eque: missione (non) impossibile

Allora, come raddrizzare la barra? L'etica nell'automazione non cade dal cielo. Deve essere integrata fin dall'inizio.

Tre strategie chiave emergono:

• Valutare i pregiudizi, ancora e ancora: Gli audit sui pregiudizi devono essere condotti regolarmente, dallo sviluppo al dispiegamento. E per maggiore obiettività e fiducia, niente di meglio che un audit condotto da una terza parte.
• Viva la diversità (dei dati): Per ridurre i pregiudizi, bisogna addestrare le IA con dataset ricchi e vari, includendo campioni rappresentativi di tutti i gruppi di utenti, in particolare quelli spesso marginalizzati. Un'IA vocale addestrata principalmente con voci maschili funzionerà peggio per le donne. Logico, no? Ma attenzione, questi dati devono anche essere precisi e ben etichettati.
• Progettare in modo inclusivo: Ciò significa coinvolgere le persone interessate, in particolare quelle che rischiano maggiormente di subire le conseguenze negative di un'IA parziale. Consultare gruppi per i diritti, esperti di etica o comunità locali è cruciale. E ciò passa anche attraverso team di sviluppo diversificati, «un team costruito da un gruppo omogeneo può ignorare rischi che altri avrebbero individuato».

L'automazione e l'IA sono qui per restare, è ovvio. Ma la fiducia che riporremo in loro dipenderà crucialmente dalla loro equità e dalla chiarezza delle regole che le governano. Ignorare i pregiudizi nei sistemi di IA non è solo un rischio legale, è una vera questione sociale. La buona notizia è che esistono soluzioni: una maggiore consapevolezza, dati di migliore qualità, test rigorosi e una progettazione più inclusiva. Le leggi possono regolamentare, ma è un cambiamento culturale all'interno delle stesse aziende che porterà il vero progresso.

Dopotutto, un'IA ben educata ed equa è sicuramente più piacevole per costruire il futuro, no?