Quando l'intelligenza artificiale più spesso sbaglia: i limiti dell'apprendimento automatico Introduzione: La natura dell'errore dell'IA come fenomeno sistemico Gli errori delle moderne sistemi di intelligenza artificiale (IA) basati sull'apprendimento automatico (ML) non sono malfunzionamenti casuali, ma conseguenze regolari della loro architettura, del loro metodo di apprendimento e della loro differenza fondamentale dal pensiero umano. A differenza dell'uomo, l'IA non «comprensione» il mondo in senso semantico; rileva correlazioni statistiche nei dati. I suoi errori si verificano dove queste correlazioni vengono meno, dove sono necessari ragionamenti astratti, il senso comune o la comprensione del contesto. L'analisi di questi errori è fondamentale per valutare la affidabilità dell'IA e determinare i limiti del suo impiego. 1. Il problema del bias dei dati (Data Bias) e le «leggi di Garbage In, Garbage Out La fonte più comune e socialmente pericolosa di errori è il bias nei dati di addestramento. L'IA assimila ed amplifica i pregiudizi presenti nei dati. Distorsioni demografiche: Il caso conosciuto del sistema di riconoscimento facciale, che mostrava una maggiore precisione per gli uomini bianchi rispetto alle donne di colore, poiché addestrato su un set di dati disproporzionato. Qui l'IA non «sbagliato», ma ha riprodotto esattamente il disequilibrio del mondo reale, portando a un errore nell'applicazione in un ambiente eterogeneo. Distorsioni semantiche: Se nel set di dati di addestramento per un modello testuale la combinazione di parole «infermiera» è spesso associata al pronome «lei» e «programmatore» al pronome «egli», il modello genererà testi che riproducono questi stereotipi di genere, anche se il genere non è indicato nella richiesta. Questo è un errore a livello di contesto sociale che la modello non comprende. Fatto interessante: Nel campo delle scienze informatiche opera il principio di «Garbage In, Garbage Out» (GIGO) — «spazzatura in input, spa ... Read more