𝐋’𝐀𝐈 è 𝐧𝐞𝐮𝐭𝐫𝐚𝐥𝐞 𝐞 𝐨𝐠𝐠𝐞𝐭𝐭𝐢𝐯𝐚, 𝐬𝐞 𝐜𝐨𝐧𝐭𝐫𝐨𝐥𝐥𝐢 𝐛𝐞𝐧𝐞 𝐢 𝐝𝐚𝐭𝐢 𝐝𝐢 𝐚𝐝𝐝𝐞𝐬𝐭𝐫𝐚𝐦𝐞𝐧𝐭𝐨 𝐚𝐯𝐫𝐚𝐢 𝐮𝐧 𝐦𝐨𝐝𝐞𝐥𝐥𝐨 𝐩𝐫𝐢𝐯𝐨 𝐝𝐢 𝐝𝐢𝐬𝐜𝐫𝐢𝐦𝐢𝐧𝐚𝐳𝐢𝐨𝐧𝐢/𝐢𝐦𝐩𝐚𝐫𝐳𝐢𝐚𝐥𝐞.
✅ 𝘋𝘦𝘮𝘪𝘴𝘵𝘪𝘧𝘪𝘤𝘢𝘻𝘪𝘰𝘯𝘦: 𝐅𝐚𝐥𝐬𝐨. 𝐋’𝐀𝐈 𝐫𝐢𝐟𝐥𝐞𝐭𝐭𝐞 (𝐭𝐚𝐥𝐯𝐨𝐥𝐭𝐚 𝐚𝐦𝐩𝐥𝐢𝐟𝐢𝐜𝐚) 𝐢 𝐛𝐢𝐚𝐬 𝐩𝐫𝐞𝐬𝐞𝐧𝐭𝐢 𝐧𝐞𝐢 𝐝𝐚𝐭𝐢 𝐝𝐢 𝐚𝐝𝐝𝐞𝐬𝐭𝐫𝐚𝐦𝐞𝐧𝐭𝐨.
Obiezione comune: Controllando adeguatamente i dati utilizzati per l’addestramento avremo un modello senza bias.
Perché questa affermazione è falsa 👇
🔸 Perché alcuni dati “oggettivi” hanno valore solo in uno spazio-tempo definito e non ovunque –> esempio di Mauro Bennici: farmaco che funzionava ed era commercializzato in California non funzionava a Denver. Motivo? a Denver siamo a 2.000mt di altezza quindi ecco che abbiamo una feature che non avevamo considerato (in California) che invece è una discriminante per dare valore al modello.
🔸 Perché già la decisione su quali dati utilizzare è una decisione soggettiva e dipende dall’obiettivo che si persegue e dal contesto socio-culturale
🔸Perché a volte sbagliamo a mettere certe feature come caratteristiche dalle quali il modello deve imparare –> esempio: algoritmo di Amazon di recruiting, specialmente nei settori STEM, favoriva gli uomini e penalizzava le donne. Perché? Nei curriculum di addestramento c’era anche la feature “gender” e quindi, siccome c’erano molti più curriculum STEM di maschi, l’algoritmo associava una correlazione positiva all’essere maschio per il lavoro corrispondente.
🔸 Perché noi siamo pieni di bias –> esempio: uno studio su 8 giudici Israeliani fatto su più di mille sentenze che dovevano giudicare sulla libertà vigilata degli imputati mostrava chiaramente come la percentuale di una sentenza positiva fosse più alta di prima mattina per poi decrescere e, dopo il break caffè, risalire per poi riscendere nuovamente (stessa cosa dopo pranzo, vedi grafico). Che il giudizio sulla libertà degli imputati sia da correlare con la quantità di zucchero nel sangue dei giudici, o sulla bontà del cornetto mattutino?
🔸 Perché di default il machine learning è statistica e ci sono gli outlier e quindi se vivo in una via dove i miei vicini non hanno onorato dei prestiti e mutui e magari fanno anche un mestiere simile al mio, ecco che anche io, nonostante potrei essere il più affidabile debitore, sarei penalizzato dall’algoritmo che decide se posso ottenere il prestito per SpicyBrain (la nostra startup) o meno.
Non finisce qui. Donata Columbro ne aggiungerebbe un’altra dozzina.
Io spero solo di far passare il messaggio che è impossibile avere discriminazione zero ma possiamo fare molto per farla 𝐭𝐞𝐧𝐝𝐞𝐫𝐞 a zero.
