L'esperta di IA Joanna Bryson parla di due diligence e di come sradicare i pregiudizi dell'IA, parte 2

Roland Alston, Product Marketing Manager
February 26, 2021

Come mai una data richiesta di credito stata rifiutata? Perché a quella persona stata negata la libertà condizionata? Come sono stati tagliati i sussidi di invalidità per quegli elettori? E perché i computer che imparano dagli umani considerano automaticamente certi ruoli professionali come maschili e altri come femminili?

» difficile spiegare il processo decisionale che sta dietro agli algoritmi più avanzati. Ma, con il proliferare dei sistemi predittivi, sembra che siamo diventati più diffidenti sulla loro utilità nel prendere decisioni critiche. Più della metà dei consumatori globali (53%), per esempio, sostiene che abbiamo bisogno di essere maggiormente istruiti su come far sì che l'IA sia all'altezza delle nostre aspettative etiche. Ma ecco la buona notizia:

Gran parte delle variabili che influiscono sull'uso etico dell'IA spesso direttamente legata alle scelte fatte nello sviluppo della tecnologia.

Così dice l'esperta e studiosa di IA Joanna Bryson (@j2bryson),docente di etica e tecnologia alla Hertie School of Governance di Berlino. Nel primo episodio di questa intervista in due parti, Bryson ha spiegato l'importanza della due diligence nella lotta contro i pregiudizi nello sviluppo software.In questo secondo episodio, spiega perché le macchine non conquisteranno il mondo e ci dà una chiave per decodificare il successo dell'IA:

Appian:Voglio tornare su qualcosa che ha detto prima, quando ha menzionato le tante considerazioni fumose e devianti sulla resistenza opposta alla regolamentazione dell'IA.

Bryson:

Credo sia importante riconoscere che possibile monitorare e documentare ciò che viene fatto anche senza seguire la due diligence nello sviluppo dell'IA. Si tratta di una procedura analoga a quella di qualunque altro settore, solo che al giorno d'oggi l'IA al centro dell'attenzione.

Se riusciamo a far capire alle aziende che l'aspettativa questa, che una cosa normale... [Per esempio] quando ero nel Regno Unito, non pensavamo di aver bisogno di una nuova legislazione [per l'IA]. Ci bastava aiutare la gente a capire come applicare la legislazione esistente all'industria del software.

Appian: Pensa che l'approccio europeo dell'RGPD (Regolamento generale sulla protezione dei dati) sia un buon modello di politica da seguire per noi?

Bryson: Niente perfetto, ma penso che l'RGPD sia all'avanguardia nelle politiche di IA. Si può sempre migliorare. Ma se non abbiamo intenzione di migliorarlo, tanto vale adottarlo (risata).

Appian: Andiamo avanti e parliamo di un altro argomento scottante: i pregiudizi degli algoritmi. Cosa determina i pregiudizi dell'IA?

Bryson: Il machine learning... il machine learning riprende tutti quei pregiudizi umani che gli psicologi chiamano pregiudizi impliciti.

Appian: Ci può fare un esempio?

Bryson: In genere, i nomi femminili vengono associati più spesso a termini che hanno a che fare con la vita domestica, quelli maschili con la carriera. Si tratta di un test di associazione implicita che ha ricevuto conferma dagli psicologi.

» anche un ottimo esempio di come, se si addestra l'IA con l'apprendimento automatico, si finisce per ricadere sempre negli stessi pregiudizi. E non l'unico modo in cui si possono introdurre pregiudizi nell'IA.

Quando l'IA diventa cattiva

Appian: Quanto dovremmo preoccuparci dei pregiudizi dell'IA?

Bryson: A me preoccupano molto. Uno dei miei aneddoti preferiti sui pregiudizi dell'IA ha a che fare con i dispenser che non erogano sapone se non hai un certo tono di pelle [perché i sensori a infrarossi non sono progettati per rilevare i toni di pelle più scuri].

In altre parole, nessuno di coloro che hanno testato questi dispenser era asiatico. Erano tutti incredibilmente caucasici (risate). Questi, però, sono i tipi di pregiudizio più facili da correggere. E questa una delle cose positive dell'IA.

Quando si parla di pregiudizi impliciti negli umani, più difficile definire cosa ci sia dietro. Con l'IA, invece, per esempio nel caso di incidenti che coinvolgono veicoli con il pilota automatico, si può andare a guardare i registri dei dati, vedere cosa ha percepito l'IA e capire perché ha fatto quello che ha fatto.

Appian: Che dire delle situazioni in cui i pregiudizi sono deliberatamente inseriti nell'IA?

Bryson: ...Questo l'unico tipo [di pregiudizio dell'IA] che penso che la gente non abbia notato: quello che si può inserire deliberatamente nel processo. Non ha nulla a che vedere con la presunta "malvagità" dell'algoritmo.Negli Stati Uniti c' stato un caso bizzarro, in cui uno Stato ha creato un algoritmo per assegnare i sussidi di invalidità.

La formula, però, ha portato a un'improvvisa riduzione dei sussidi di invalidità per molte persone, in alcuni casi anche del 42%. Quando i beneficiari si sono lamentati, i funzionari statali si sono rifiutati di rivelare la formula, sostenendo che si trattava di proprietà intellettuale).

Appian: Quindi cosa successo?

Bryson: I beneficiari hanno citato lo Stato in giudizio, vincendo la causa e costringendolo a rivelare la sua formula per l'assegnazione dei sussidi. Lo stesso accade anche con alcuni programmi contro il recidivismo.

Appian: Come? Può fare un esempio?

Bryson: Alcuni giudici, per esempio, hanno iniziato a usare un software di intelligenza artificiale che ha la capacità di prevedere la probabilità che una persona torni a commettere reati. Il software dietro questi programmi contro il recidivismo veramente terribile. Non riusciamo a capire come faccia a fare previsioni così scadenti.

Ecco perché la cosa più importante [con l'IA] la responsabilità da accertarsi tramite log.

L'IA non conquisterà il mondo

Appian:Insomma, negli ultimi anni siamo stati testimoni di enormi progressi nell'automazione intelligente. Siamo arrivati al punto che le macchine usano algoritmi sofisticati per imitare il comportamento umano. Ma questo le rende intelligenti?

Bryson: Per me, un termostato intelligente. A che serve definire l'intelligenza come appartenenza alla specie umana? Ci sono molti modi diversi per essere intelligenti. Tuttavia, penso che quello che sta davvero a cuore alle persone sia l'agire morale, la pazienza morale.

Appian: Agire morale? Pazienza morale? Che cosa intende?

Bryson: L'agire morale riguarda chi o cosa responsabile delle azioni compiute da un singolo individuo. La pazienza morale indica per "chi" o "cosa" responsabile la società.

Visto che ne stiamo parlando, le due cose alle quali la gente tiene di più sono: L'IA sarà come noi? Dobbiamo preoccuparci che possa conquistare il mondo?

Appian: Quindi l'IA sta conquistando il mondo?

Bryson:Non credo che una sola macchina possa conquistare il mondo. In fondo il mondo piuttosto grande. In gruppo, però, l'umanità sta facendo un ottimo lavoro nel prendere il controllo dell'intero ecosistema. Siamo noi che stiamo cambiando la società usando l'IA. E come dovremmo regolamentare la situazione? Come dovremmo cambiare le leggi per tutelare le persone, ora che sappiamo un sacco di cose su di loro grazie ai big data?

https://youtu.be/ODFE7-lKA7M

IA e frammentazione sociale

Appian:Lei ha sostenuto anche che uno dei problemi con l'evoluzione dell'IA quella che viene definita frammentazione sociale. A cosa si riferiva?

Bryson:Pensa a quanto vivremmo diversamente se tutti si aprissero e parlassero tra loro. Il problema della frammentazione sorto per via delle tecnologie di comunicazione. E peggiorerà con l'aumento dell'IA.

Appian: Pensando a tutti i leader aziendali e delle politiche pubbliche con cui ha parlato, qual il pregiudizio più pesante nei confronti dell'IA?

Bryson: Sono molti. Uno si rifà a una delle cose che ho detto prima,

ovvero la paura che, se sottoposta a regolamentazione, l'IA perda tutto il suo fascino.» anche sbagliato pensare che disciplinare l'IA comporti la perdita della proprietà intellettuale o metta a rischio l'innovazione.

La medicina un settore altamente regolato in cui il materiale tutelato da proprietà intellettuale 10 volte superiore a quello dell'industria tecnologica. Gran parte del rifiuto alla regolamentazione proviene da chi non disposto a cambiare, persone che non capiscono che le norme in realtà potrebbero essergli d'aiuto.

Perciò, quando mi confronto con le grandi aziende, cerco di comunicare soprattutto l'importanza della responsabilità e di prendere il controllo del proprio processo di sviluppo software. E che il machine learning solo l'ennesimo utensile in una cassetta degli attrezzi.Il che significa che si dovrebbe stare più attenti alla progettazione dei sistemi. Bisogna conoscere la fonte delle librerie utilizzate.

Non importa se sono librerie software alle quali ti colleghi o librerie di dati dalle quali il tuo sistema apprende, quello che conta sapere da dove vengono e chi vi può accedere.

Integrare l'IA nelle nostre vite

Appian: Per finire, quali sono le sue previsioni in merito all'IA per gli anni a venire?

Bryson: Penso sia importante capire che l'IA ovunque, e che le sfide più grandi che stiamo affrontando in questo momento riguardano le conseguenze politiche, sociali ed economiche del modo in cui può influire su di noi.Abbiamo fatto un salto enorme in termini di capacità dell'IA, perché possedevamo più dati e abbiamo migliorato il machine learning. Credo che, nel lungo periodo, questo fattore accelererà il ritmo del progresso.

Quindi, questo il momento giusto per capire come integrare l'IA nelle nostre vite.

(PS: Se ti sei perso la prima parte di questa intervista, puoi trovarla qui. Per sapere come sfruttare l'IA come moltiplicatore di produttività nella tua organizzazione, dai un'occhiata a questo link).