Tecnologia di interesse pubblico: colmare il divario di rischio dato dall'innovazione, parte 1

Roland Alston, Thought Leadership Program Leader
August 12, 2021

I vantaggi dell'iperautomazione sono potenzialmente illimitati, con modi quasi infiniti di ottimizzare efficienza, risparmio sui costi e vantaggio competitivo.

Il problema è come mitigare i potenziali rischi etici e le conseguenze indesiderate dell'integrazione dell'automazione, quando quasi due terzi (65 %) dei dirigenti senior non riescono a comprendere i modelli decisionali e predittivi elaborati dall'intelligenza artificiale (IA), e il 73 % fatica a ottenere il sostegno dei piani alti per dare la priorità all'etica IA, almeno secondo un recente studio della società di analisi internazionale FICO.

Colmare questo divario di rischio è più urgente che mai, dato che le aziende di tutto il mondo stanno facendo a gara per sfruttare l'IA, l'automazione e una vasta gamma di altre tecnologie al fine di risolvere una serie di problemi aziendali che vanno dalla gestione dell'infrastruttura IT al miglioramento dell'esperienza del cliente, alla protezione contro le minacce informatiche, alle decisioni mediche, alla trasformazione del lavoro da remoto in un vantaggio competitivo.

Un nuovo movimento di innovazione

Per ottenere il massimo dalla tecnologia non basta crearla e pensare che la gente si adatti. Secondo un gruppo di esperti di tecnologie di interesse pubblico, bisogna adottare un approccio all'innovazione incentrato sull'uomo, con strategie di business che investano nella ricerca, nell'istruzione e in modi di impiegare tale tecnologia per proteggere e beneficiare la società.

In questo senso, c'è qualcosa di molto importante a cui provvedere con urgenza: contenere i casi d'uso mal progettati che minano la fiducia dei consumatori e danno risalto alle richieste di regolamentazione della tecnologia. 

"Le aziende che hanno incorporato volontariamente tecnologie di interesse pubblico stanno cominciando a vederne il valore reale, sia in termini di profitti sia in termini di fiducia generata nelle comunità con cui lavorano, mettendosi a disposizione e impegnandosi tramite rapporti commerciali," dice Michelle Shevin, leader del movimento per le tecnologie di interesse pubblico (PIT) e senior program manager del PIT Catalyst Fund per Ford Foundation.

"Pensiamo che la tecnologia di interesse pubblico sia davvero fondamentale per creare un ecosistema duraturo in grado di trasmettere responsabilità e fiducia tra la gente e nei rapporti con i clienti," dice Shevin. "Secondo noi è davvero fondamentale per la crescita di un'attività."

"Un imprenditore, per esempio, non si arrischierà a intraprendere un percorso di progettazione e implementazione di una tecnologia di riconoscimento facciale che presto potrebbe essere dichiarata illegale perché nessuno ha pensato di mettere dei paletti, nessuno si è consultato con le comunità che potrebbero essere più colpite dalla tecnologia".

Se ciò che hai appena letto ti fa venire voglia di alzare gli occhi al cielo, non farlo. Diverse ricerche mostrano che i consumatori digitali si preoccupano meno dei furti cibernetici che di come le aziende usano la tecnologia e i loro dati. Ecco qualche cifra: 

Secondo un sondaggio effettuato da Pew Center nel 2020, circa la metà dei consumatori statunitensi (47 %) sostiene che le grandi aziende tecnologiche dovrebbero essere regolate dal governo più di quanto non lo siano ora, mentre solo l'11 % dice che bisognerebbe alleggerire la regolamentazione in merito. 

In altre parole, la gente è combattuta riguardo alla sorprendente evoluzione della tecnologia, l'accelerazione della trasformazione digitale, e cosa significa tutto questo per gli affari e la società. Ma ecco la buona notizia: assumere un approccio all'innovazione incentrato sugli esseri umani può cambiare il modo in cui la gente guarda alla tecnologia, se lo si fa con intenzione. 

Che cosa significa tutto questo nella pratica? Prendi i pop-corn e sintonizzati sull'episodio di questa settimana di Digital Masters, dove Michelle Shevin, leader di pensiero del PIT, introdurrà il movimento delle tecnologie di pubblico interesse, spiegando come dà la priorità alle fondazioni pubbliche, accelera l'adozione della tecnologia, aumenta l'equità tecnologica e anticipa le normative nell'era dell'iperautomazione.

La conversazione è stata sintetizzata e modificata per renderla più chiara.

Appian:

Ciao Michelle e benvenuta a Digital Masters.

Shevin:

Grazie per avermi invitato.

Appian:

Di questi tempi, è difficile parlare di qualcosa senza menzionare il COVID-19. Penso che questo sia ancor più vero nel caso delle tendenze tecnologiche. Quindi cominciamo da lì. Dove ti trovavi quando la pandemia ha colpito?

Shevin:

Vivevo a New York. Ma avevo già programmato un viaggio per andare a trovare i miei genitori in Connecticut. Dopodiché, non sono più tornata in città. Il mio ufficio ha chiuso, prima temporaneamente e poi a tempo indeterminato. Insomma, sono in Connecticut dal marzo del 2020. 

Appian:

Dove in Connecticut?

Shevin:

Sono in una zona rurale che chiamano l'angolo tranquillo del Connecticut. Boscosa e tranquilla, è incastonata tra Providence, Boston e Hartford. È stato un buon posto da cui affrontare la tempesta (del COVID). 

 

Abbiamo bisogno di un nuovo tipo di esperti tecnologici

Appian:

Il movimento per la tecnologia di interesse pubblico (PIT) sembra guadagnare sempre più terreno. Ne hai parlato anche tu, in un recente articolo su Fast Company. In pratica, hai sostenuto che abbiamo bisogno di più tecnologi addestrati a capire le ramificazioni etiche, legali e politiche della tecnologia che creano. Hai parlato di questo e anche di quello che hai chiamato l'inquadramento del diritto di interesse pubblico del PIT.

Shevin:

Quello del diritto di interesse pubblico è un modello utile da tenere a mente. Negli anni '50 e '60 c'era un gran bisogno di competenze legali che comprendessero anche le richieste del movimento per i diritti civili, e in quel periodo i finanziatori iniziarono a fare grandi investimenti in fondi di difesa legale, istituzioni come l'ACLU, cliniche legali universitarie e infrastrutture pro bono per studi di diritto privato, per esempio.

Poiché la legge sull'interesse pubblico è un campo fiorente, spesso ci riesce difficile immaginare che questa importante infrastruttura giurisprudenziale avesse bisogno di essere costruita ad hoc, ma è stato proprio così. E in questa continua ricerca di giustizia, ora sembra il momento ideale per investire nella tecnologia di interesse pubblico. In parte, si tratta anche di una risposta all'escalation di danni dell'era del "move-fast-and-break-things" che ha caratterizzato gran parte della trasformazione digitale finora. 

Filantropi e beneficiari hanno capito che abbiamo bisogno di una nuova struttura per assicurarci che la tecnologia venga sviluppata, distribuita, progettata, regolata e usata in modo da proteggere i diritti dei consumatori e migliorare la vita delle persone. Il PIT mira ad essere quella nuova struttura. Si tratta di un campo davvero in crescita, composto da un diverso tipo di esperti di tecnologia che tendono ad essere più interdisciplinari e meno settoriali. 

Appian:

Come?

Shevin:

Non sono i classici informatici, programmatori e sviluppatori. Possono essere giornalisti, artisti, sostenitori della causa e, sì, anche essere codificatori e programmatori. Ma è proprio questo diverso tipo di tecnologi che si aspetta e richiede che le tecnologie vengano create e usate in modo responsabile. Potreste aver sentito parlare di "tecnologia responsabile" o "tecnologia etica" o "tecnologia per il bene comune". Bene, il PIT risponde a tutte queste locuzioni. È una specie di concetto ombrello. È un movimento, è un campo di applicazione e un modo per indicare dove la tecnologia può fornire servizi migliori e contribuire a risolvere grandi problemi. 

Appian:

Insomma, il PIT è davvero diverso dall'informatica o dalla scienza dei dati tradizionali.

Shevin:

L'informatica e la scienza dei dati tradizionali cominciano a riconoscerlo, ma non è stato sempre così. La tecnologia d'interesse pubblico si occupa del fatto che i gruppi storicamente emarginati sono quelli più danneggiati dalla tecnologia. Le disuguaglianze strutturali influiscono sui dati. L'informatica non è immune da dinamiche di potere. I tecnologi di interesse pubblico sono persone che hanno l'esperienza e le conoscenze necessarie per creare una tecnologia che faccia davvero progredire valori come la giustizia e l'equità oltre, per esempio, a ottimizzarne l'uso in base al budget, il margine di profitto, il risparmio sui costi e l'efficienza. Come si può immaginare, il PIT è un campo molto vario, che si estende a diverse categorie di lavoro ed è intenzionalmente diversificato in termini di background di chi ci lavora. Proprio per questo, è un gruppo che rappresenta al meglio gli interessi pubblici negli Stati Uniti come all'estero. 

 

Persone e tecnologia - in quest'ordine

Appian:

Insomma, quando parli di "tecnologia equa", intendi assicurarsi che le tecnologie che sviluppiamo non danneggino le persone o non rendano il divario digitale peggiore di quello che è già. Ma al di là dell'impatto sociale e del fare la cosa giusta, qual è il business case del PIT, e perché i leader d'impresa dovrebbero preoccuparsene?

Shevin:

Il settore privato è una componente fondamentale dell'ecosistema PIT, oltre ad avere un enorme potenziale per rendere più profondo il nostro impegno, ampliando le nostre nozioni sulla responsabilità nel settore privato. Poi, naturalmente, un sacco di sviluppi tecnologici avvengono tramite l'industria privata, facendone un punto davvero critico. In poche parole, le aziende che seguono valori di interesse pubblico nel modo in cui assumono talenti, adottano la tecnologia e si occupano della manutenzione dei sistemi tecnici creeranno prodotti e servizi più forti. Se lo consideriamo dal punto di vista della Fondazione (Ford), quando si pensa a quale infrastruttura va costruita e finanziata per sostenere questo ecosistema, è un'infrastruttura insieme interna e trasversale al settore privato, il settore pubblico, il mondo accademico e la società civile. Perciò Stiamo davvero cercando di promuovere i progressi in questo spazio e in questo campo.

Appian:

Se io fossi un leader aziendale che vuole favorire l'innovazione con particolare attenzione per l'interesse pubblico, cosa dovrei fare?

Shevin:

Per prima cosa, bisogna capire cos'è il PIT e come valori come l'equità, la trasparenza e la responsabilità vengono messi al primo posto in una struttura aziendale, giusto? Abbiamo visto in maniera aneddotica e su scala quanto l'adozione di una mentalità PIT possa essere trasformativa per le aziende. Guardando ad aziende come Twitter, si può vedere che nell'ultimo anno hanno assunto sempre più tecnologi di pubblico interesse.

Inoltre, abbiamo visto che le aziende che adottano il PIT generano un valore reale non solo in termini di profitti, ma anche in termini di fiducia nelle comunità con cui lavorano. Queste aziende interagiscono con le comunità tramite rapporti commerciali, passo fondamentale per costruirsi un ecosistema e conquistare la fiducia degli utenti nell'area e instaurare rapporti con i clienti.

Appian:

Gli imprenditori, però, possono essere scettici su termini come tecnologia di interesse pubblico. Può sembrare un altro modo per dire che abbiamo bisogno di una maggiore regolamentazione delle tecnologie.

Shevin:

È una distinzione importante, perché la regolamentazione è inevitabile e importante, ma spesso si pensa che possa inibire l'innovazione. In qualità di campo e insieme di approcci trasversali a più settori per mirare a valori di interesse pubblico come l'equità, la trasparenza e la giustizia nel modo di progettare e applicare le tecnologie, la tecnologia di interesse pubblico è fondamentale per guidare la crescita e la sostenibilità delle aziende. Quindi, il PIT è un modo per anticipare i regolamenti e gli standard futuri, oltre ai cambiamenti importanti nell'ambiente per quanto riguarda gli ostacoli normativi e la conformità.

Michelle Shevin,  Senior Program Manager, Ford Foundation

 

(Tieni d'occhio questo spazio per il prossimo episodio di "Tecnologia di interesse pubblico: colmare il divario di rischio dato dall'innovazione", con Michelle Shevin della Ford Foundation).