I benefici della trasformazione digitale sono potenzialmente illimitati, con modi quasi infiniti per mantenerci connessi a una tecnologia che ottimizza l'efficienza, i risparmi economici e il vantaggio competitivo.
Ma ecco il problema: come si fa a mitigare i potenziali rischi etici e le conseguenze indesiderate dell'integrazione dell'automazione, quando quasi due terzi (65 %) dei dirigenti senior non riescono a comprendere i modelli decisionali e predittivi elaborati dall'intelligenza artificiale (IA), e il 73 % fatica a ottenere il sostegno dei piani alti per dare la priorità all'etica IA? Così almeno riporta un recente studio della società di analisi internazionale FICO.
La tematica riprende il tema più dibattuto al World Usability Day di quest'anno: Progettare il nostro mondo online: fiducia, etica e integrità. L'evento mondiale prenderà il via l'11 novembre 2021, con le community nei settori della tecnologia, dell'industria, del governo e simili che esploreranno modi per rendere la tecnologia più semplice da usare e di più facile accesso.
La crisi da COVID-19 ha accelerato il ritmo già vertiginoso della trasformazione digitale, che ora tocca praticamente ogni aspetto della nostra vita. Quindi, la sfida ora è:
- Come possiamo creare fiducia in quella che la società di analisi Gartner chiama l'era dell'hyperautomation?
- Quali sono le implicazioni etiche di come viene progettata la tecnologia?
- Come si può favorire accessibilità e inclusione in modo che tutti possano usare la nostra tecnologia?
È qui che entra in gioco la tecnologia di interesse pubblico (PIT). Per ottenere il massimo dalla tecnologia non basta crearla e pensare che la gente si adatti. Secondo un gruppo di esperti di tecnologie di interesse pubblico, bisogna adottare un approccio all'innovazione incentrato sull'uomo, con strategie di business che investano nella ricerca, nell'istruzione e in modi di impiegare tale tecnologia per proteggere e la società e portarle vantaggio. Cosa che ci porta a un tema alquanto rilevante in questi giorni: contenere l'impatto di casi d'uso mal progettati che minano la fiducia dei consumatori e intensificano le richieste di regolamentazione della tecnologia.
"Le aziende che hanno incorporato volontariamente tecnologie di interesse pubblico stanno cominciando a vederne il valore reale, sia in termini di profitti sia in termini di fiducia generata nelle comunità con cui lavorano, mettendosi a disposizione e impegnandosi tramite rapporti commerciali," dice Michelle Shevin, leader del movimento per le tecnologie di interesse pubblico (PIT) e senior program manager del PIT Catalyst Fund per Ford Foundation.
"Pensiamo che la tecnologia di interesse pubblico sia davvero fondamentale per creare un ecosistema duraturo in grado di trasmettere responsabilità e fiducia tra la gente e nei rapporti con i clienti," dice Shevin. "Secondo noi è davvero fondamentale per la crescita di un'attività."
"Un imprenditore, per esempio, non si arrischierà a intraprendere un percorso di progettazione e implementazione di una tecnologia di riconoscimento facciale che presto potrebbe essere dichiarata illegale perché nessuno ha pensato di mettere dei paletti, nessuno si è consultato con le comunità che potrebbero essere più colpite dalla tecnologia".
Se l'idea ti fa venire voglia di alzare gli occhi al cielo, non farlo. Una ricerca globale di McKinsey ha dimostrato che si può migliorare l'usabilità innovando le tre dimensioni ritenute più importanti:
- Migliorare la fiducia nei servizi digitali aumentando privacy e sicurezza. Circa il 44 % dei consumatori intervistati non ha piena fiducia nei servizi digitali.
- Migliorare l'esperienza dell'utente sui canali digitali, affinando le interfacce (UX/UI). Circa il 56 % degli utenti insoddisfatti si è trovata a disagio con la UX/UI digitale o per la mancanza di informazioni su prodotti e servizi.
- Migliorare l'esperienza del consumatore rendendo tutti i prodotti e i servizi disponibili in digitale. Il 43 % dei consumatori dice di preferire il digitale per convenienza e disponibilità.
In altre parole, la gente è combattuta sull'accelerazione della trasformazione digitale e sulle sue conseguenze nel mondo post-COVID. Tuttavia, c'è una buona notizia: assumere un approccio all'innovazione digitale incentrato sull'uomo può cambiare la percezione della tecnologia, se è fatto con intenzione. Il che ci porta alla leader di pensiero PIT Michelle Shevin, la quale ci illustra nel dettaglio il movimento per la tecnologia di interesse pubblico, spiegando come dà priorità alla fiducia pubblica, accelera l'adozione delle tecnologie, favorisce l'equità tecnologica e anticipa le normative nell'era della superautomazione. Il testo che segue è stato modificato per favorire chiarezza e brevità.
Abbiamo bisogno di un nuovo tipo di esperti tecnologici
Appian:
Il movimento per la tecnologia di interesse pubblico (PIT) sembra guadagnare sempre più terreno. Ne hai parlato anche tu, in un recente articolo su Fast Company. In pratica, hai sostenuto che abbiamo bisogno di più tecnologi addestrati a capire le ramificazioni etiche, legali e politiche della tecnologia che creano. Hai parlato di questo e anche di quello che hai chiamato l'inquadramento del diritto di interesse pubblico del PIT.
Shevin:
Quello del diritto di interesse pubblico è un modello utile da tenere a mente. Negli anni '50 e '60 c'era un gran bisogno di competenze legali che comprendessero anche le richieste del movimento per i diritti civili, e in quel periodo i finanziatori iniziarono a fare grandi investimenti in fondi di difesa legale, istituzioni come l'ACLU, cliniche legali universitarie e infrastrutture pro bono per studi di diritto privato, per esempio.
Poiché la legge sull'interesse pubblico è un campo fiorente, spesso ci riesce difficile immaginare che questa importante infrastruttura giurisprudenziale avesse bisogno di essere costruita ad hoc, ma è stato proprio così. E in questa continua ricerca di giustizia, ora sembra il momento ideale per investire nella tecnologia di interesse pubblico. In parte, si tratta anche di una risposta all'escalation di danni dell'era del "move-fast-and-break-things" che ha caratterizzato gran parte della trasformazione digitale finora.
Filantropi e beneficiari hanno capito che abbiamo bisogno di una nuova struttura per assicurarci che la tecnologia venga sviluppata, distribuita, progettata, regolata e usata in modo da proteggere i diritti dei consumatori e migliorare la vita delle persone. Il PIT mira ad essere quella nuova struttura. Si tratta di un campo davvero in crescita, composto da un diverso tipo di esperti di tecnologia che tendono ad essere più interdisciplinari e meno settoriali.
Appian:
Come?
Shevin:
Non sono i classici informatici, programmatori e sviluppatori. Possono essere giornalisti, artisti, sostenitori della causa e, sì, anche essere codificatori e programmatori. Ma è proprio questo diverso tipo di tecnologi che si aspetta e richiede che le tecnologie vengano create e usate in modo responsabile. Potreste aver sentito parlare di "tecnologia responsabile" o "tecnologia etica" o "tecnologia per il bene comune". Bene, il PIT risponde a tutte queste locuzioni. È una specie di concetto ombrello. È un movimento, è un campo di applicazione e un modo per indicare dove la tecnologia può fornire servizi migliori e contribuire a risolvere grandi problemi.
Appian:
Insomma, il PIT è davvero diverso dall'informatica o dalla scienza dei dati tradizionali.
Shevin:
L'informatica e la scienza dei dati tradizionali cominciano a riconoscerlo, ma non è stato sempre così. La tecnologia d'interesse pubblico si occupa del fatto che i gruppi storicamente emarginati sono quelli più danneggiati dalla tecnologia. Le disuguaglianze strutturali influiscono sui dati. L'informatica non è immune da dinamiche di potere. I tecnologi di interesse pubblico sono persone che hanno l'esperienza e le conoscenze necessarie per creare una tecnologia che faccia davvero progredire valori come la giustizia e l'equità oltre, per esempio, a ottimizzarne l'uso in base al budget, il margine di profitto, il risparmio sui costi e l'efficienza. Come si può immaginare, il PIT è un campo molto vario, che si estende a diverse categorie di lavoro ed è intenzionalmente diversificato in termini di background di chi ci lavora. Proprio per questo, è un gruppo che rappresenta al meglio gli interessi pubblici negli Stati Uniti come all'estero.
Persone e tecnologia, in quest'ordine
Appian:
Insomma, quando parli di "tecnologia equa", intendi assicurarsi che le tecnologie che sviluppiamo non danneggino le persone o non rendano il divario digitale peggiore di quello che è già. Ma al di là dell'impatto sociale e del fare la cosa giusta, qual è il business case del PIT, e perché i leader d'impresa dovrebbero preoccuparsene?
Shevin:
Il settore privato è una componente fondamentale dell'ecosistema PIT, oltre ad avere un enorme potenziale per rendere più profondo il nostro impegno, ampliando le nostre nozioni sulla responsabilità nel settore privato. Poi, naturalmente, un sacco di sviluppi tecnologici avvengono tramite l'industria privata, facendone un punto davvero critico. In poche parole, le aziende che seguono valori di interesse pubblico nel modo in cui assumono talenti, adottano la tecnologia e si occupano della manutenzione dei sistemi tecnici creeranno prodotti e servizi più forti.
Appian:
Quindi, se fossi un leader aziendale che vuole migliorare l'usabilità e favorire l'innovazione con particolare attenzione per l'interesse pubblico, cosa dovrei fare?
Shevin:
Per prima cosa, bisogna capire cos'è il PIT e come valori come l'equità, la trasparenza e la responsabilità vengono messi al primo posto in una struttura aziendale, giusto? Abbiamo visto in maniera aneddotica e su scala quanto l'adozione di una mentalità PIT possa essere trasformativa per le aziende. Guardando ad aziende come Twitter, si può vedere che nell'ultimo anno hanno assunto sempre più tecnologi di pubblico interesse.
Inoltre, abbiamo visto che le aziende che adottano il PIT generano un valore reale non solo in termini di profitti, ma anche in termini di fiducia nelle comunità con cui lavorano. Queste aziende interagiscono con le comunità tramite rapporti commerciali, passo fondamentale per costruirsi un ecosistema e conquistare la fiducia degli utenti nell'area e instaurare rapporti con i clienti.
Appian:
Gli imprenditori, però, possono essere scettici su termini come tecnologia di interesse pubblico. Può sembrare un altro modo per dire che abbiamo bisogno di una maggiore regolamentazione delle tecnologie.
Shevin:
È una distinzione importante, perché la regolamentazione è inevitabile e importante, ma spesso si pensa che possa inibire l'innovazione. In qualità di campo e insieme di approcci trasversali a più settori per mirare a valori di interesse pubblico come l'equità, la trasparenza e la giustizia nel modo di progettare e applicare le tecnologie, la tecnologia di interesse pubblico è fondamentale per guidare la crescita e la sostenibilità delle aziende.
Quindi, il PIT è un modo per anticipare i regolamenti e gli standard futuri, oltre ai cambiamenti importanti nell'ambiente per quanto riguarda gli ostacoli normativi e la conformità.
A volte è giusto frenare l'innovazione
Appian:
Hai detto che uno dei ruoli dei tecnologi di interesse pubblico è quello di aiutarci a costruire e distribuire una tecnologia che sia più incentrata sugli esseri umani. Cosa intendevi dire?
Shevin:
Sì, quando tutti si esaltano per la prossima grande innovazione, il PIT a volte ci incoraggia a rallentare un attimo e a esaminare più da vicino come le tendenze tecnologiche possono danneggiare le comunità emarginate, e come possiamo evitare che ciò accada.
Ho letto un recente sondaggio della FICO da cui è emerso che molti dirigenti sono scarsamente attrezzati per garantire le implicazioni etiche dell'uso dei sistemi di IA. Per esempio, alla domanda sugli standard e i processi in atto per regolare l'uso dell'IA, solo il 38 % ha detto che le loro aziende avevano in atto misure di rilevamento e mitigazione dei pregiudizi nei dati. E solo il 6 % ha detto di aver cercato di garantire la diversificazione dei propri team di sviluppo.
Insomma, una panoramica piuttosto deludente della situazione della gestione IT e, naturalmente, della gestione dell'iperautomazione. Abbiamo visto più e più volte come i pregiudizi negli algoritmi abbiano causato danni nel mondo reale per le comunità emarginate, no? Ci sono stati falsi arresti, aumento della sorveglianza, aumento dell'emarginazione di coloro che non hanno accesso a sistemi che possono richiedere di essere leggibili dalla macchina o visibili ai sistemi di IA. È proprio qui che entra in gioco la tecnologia di interesse pubblico.
Appian:
A livello pragmatico, cosa consiglieresti alle aziende che vogliono dare priorità a fiducia, diversità, equità e inclusione come parte della loro strategia di trasformazione digitale?
Shevin:
Il mio consiglio è di considerare le conseguenze della tecnologia che si sta creando e fare di tutto per costruire e usare la tecnologia in modo da non danneggiare le comunità emarginate. Valutare l'adozione e l'incorporazione di strutture che aiutino a mettere in primo piano i valori di fiducia e responsabilità, al pari del risparmio, dell'efficienza, del profitto e della velocità.
P.S.: (Questo post è stato originariamente pubblicato su Appian.com qui.)
