Tecnologia di interesse pubblico: colmare il divario di rischio dato dall'innovazione, parte 2

Roland Alston, Product Marketing Manager
August 19, 2021

Se ti guardi intorno vedrai i vantaggi dell'iperautomazione dappertutto, dato che fa scalare i processi aziendali più velocemente di un algoritmo, elimina ogni attrito dal coinvolgimento dei clienti e guida la trasformazione aziendale sempre più in alto. 

Nel lungo termine, è probabile che questa tendenza vada a creare una nuova generazione di posti di lavoro. Nel breve termine, però, può anche aumentare l'ansia tra i lavoratori che temono di perdere il lavoro nel boom dell'iperautomazione post-COVID. Per mettere questa ansia in prospettiva:

  • Diversi studi mostrano che il 43 % delle aziende prevede di ridurre la propria forza lavoro attraverso l'integrazione della tecnologia. Ma, secondo il Forum economico mondiale, il 34 % prevede di aumentare i posti di lavoro per lo stesso motivo. 
  • Entro il 2022, il 65 % delle organizzazioni che hanno implementato la RPA introdurrà l'intelligenza artificiale, compresi gli algoritmi di machine learning e di elaborazione del linguaggio naturale, almeno secondo Gartner.

Quindi, cosa possono fare le aziende per mitigare la paura dell'automazione? E come fanno i leader aziendali a garantire che il vantaggio netto dell'iperautomazione nel tempo superi gli svantaggi nel breve termine? Proveremo a rispondere a queste domande nel secondo e ultimo episodio della conversazione con Michelle Shevin, Senior Program Manager, Technology and Society presso la Ford Foundation (@michebox).

Accontentarsi della sorprendente evoluzione portata dall'iperautomazione è un po' come addormentarsi al volante di un'auto a guida autonoma, dice Shevin. Meglio automatizzare senza perdere il tocco umano. Meglio integrare persone e macchine in modo che si completino a vicenda. E meglio adottare la tecnologia di interesse pubblico (PIT) per mitigare le conseguenze di algoritmi inadeguati, prepararsi al futuro eccesso di regolamenti, e orientarsi verso l'inclusione e l'equità digitale nell'era dell'iperautomazione. Ma ho detto anche troppo. Vediamo di chiudere questa interessante conversazione con la leader del pensiero PIT Michelle Shevin.

Appian:

Hai parlato del PIT come di una mentalità che può aiutare i leader aziendali ad anticipare eventuali problemi futuri riguardanti conformità e normative relative al lato umano della tecnologia, cose come l'equità digitale, l'inclusione e la trasparenza. Potresti approfondire? 

Shevin:

Fondamentalmente, la tecnologia di interesse pubblico è un modo per proteggersi dalle conseguenze indesiderate di una tecnologia che non funziona come vorremmo, o dalle conseguenze sociali a cui nessuno ha mai pensato prima. Secondo noi, il PIT è davvero in grado di creare attività più solide. E non solo per i team di sviluppo dei prodotti: anche per chi si occupa delle politiche e per i team legali. Insomma, forma una sorta di tessuto connettivo in tutta l'azienda...

“...Perché il PIT non riguarda solo come progettiamo la tecnologia oggi e come adattiamo la tecnologia che avevamo progettato ieri. Si tratta anche di guardare avanti e di prepararsi alle sfide che arriveranno in futuro, anticipando anche quelle”.

Il PIT e la crisi da COVID

Appian:

Parlando di sfide, stiamo ancora affrontando le scosse di assestamento della crisi da COVID. Non ne siamo usciti del tutto. Come sapete, il COVID ha causato enormi disagi per le aziende. Tutto questo cambiamento, compresa l'accelerazione del lavoro a distanza, significa che le aziende devono essere più agili. Pensando all'impatto del COVID, come ha influito la pandemia sulla percezione del PIT da parte delle aziende? 

Shevin:

In poche parole, il COVID ha dimostrato il valore del PIT. Ha accelerato e amplificato gli sforzi per dare impulso a questo ambito. Volendo dilungarsi un po' di più, si potrebbe dire che la risposta delle aziende al COVID dimostra perché abbiamo ancora bisogno di incrementare le infrastrutture in questo campo. Nelle aree in cui il PIT ha guadagnato slancio, comunque, sta già fornendo valore.

Appian:

Può fare qualche esempio?

Shevin:

Nel settore pubblico, abbiamo visto perché il PIT è rilevante per la diffusione dei vaccini. All'inizio, città e paesi negli Stati Uniti non avevano le infrastrutture digitali necessarie per registrarsi in modo rapido, facile ed efficiente agli appuntamenti per il vaccino, giusto? Si trattava di una questione di accessibilità, certo, ma anche di equità.

Penso che l'assenza di una forte risposta intersettoriale che potesse sfruttare il potere della tecnologia e limitarne i danni abbia finito per ostacolare la nostra risposta al COVID-19. D'altra parte, abbiamo visto come gli esperti di tecnologie di interesse pubblico abbiano avuto un impatto sulla pandemia tramite uno sforzo volontario che ha visto squadre altamente qualificate di tecnologi in azione per sostenere i funzionari nei governi statali e locali nella risposta alla minaccia del coronavirus.

Le province sono riuscite a migliorare la loro capacità digitale in risposta al massiccio aumento del traffico sui propri siti web. E le città sono state in grado di portare online diversi programmi, per esempio per aiutare chi è costretto a casa a ricevere i pasti. 

“È stato incredibile vedere come il PIT sia riuscito a organizzarsi rapidamente e ad avere un impatto incredibile in termini di aumento dell'accesso pubblico a cose come i sussidi di disoccupazione e altre misure di sicurezza, oltre ad aiutare gli stati e le singole località a capire quale fosse il miglior approccio per la diffusione dei vaccini”.

Appian:

Però non si tratta di soluzioni a lungo termine, giusto? È tutto retto dai volontari.

Shevin:

Si tratta di volontari che si prestano a colmare lacune critiche. Ma è un ottimo esempio di come mettere in evidenza le attività del PIT e pensare alla tecnologia con equità e responsabilità può davvero fare un'enorme differenza.

Insegnare ai futuri tecnologi

Appian:

Cambiamo argomento e parliamo di un articolo che hai pubblicato di recente sulla rivista Fast Company, a proposito di qualcosa chiamato PIT University Network (PIT-UN). Che cos'è, e come si collega al lavoro del PIT che conduci alla Fondazione Ford?

Shevin:

È un'infrastruttura specifica che noi (Fondazione Ford) abbiamo aiutato a creare insieme a diversi finanziatori di pari livello. La rete universitaria PIT è gestita da New America, ed è una partnership di college e università che si impegnano specificamente a formare la prossima generazione di tecnologi di interesse pubblico. In sostanza, prendono i loro studenti di informatica e scienza dei dati e si assicurano che siano esposti all'etica, alla legge e alla politica durante il loro percorso di formazione come tecnologi.

Appian:

In pratica, stanno educando una nuova generazione di tecnologi di interesse pubblico con una formazione interdisciplinare.

Shevin:

Sì, al momento ci sono 43 diversi istituti di istruzione superiore nella rete PIT-UN, che vanno dalle scuole statali ai politecnici, dai centri di formazione agli atenei della Ivy League e oltre, che a dirla tutta è proprio ciò che amo di più della rete universitaria. 

La rete include un certo numero di università che già mandano un sacco di laureati a lavorare in ambito tecnologico, come Stanford e Harvard, ma stiamo facendo di tutto per includere atenei come il Miami Dade College, la Howard University e altre scuole che hanno una gran quantità di studenti provenienti da comunità storicamente emarginate.

Appian:

Lo fate solo per cercare di fare la cosa giusta? Altrimenti perché insistere per includere studenti appartenenti a comunità emarginate nel movimento PIT?

Shevin:

È importante perché sappiamo che includere le esperienze di tanti studenti diversi renderà il PIT e la rete universitaria molto più forti. Questi studenti sono coloro che diventeranno i nuovi leader in questo campo. Quindi, è davvero, davvero emozionante assistere alla loro crescita. 

“E la conoscenza interdisciplinare che viene generata attraverso PIT-UN permette davvero agli studenti degli atenei inclusi nella rete di capire meglio le problematiche che la tecnologia può peggiorare oppure aiutarci a risolvere”.


Appian:

Come stanno rispondendo i leader aziendali alla tendenza del PIT? E quale impatto pensi che avrà il movimento sul futuro della trasformazione digitale?

Shevin:

Dunque, penso che le grandi aziende tecnologiche e altre imprese assumeranno un numero sempre crescente di esperti di tecnologie di interesse pubblico con competenze su questioni come i diritti civili, la privacy, la sicurezza e la governance. E quando queste aziende progetteranno prodotti e servizi, avremo più lati positivi e meno lati negativi, quindi una tecnologia e imprese complessivamente molto più forti. 

Un buon modo di affrontare l'automazione: non causare danni

Appian:

Infine, parliamo di PIT e del futuro dell'automazione aziendale. L'iperautomazione sta orientando gran parte della conversazione sull'automazione aziendale. Che ruolo giocherà il PIT nell'evoluzione dell'iperautomazione, secondo te? 

Shevin:

L'iperautomazione ha molto a che fare con il modo in cui l'IA e altri strumenti vengono utilizzati per automatizzare e scalare i processi aziendali. Quindi, gli esperti di tecnologia di interesse pubblico si concentrano nell'aiutare le aziende a usare l'IA e l'automazione in modo responsabile. In sostanza, si parla sempre di più di cose come il riconoscimento delle emozioni, o la tecnologia progettata per prevedere avvenimenti complessi nella vita o nel comportamento delle persone. Inoltre, sta prendendo sempre più piede l'automazione nelle assunzioni, con l'IA usata per analizzare i colloqui video.

Appian:

Tu cosa ne pensi di queste tendenze dal punto di vista di tecnologa PIT?

Shevin:

Molti di questi casi d'uso appartengono ancora al regno della fantascienza, e a ragione. Non sono scientificamente validi, ma vengono comunque implementati, giusto? I tecnologi dell'interesse pubblico sono davvero bravi ad andare oltre le chiacchiere del marketing per fare in modo che ci si concentri su ciò che la tecnologia è effettivamente in grado di fare e quali possono essere le conseguenze quando viene applicata in modo inappropriato, o quando promette di fare qualcosa che in realtà non può fare in modo equo, quindi quando poi viene applicata la gente ne esce danneggiata.

A volte è giusto frenare l'innovazione

Appian:

Rimaniamo sul lato umano dell'automazione per un momento. Hai detto che uno dei ruoli dei tecnologi di interesse pubblico è quello di aiutarci a costruire e distribuire una tecnologia che sia più incentrata sugli esseri umani. Cosa intendevi dire?

Shevin:

Sì, quando tutti si esaltano per la prossima grande innovazione, il PIT a volte ci incoraggia a rallentare un attimo e a esaminare più da vicino come le tendenze tecnologiche possono danneggiare le comunità emarginate, e come possiamo evitare che ciò accada. 

Ho letto un recente sondaggio della FICO da cui è emerso che molti dirigenti sono scarsamente attrezzati per garantire le implicazioni etiche dell'uso dei sistemi di IA. Per esempio, alla domanda sugli standard e i processi in atto per regolare l'uso dell'IA, solo il 38 % ha detto che le loro aziende avevano in atto misure di rilevamento e mitigazione dei pregiudizi nei dati. E solo il 6 % ha detto di aver cercato di garantire la diversificazione dei propri team di sviluppo.

Insomma, una panoramica piuttosto deludente della situazione della gestione IT e, naturalmente, della gestione dell'iperautomazione. Abbiamo visto più e più volte come i pregiudizi negli algoritmi abbiano causato danni nel mondo reale per le comunità emarginate, no? Ci sono stati falsi arresti, aumento della sorveglianza, aumento dell'emarginazione di coloro che non hanno accesso a sistemi che possono richiedere di essere leggibili dalla macchina o visibili ai sistemi di IA. È proprio qui che entra in gioco la tecnologia di interesse pubblico.

Aziende a un bivio

Appian:

Quindi, quando guardi oltre l'orizzonte, che ruolo immagini per il PIT nel business del futuro?

Shevin:

Strategicamente parlando, il settore privato è a un bivio. Tra la diffusione della disinformazione, problemi di privacy, fughe di notizie, hacking e pregiudizi nell'intelligenza artificiale, la fiducia del pubblico ne è uscita seriamente minata. La cosa è particolarmente rilevante per l'industria tecnologica. Le critiche e le richieste di regolamentazione continuano a guadagnare forza. Ma i funzionari pubblici tendono ad essere mal equipaggiati per gestire le conseguenze che vediamo dipanarsi tutto intorno a noi.

“È un momento fondamentale per il settore privato, che deve farsi avanti e prendere le redini della situazione. In parte, è così anche perché le aziende che hanno i migliori talenti tecnologici spesso non vogliono o non sono in grado di anticipare i lati negativi della tecnologia e prevenirli nel creare i propri prodotti o servizi”.

Al contrario, si trovano a dover rimediare alla bell'e meglio dopo che il danno è già fatto. Di recente ho letto un'intervista con Satya Nadella di Microsoft: una delle cose più impostanti che ha detto è che i leader devono preoccuparsi in anticipo degli effetti collaterali non previsti della tecnologia. Quando non riescono ad anticipare i lati negativi della loro tecnologia, infatti, le aziende rischiano davvero di ottenere una cattiva reputazione e regolamentazione. 

Appian:

Quindi, in pratica, qual è la soluzione? Quali sono le regole da seguire? 

Shevin:

Il mio consiglio pragmatico ai leader aziendali è di assumere esperti di tecnologie di interesse pubblico. Considerate le conseguenze della tecnologia che state creando e fate di tutto per costruire e usare la tecnologia in modo da non danneggiare le comunità emarginate. Valutate l'adozione e l'incorporazione di strutture che aiutino a mettere in primo piano i valori di fiducia e responsabilità, al pari del risparmio, dell'efficienza, del profitto e della velocità.

P.S.: Per saperne di più sulle tecnologie di interesse pubblico, leggi la prima parte di questo post in due parti qui.

 

Michelle Shevin, Senior Program Manager, Ford Foundation