Tecnología de interés público: Cerrar la brecha de riesgo de la innovación, parte 1

Roland Alston, Thought Leadership Program Leader
August 12, 2021

No cabe duda de que las ventajas de la hiperautomatización son potencialmente ilimitadas, con formas casi infinitas de optimizar la eficiencia, el ahorro de costes y la ventaja competitiva.

Pero el reto es cómo mitigar los posibles riesgos éticos y las consecuencias imprevistas de la generalización de la automatización cuando casi dos tercios (65 %) de los altos ejecutivos no pueden explicar cómo se toman las decisiones o predicciones específicas de los modelos de inteligencia artificial (IA), y el 73 % tiene dificultades para conseguir el apoyo de los ejecutivos para dar prioridad a la ética de la IA, según un reciente estudio de la empresa de análisis global FICO.

Cerrar esta brecha de riesgo es más urgente que nunca, ya que empresas de todo el mundo se apresuran a aprovechar la IA, la automatización y una amplia gama de otras tecnologías para resolver una mezcla de problemas empresariales que incluyen todo, desde la gestión de la infraestructura de TI, la mejora de la experiencia del cliente, la protección contra las amenazas cibernéticas, la toma de decisiones médicas y la conversión del trabajo remoto en una ventaja competitiva.

Un nuevo movimiento de innovación

Para sacar el máximo partido a la tecnología, no basta con crearla sin pensar en qué pasará con ella en el futuro. Según un movimiento creciente de tecnólogos de interés público, es mejor adoptar un enfoque de la innovación centrado en el ser humano, con estrategias empresariales que inviertan en investigación, educación y formas de desplegar la tecnología que protejan y beneficien a la sociedad.

Esto nos lleva a un tema de gran importancia: la urgencia de mitigar los casos de uso mal diseñados que socavan la confianza del consumidor y amplifican las peticiones de regulación tecnológica.

"Las empresas que están incorporando explícitamente el marco de la tecnología de interés público están empezando a ver cómo se genera un valor real, tanto en términos de sus beneficios como en términos de la confianza que están generando con las comunidades clave con las que están trabajando, dando la cara y comprometiéndose a través de las relaciones comerciales", explica Michelle Shevin, una voz destacada en el movimiento de la tecnología de interés público (PIT) y directora de programas sénior del PIT Catalyst Fund en la Ford Foundation.

"Así que pensamos que la tecnología de interés público es fundamental para un ecosistema a largo plazo de generación de confianza y rendición de cuentas en diferentes circunscripciones y relaciones con los clientes", apunta Shevin. "Creemos que es fundamental para el crecimiento de las empresas".

"Por ejemplo, como líder empresarial, uno no quiere dar 20 pasos en el camino de diseñar y desplegar una tecnología de reconocimiento facial que pronto podría ser regulada hasta desaparecer porque nadie pensó en diseñar disposiciones de seguridad, porque nadie consultó con las comunidades que podrían sufrir el mayor impacto por parte de la tecnología".

Si ese sentimiento le hace fruncir el ceño, no lo haga. Los estudios demuestran que los consumidores digitales se preocupan menos por los robos cibernéticos y más por la forma en que las empresas utilizan la tecnología y sus datos. Estas son las cuentas:

Alrededor de la mitad de los consumidores estadounidenses (47 %) opina que las principales empresas tecnológicas deberían estar más reguladas por el gobierno de lo que lo están ahora. Y solo el 11 % dice que las empresas tecnológicas deberían estar menos reguladas, según una reciente encuesta del Pew Center de 2020. 

En otras palabras, la gente está en conflicto con la asombrosa evolución de la tecnología, la aceleración de la transformación digital y lo que todo ello significa para las empresas y la sociedad. Pero aquí está la buena noticia. Adoptar un enfoque de la innovación centrado en el ser humano puede cambiar la forma en que la gente ve la tecnología, si se hace con intención. 

Entonces, ¿cómo funciona? Prepare las palomitas y sintonice el episodio de esta semana de Digital Masters, en el que la líder de pensamiento de las TIP, Michelle Shevin, nos muestra desde dentro el movimiento de las TIP y cómo prioriza la confianza pública, acelera la adopción de la tecnología, impulsa la equidad tecnológica y se anticipa a la regulación en la era de la hiperautomatización.

Nuestra conversación ha sido condensada y editada para una mayor claridad.

Appian:

Hola, Michelle, y bienvenida a Digital Masters.

Shevin:

Gracias por invitarme.

Appian:

Hoy en día es difícil hablar de cualquier cosa sin hablar de COVID-19. Y creo que eso es especialmente cierto cuando se trata de hablar de tendencias tecnológicas. Así que empecemos por ahí. ¿Dónde estaba usted cuando comenzó la pandemia?

Shevin:

Yo vivía en Nueva York. Pero tenía un viaje planeado de antemano para visitar a mis padres en Connecticut. Después no volví a la ciudad. Mi oficina cerró, primero temporalmente y luego indefinidamente. Así que llevo en Connecticut desde marzo de 2020.

Appian:

¿En qué parte de Connecticut estás?

Shevin:

Estoy en una zona rural que llaman el "rincón tranquilo de Connecticut". Es muy boscosa y tranquila. Está enclavada entre Providence, Boston y Hartford. Ha sido un buen lugar para capear el temporal del COVID.

 

Necesitamos un nuevo tipo de tecnólogo

Appian:

El movimiento de la tecnología de interés público (TIP) parece estar ganando impulso. Usted habló de ello en un reciente artículo que escribió en Fast Company. Básicamente, argumentó que necesitamos más tecnólogos formados para entender las ramificaciones éticas, legales y políticas de la tecnología que crean. Háblenos de eso y también de lo que ha llamado el marco legal de interés público de las TIP.

Shevin:

El derecho de interés público es un modelo mental útil a tener en cuenta. En los años 50 y 60 había una gran necesidad de conocimientos jurídicos que también comprendieran las demandas del movimiento de derechos civiles y en esa época los financiadores empezaron a hacer grandes inversiones en fondos de defensa legal, e instituciones como la ACLU, y clínicas jurídicas universitarias, e infraestructura pro-bono para bufetes de abogados privados, por ejemplo.

Debido a que el derecho de interés público es un campo floreciente, a menudo decimos que es difícil imaginar ahora que esta importante infraestructura para la búsqueda de la justicia necesitaba ser creada intencionalmente, pero así fue. Y en esa continua búsqueda de la justicia vemos ahora un gran momento para invertir en tecnología de interés público. Y esto se trata en parte de responder al daño cada vez mayor de esta época de moverse rápido y cambiar cosas que ha caracterizado gran parte de la transformación digital hasta ahora.

Por eso, las partes interesadas en la filantropía tienen claro que necesitamos un nuevo marco para garantizar que la tecnología se desarrolle, se despliegue, se diseñe, se regule y se utilice de forma que proteja los derechos de los consumidores y mejore la vida de las personas. El objetivo de las TIP es ser ese nuevo marco. Y es un campo en crecimiento que está formado por un tipo diferente de tecnólogo que tiende a ser más interdisciplinario e interseccional.

Appian:

¿En qué sentido?

Shevin:

Puede que no sean los clásicos informáticos, programadores o desarrolladores. Podrían ser periodistas, artistas, promotores y, sí, también codificadores y programadores. Y es este tipo diferente de tecnólogo el que realmente espera y exige que las tecnologías se creen y utilicen de forma responsable. Puede que hayas oído hablar de los términos "tecnología responsable" o "tecnología ética" o "tecnología para el bien". Pues bien, la TIP encaja en todos esos marcos. Es una especie de gran carpa. Es un movimiento, es un campo y en realidad es un hogar para que los tecnólogos llamen la atención sobre los lugares en que la tecnología puede prestar mejores servicios y contribuir a resolver grandes problemas.

Appian:

Por tanto, la TIP es realmente diferente de la experiencia tradicional en informática o ciencia de datos.

Shevin:

Cada vez más vamos a ver que las ciencias de la computación y de los datos reconocen esto, pero tradicionalmente no lo han hecho. La tecnología de interés público se centra en el reconocimiento de que los grupos históricamente marginados son los más perjudicados por la tecnología. Los datos se ven afectados por la desigualdad estructural. La informática no es inmune a las dinámicas de poder. Los tecnólogos de interés público son personas que tienen los conocimientos y la experiencia necesarios para hacer una tecnología que realmente haga avanzar valores como la justicia y la equidad, además de, por ejemplo, optimizar el resultado final de la empresa, el margen de beneficios, el ahorro de costes o la eficiencia. Como se puede imaginar, el campo de las tecnologías de la información y la comunicación es muy variado. Abarca categorías laborales y es intencionadamente diverso en cuanto a la procedencia de las personas. Y por eso es un grupo que representa mejor los intereses públicos en Estados Unidos y en el extranjero.

 

Personas y tecnología, en ese orden

Appian:

Así que, cuando se habla de tecnología equitativa, se trata de asegurarse de que las tecnologías que desarrollamos no perjudiquen a la gente ni hagan que la brecha digital sea aún peor de lo que ya es. Pero más allá del impacto social y de hacer lo correcto, ¿cuál es el argumento comercial para la TIP, y por qué deberían preocuparse por ello los líderes empresariales?

Shevin:

Así pues, el sector privado es una pieza fundamental del ecosistema de las TIP, y también un lugar en el que creemos que hay un enorme potencial para profundizar en los compromisos, ampliando nuestras nociones de lo que es la responsabilidad en el sector privado. Y, por supuesto, gran parte del desarrollo tecnológico se produce a través de la industria privada, lo que convierte al sector privado en un nodo realmente clave. En pocas palabras, las empresas que centran los valores de interés público en la forma de contratar el talento, abordar la tecnología y mantener los sistemas técnicos crearán productos y servicios más fuertes. Y cuando pensamos en ello desde la perspectiva de la Fundación (Ford), cuando pensamos en qué infraestructura debe construirse y financiarse para apoyar este ecosistema, es una infraestructura que está específicamente dentro y a lo largo de todo el sector privado, el sector público, el mundo académico y la sociedad civil. Así pues, lo que realmente buscamos es promover el progreso en este espacio y en este campo.

Appian:

Entonces, si soy un líder empresarial que se preocupa por impulsar la innovación con una mentalidad de interés público, ¿cuál es el libro de estrategia para hacerlo?

Shevin:

En primer lugar, es esencial entender qué es la TIP y cómo se priorizan valores como la equidad, la transparencia y la responsabilidad en un marco empresarial, ¿verdad? Hemos visto, de forma anecdótica y a escala, lo transformador que puede ser para las empresas adoptar una mentalidad de TIP. Podemos mirar a empresas como Twitter, y verás que en el último año han estado contratando más y más tecnólogos de interés público.

También hemos visto que las empresas adoptan las TIP y generan un valor real no solo en términos de beneficios, sino también en términos de la confianza que están generando con las comunidades clave con las que trabajan. Vemos que estas empresas se comprometen con las comunidades a través de las relaciones comerciales. Para las empresas, esto es fundamental para construir un ecosistema y ganarse la confianza de los grupos de interés y de las relaciones con los clientes.

Appian:

Sin embargo, los líderes empresariales pueden mostrarse escépticos ante términos como tecnología de interés público. Puede parecer otra forma de decir que necesitamos más regulación tecnológica.

Shevin:

Es una distinción importante, porque la regulación es inevitable e importante, pero tiene la reputación de ser un martillo duro que puede inhibir la innovación. Pero como campo y conjunto de enfoques que trabajan en todos los sectores para centrar los valores de interés público, como la equidad, la transparencia y la justicia, en la forma en que diseñamos y aplicamos la tecnología, la tecnología de interés público es fundamental para impulsar el crecimiento y la sostenibilidad de su negocio. Por ello, hablamos de la TIP como una forma de anticiparse a las próximas regulaciones y normas y a los cambios importantes en el entorno en lo que respecta a los obstáculos normativos y el cumplimiento.

Michelle Shevin, directora de Programas, Ford Foundation

 

(No se pierda el próximo episodio de Tecnología de Interés Público: Cerrando la brecha del riesgo de la innovación, con Michelle Shevin, de la Ford Foundation).