Tecnología de interés público: Cerrando la brecha del riesgo de la innovación, parte 2

Roland Alston, Product Marketing Manager
August 19, 2021

Mire a su alrededor y verá las ventajas de la hiperautomatización en todas partes, ya que hacer crecer los procesos empresariales más rápido que un algoritmo de velocidad, elimina la fricción de la interacción con los clientes e impulsa la transformación empresarial a gran escala.

A largo plazo, esta tendencia probablemente creará una nueva generación de puestos de trabajo. Pero a corto plazo, también podría aumentar la ansiedad entre los trabajadores que temen perder su empleo en medio del auge de la hiperautomatización posterior a la COVID-19. Para poner esta ansiedad en perspectiva:

  • Los estudios muestran que el 43 % de las empresas tiene previsto reducir su plantilla mediante la integración de la tecnología. Sin embargo, el 34 % tiene previsto ampliar los puestos de trabajo por el mismo motivo, según el Foro Económico Mundial
  • Para 2022, el 65 % de las empresas que han desplegado la automatización de procesos robóticos introducirán algoritmos de inteligencia artificial, aprendizaje automático y procesamiento del lenguaje natural, según Gartner.

Entonces, ¿cómo pueden las empresas mitigar el miedo a la automatización? Y si pueden hacerlo, ¿cómo pueden los líderes empresariales garantizar que el beneficio neto de la hiperautomatización a lo largo del tiempo compense las molestias a corto plazo? Estas cuestiones nos llevan al último episodio de esta conversación en dos partes con Michelle Shevin, directora del Programa de Tecnología y Sociedad de la Ford Foundation (@michebox).

Volverse complaciente con la asombrosa evolución de la hiperautomatización podría ser como quedarse dormido al volante de un coche autoconducido, dice Shevin. Es mejor automatizar sin perder el toque humano. Mejor integrar a las personas y las máquinas para que se complementen. Y es mejor adoptar la Tecnología de Interés Público (TIP) para mitigar el desorden de los algoritmos que salen mal, protegerla contra el exceso de regulación en el futuro, e impulsar la equidad digital y la inclusión en la era de la hiperautomatización. Bueno, basta de hablar. Pasemos a ver esta oportuna conversación con la líder de pensamiento de la TIP, Michelle Shevin.

Appian:

Usted ha hablado de la TIP como una mentalidad que puede ayudar a los líderes empresariales a anticiparse a los futuros problemas de cumplimiento normativo y regulación relacionados con el lado humano de la tecnología, cosas como la equidad digital, la inclusión y la transparencia. ¿Podría explicarlo con más detalle?

Shevin:

En el fondo, la tecnología de interés público es una forma de protegerse de las consecuencias imprevistas de la tecnología que sale mal, o de las consecuencias sociales en las que nadie pensó en primer lugar. Por lo tanto, creemos que la TIP realmente crea un negocio más fuerte. Y no es solo para sus equipos de desarrollo de productos. Es para sus talleres de política y sus equipos legales. Y se convierte en una especie de tejido conectivo en toda la empresa...

"...Puesto que la TIP no consiste solo en cómo diseñamos la tecnología hoy y cómo adaptamos la tecnología que diseñamos ayer. También se trata de mirar al futuro y prepararse para adaptarse a los retos que se avecinan y anticiparse a ellos".

En relación con la TIP y la crisis de la COVID-19

Appian:

Hablando de desafíos, todavía estamos lidiando con las réplicas de la crisis de la COVID-19. Es decir, aún no estamos totalmente fuera de peligro. Como saben, la COVID causó una enorme disrupción en las empresas. Y todo este cambio, incluida la aceleración del trabajo a distancia, significa que las empresas tienen que ser más ágiles. Así que, al pensar en el impacto de la COVID, ¿cómo afectó la pandemia a la percepción de las empresas sobre la TIP?

Shevin:

La respuesta resumida es que la COVID-19 demostró que el negocio de las TIP es viable. Realmente aceleró y amplió los esfuerzos para impulsar este espacio. La respuesta más larga es que la reacción de las empresas a la COVID-19 demuestra por qué todavía tenemos que aumentar la infraestructura en este espacio. Sin embargo, en las áreas en las que vemos el impulso de la TIP, ya está aportando valor.

Appian:

¿Puede dar algunos ejemplos de ello?

Shevin:

En el sector público, hemos visto por qué la TIP es relevante para el despliegue de la vacuna. Al principio del despliegue, las ciudades y los estados de los Estados Unidos carecían de la infraestructura digital necesaria para registrar las citas de vacunación de forma rápida, fácil y eficiente, ¿verdad? Se trataba de una cuestión de equidad y no solo de acceso.

Creo que la ausencia de una fuerte respuesta intersectorial que pudiera aprovechar el poder de la tecnología y limitar sus daños terminó por obstaculizar nuestra respuesta a la COVID-19. Por otro lado, vimos que los tecnólogos de interés público tuvieron un impacto en torno a la pandemia a través de un esfuerzo voluntario que envió equipos de tecnólogos altamente cualificados para apoyar a los funcionarios de los gobiernos estatales y locales, mientras respondían a la amenaza del coronavirus.

Los ayuntamientos han podido intensificar su juego digital en respuesta al aumento masivo del tráfico en sus sitios web. Y las ciudades han sido capaces de poner en línea programas para, por ejemplo, ayudar a las personas confinadas en casa a obtener comidas.

"Así que ha sido increíble ver cómo fue posible organizar una TIP muy rápidamente y tener un impacto increíble en términos de aumentar el acceso público a cosas como los beneficios críticos de desempleo y otras redes de seguridad, y ayudar a los estados y localidades a averiguar el mejor enfoque para el despliegue de vacunas".

Appian:

Pero esas no son soluciones a largo plazo, ¿verdad? Básicamente son todos voluntarios.

Shevin:

Los voluntarios acuden en masa para cubrir las carencias más importantes. Pero es un gran ejemplo de cómo poner en primer plano este marco TIP y pensar en el diseño de la tecnología con la equidad y la responsabilidad en primer plano puede marcar la diferencia de verdad.

La formación de los futuros tecnólogos

Appian:

Cambiemos de tema y hablemos de un artículo que publicó recientemente en la revista Fast Company, en el que informaba sobre algo llamado red universitaria TIP (PIT-UN). En qué consiste y cómo se relaciona con el trabajo de TIP que usted dirige en la Ford Foundation?

Shevin:

Se trata de una infraestructura específica que nosotros (Ford Foundation) hemos ayudado a crear junto con varios de nuestros financiadores homólogos. La red universitaria TIP está dirigida por New America, y es una asociación entre colegios y universidades que están comprometidos específicamente con la formación de la próxima generación de tecnólogos de interés público. Por lo tanto, están estudiando sus carreras de ciencias de la computación y de datos y asegurándose de que están expuestos a la ética, el derecho y la política a lo largo de su viaje como tecnólogos en formación.

Appian:

Así, estas escuelas están educando a una nueva cohorte de tecnólogos de interés público con formación interdisciplinar.

Shevin:

Sí, ahora hay 43 instituciones de educación superior diferentes en la red PIT-UN. Abarcan desde escuelas estatales e institutos politécnicos a universidades comunitarias y la Ivy league y más allá, que es lo que me gusta de verdad de la red universitaria. 

La red incluye una serie de universidades que tradicionalmente envían muchos graduados al sector de la tecnología, como Stanford y Harvard, pero hay un esfuerzo explícito por incluir universidades como el Miami Dade College y la Universidad de Howard y otras escuelas que tienen grandes poblaciones de estudiantes de comunidades históricamente marginadas.

Appian:

Entonces, ¿se trata solo de intentar hacer lo correcto? ¿Qué importancia tiene incluir a estudiantes de comunidades marginadas en el movimiento TIP?

Shevin:

Es importante porque sabemos que la inclusión de las experiencias de diversos estudiantes hará que el campo de las TIP y la propia red universitaria sean mucho más fuertes. Estos son los estudiantes que se convertirán en líderes en este campo. Así que es muy emocionante verlo. 

"Además, el conocimiento interdisciplinar que se está generando a través de la Red Universitaria PIT permite a los estudiantes de las instituciones de la red comprender mejor los retos que la tecnología puede empeorar o ayudarnos a resolver".


Appian:

¿Cómo están respondiendo los líderes empresariales a la tendencia de las TIP? Y ¿qué impacto cree que tendrá el movimiento en el futuro de la transformación digital?

Shevin:

Creo que las grandes empresas tecnológicas y otras empresas seguirán contratando a un número cada vez mayor de tecnólogos de interés público con experiencia en cuestiones como los derechos civiles y la privacidad, la seguridad y la gobernanza. Y cuando estas empresas diseñen productos y servicios, tendremos más aspectos positivos y menos negativos, lo que dará lugar a una tecnología y unas empresas mucho más fuertes en general.

Una buena manera de abordar la automatización: No causar daño

Appian:

Por último, hablemos de las TIP y del futuro de la automatización empresarial. La hiperautomatización está impulsando gran parte del debate sobre la automatización empresarial. ¿Qué papel cree que desempeñan las TIP en la evolución de la hiperautomatización?

Shevin:

La hiperautomatización tiene mucho que ver con el uso de la IA y otras herramientas para automatizar y escalar los procesos empresariales. Así, los tecnólogos de interés público se centran en ayudar a las empresas a utilizar la IA y la automatización de forma responsable. Por eso, cada vez hay más ruido sobre cosas como el reconocimiento de emociones, o la tecnología diseñada para predecir cosas complejas sobre la vida o el comportamiento de las personas. También estamos viendo la automatización del proceso de contratación con el uso de la IA para analizar las entrevistas en vídeo.

Appian:

¿Qué opina de estas tendencias desde la perspectiva de los tecnólogos de interés público?

Shevin:

Muchos de estos casos de uso están todavía en el ámbito de la ciencia ficción y por una buena razón. No son científicamente sólidos, pero se aplican de todos modos, ¿no? Así que los tecnólogos de interés público son muy buenos a la hora de cortar el bombo de la mercadotecnia para ayudarnos a concentrarnos en lo que la tecnología es realmente capaz de hacer, y cuáles serán los posibles impactos cuando se aplique de forma inapropiada, o cuando prometa hacer algo que realmente no puede hacer de forma equitativa y luego se aplique, y por supuesto, la gente salga perjudicada.

A veces está bien frenar la innovación

Appian:

Sigamos con el lado humano de la automatización por un momento. Ha dicho que una de las funciones de los tecnólogos de interés público es ayudarnos a crear y desplegar una tecnología más centrada en el ser humano. ¿Qué quiere decir con eso?

Shevin:

Sí, cuando todo el mundo está entusiasmado con la próxima gran innovación, la TIP a veces nos anima a echar el freno y examinar más de cerca cómo las tendencias tecnológicas pueden perjudicar, y de hecho lo hacen, a las comunidades marginadas, y cómo podemos evitar que eso ocurra.

Leí una encuesta reciente de FICO que revelaba que muchos ejecutivos están mal equipados para garantizar las implicaciones éticas del uso de los sistemas de IA. Por ejemplo, cuando se les preguntó por las normas y los procesos que rigen el uso de la IA, solo el 38 % dijo que sus empresas contaban con medidas de detección y mitigación de sesgos de datos. Y solo el 6 % dijo que intentaba asegurarse de que sus equipos de desarrollo fueran diversos.

Por tanto, esa es una instantánea realmente decepcionante de dónde estamos en lo que a gobernanza de TI se refiere y, por supuesto, de la gobernanza de la hiperautomatización. Hemos visto una y otra vez, cómo el sesgo algorítmico ya ha causado daños en el mundo real para las comunidades marginadas, ¿verdad? Hemos visto falsos arrestos, el aumento de la vigilancia, el aumento de la marginación de las personas que no tienen acceso a los sistemas que pueden requerir que sean legibles por la máquina o visibles para los sistemas de IA. Así que ahí es donde entra en juego la tecnología de interés público.

Las empresas, en una encrucijada

Appian:

Cuando mira al horizonte, ¿qué papel cree que desempeñará la TIP en el futuro de las empresas?

Shevin:

Estratégicamente hablando, el sector privado se encuentra en una encrucijada. Tenemos la propagación de la desinformación, los problemas de privacidad, las filtraciones, los hackeos. Tenemos el sesgo de la inteligencia artificial. Hemos visto cómo la confianza del público se ve afectada por todos estos problemas. Y esto es especialmente relevante para la industria tecnológica. Las críticas y las peticiones de regulación siguen ganando fuerza. Pero los funcionarios públicos tienden a estar mal equipados para manejar las consecuencias que vemos a nuestro alrededor.

"Así pues, es un gran momento para que el sector privado dé un paso adelante y asuma el liderazgo en este sentido. Y en parte se debe a que, aunque las empresas tecnológicas cuentan con los mejores talentos tecnológicos, a menudo carecen de la voluntad o los conocimientos necesarios para anticiparse a los inconvenientes de la tecnología y evitarlos a la hora de crear productos y servicios".

En lugar de ello, han estado jugando a ponerse al día para hacer arreglos cuando el daño ya está hecho. Hace poco leí una entrevista a Satya Nadella, de Microsoft, en la que señalaba que los líderes deben preocuparse primero por los efectos secundarios no deseados de la tecnología. Y así, las empresas se arriesgan a una mala reputación y a una mala regulación cuando no consiguen anticiparse a los aspectos negativos de su tecnología. 

Appian:

Así que, en términos prácticos, ¿cuál es la solución? ¿Cuál es el libro de tácticas para hacerlo?

Shevin:

Mi consejo pragmático a los líderes empresariales es que contraten a tecnólogos de interés público. Que tengan en cuenta las consecuencias de la tecnología que están creando y hagan todo lo posible para crear y utilizar la tecnología de forma que no perjudique a las comunidades marginadas. Que consideren la posibilidad de adoptar e incorporar marcos que ayuden a centrar los valores de la confianza y la responsabilidad de la misma forma que priorizamos el ahorro de costes, la eficiencia, el beneficio y la velocidad.

PD: (Para saber más sobre la tecnología de interés público, lea la primera parte de este post en dos partes aquí.)

 

Michelle Shevin, directora de Programas, Ford Foundation