Las ventajas de la transformación digital son potencialmente ilimitadas, con formas casi infinitas de mantenernos conectados con la tecnología que optimiza la eficiencia, el ahorro de costes y la ventaja competitiva.
Sin embargo, la cuestión es cómo mitigar los posibles riesgos éticos y las consecuencias imprevistas de la generalización de la tecnología emergente cuando casi dos tercios (65 %) de los altos ejecutivos no pueden explicar cómo se toman las decisiones o predicciones específicas de los modelos de inteligencia artificial (IA), y el 73 % tiene dificultades para conseguir el apoyo de los ejecutivos para dar prioridad a la ética de la IA, según un reciente estudio de la empresa de análisis global FICO.
Lo cual es un buen punto de partida para el oportuno tema del Día Mundial de la Usabilidad de este año: El diseño de nuestro mundo en línea: Confianza, ética e integridad. Este evento mundial comienza el 11 de noviembre de 2021, con las comunidades de la tecnología, la industria, el gobierno y más para explorar formas de hacer la tecnología más accesible y más fácil de usar.
La crisis de la COVID-19 aceleró el ritmo ya vertiginoso de la transformación digital que ya toca prácticamente todos los aspectos de nuestras vidas. Así que el reto ahora es:
- ¿Cómo crear confianza en lo que la empresa de análisis Gartner llama la era de la hiperautomatización?
- ¿Cuáles son las implicaciones éticas de cómo diseñamos la tecnología?
- ¿Cómo diseñamos la accesibilidad y la inclusión para garantizar que todo el mundo pueda utilizar nuestra tecnología?
Aquí es donde entra en juego la Tecnología de Interés Público (TIP). Para sacar el máximo partido de la tecnología, no estamos hablando de que "primero se construye la red y luego ya vendrán". Es mejor —sostienen las principales voces de un movimiento creciente de tecnólogos de interés público— adoptar un enfoque de la innovación centrado en el ser humano con estrategias que inviertan en investigación, educación y formas de desplegar la tecnología que protejan y beneficien a la sociedad. Lo que nos lleva a algo que importa mucho hoy en día: mitigar los casos de uso mal diseñados que socavan la confianza del consumidor y amplían las peticiones de regulación de la tecnología.
"Las empresas que están incorporando explícitamente el marco de la tecnología de interés público están empezando a ver cómo se genera un valor real, tanto en términos de sus beneficios como en términos de la confianza que están generando con las comunidades clave con las que están trabajando, dando la cara y comprometiéndose a través de las relaciones comerciales", explica Michelle Shevin, una voz destacada en el movimiento de la tecnología de interés público (PIT) y directora de programas sénior del PIT Catalyst Fund en la Ford Foundation.
"Así que pensamos que la tecnología de interés público es fundamental para un ecosistema a largo plazo de generación de confianza y rendición de cuentas en diferentes circunscripciones y relaciones con los clientes", apunta Shevin. "Creemos que es fundamental para el crecimiento de las empresas".
"Por ejemplo, como líder empresarial, uno no quiere dar 20 pasos en el camino de diseñar y desplegar una tecnología de reconocimiento facial que pronto podría ser regulada hasta desaparecer porque nadie pensó en diseñar disposiciones de seguridad, porque nadie consultó con las comunidades que podrían sufrir el mayor impacto por parte de la tecnología".
Si este sentimiento le hace fruncir el ceño, no lo haga. Un estudio global de McKinsey muestra que podemos mejorar la usabilidad innovando en torno a las tres dimensiones que la gente dice que son más importantes:
- Mejorar la confianza en los servicios digitales aumentando la privacidad y la seguridad. En torno al 44 % de los consumidores encuestados no confía plenamente en los servicios digitales.
- Mejorar la experiencia del usuario en los canales digitales perfeccionando las interfaces de usuario (UX/UI). Alrededor del 56 % de los usuarios insatisfechos transmitieron su malestar con la UX/UI digital o la falta de información sobre los productos y servicios.
- Mejorar la experiencia del consumidor haciendo que todos los productos y servicios estén disponibles digitalmente. El 43 % de los consumidores dicen que prefieren lo digital por comodidad y disponibilidad.
En otras palabras, la gente está en conflicto con la aceleración de la transformación digital, y lo que todo esto significa para el mundo post-COVID. Pero aquí está la buena noticia. Adoptar un enfoque centrado en el ser humano para la innovación digital puede cambiar la forma en que la gente ve la tecnología, si se hace con intención. Lo que nos lleva a la líder de pensamiento de las TIP, Michelle Shevin, que analiza el movimiento de las TIP y cómo da prioridad a la confianza pública, acelera la adopción de la tecnología, impulsa la equidad tecnológica y se anticipa a la regulación en la era de la hiperautomatización. Las preguntas han sido editadas para mayor claridad y brevedad.
Necesitamos un nuevo tipo de tecnólogo
Appian:
El movimiento de la tecnología de interés público (TIP) parece estar ganando impulso. Usted habló de ello en un reciente artículo que escribió en Fast Company. Básicamente, argumentó que necesitamos más tecnólogos formados para entender las ramificaciones éticas, legales y políticas de la tecnología que crean. Háblenos de eso y también de lo que ha llamado el marco legal de interés público de las TIP.
Shevin:
El derecho de interés público es un modelo mental útil a tener en cuenta. En los años 50 y 60 había una gran necesidad de conocimientos jurídicos que también comprendieran las demandas del movimiento de derechos civiles y en esa época los financiadores empezaron a hacer grandes inversiones en fondos de defensa legal, e instituciones como la ACLU, y clínicas jurídicas universitarias, e infraestructura pro-bono para bufetes de abogados privados, por ejemplo.
Debido a que el derecho de interés público es un campo floreciente, a menudo decimos que es difícil imaginar ahora que esta importante infraestructura para la búsqueda de la justicia necesitaba ser creada intencionalmente, pero así fue. Y en esa continua búsqueda de la justicia vemos ahora un gran momento para invertir en tecnología de interés público. Y esto se trata en parte de responder al daño cada vez mayor de esta época de moverse rápido y cambiar cosas que ha caracterizado gran parte de la transformación digital hasta ahora.
Por eso, las partes interesadas en la filantropía tienen claro que necesitamos un nuevo marco para garantizar que la tecnología se desarrolle, se despliegue, se diseñe, se regule y se utilice de forma que proteja los derechos de los consumidores y mejore la vida de las personas. El objetivo de las TIP es ser ese nuevo marco. Y es un campo en crecimiento que está formado por un tipo diferente de tecnólogo que tiende a ser más interdisciplinario e interseccional.
Appian:
¿En qué sentido?
Shevin:
Puede que no sean los clásicos informáticos, programadores o desarrolladores. Podrían ser periodistas, artistas, promotores y, sí, también codificadores y programadores. Y es este tipo diferente de tecnólogo el que realmente espera y exige que las tecnologías se creen y utilicen de forma responsable. Puede que hayas oído hablar de los términos "tecnología responsable" o "tecnología ética" o "tecnología para el bien". Pues bien, la TIP encaja en todos esos marcos. Es una especie de gran carpa. Es un movimiento, es un campo y en realidad es un hogar para que los tecnólogos llamen la atención sobre los lugares en que la tecnología puede prestar mejores servicios y contribuir a resolver grandes problemas.
Appian:
Por tanto, la TIP es realmente diferente de la experiencia tradicional en informática o ciencia de datos.
Shevin:
Cada vez más vamos a ver que las ciencias de la computación y de los datos reconocen esto, pero tradicionalmente no lo han hecho. La tecnología de interés público se centra en el reconocimiento de que los grupos históricamente marginados son los más perjudicados por la tecnología. Los datos se ven afectados por la desigualdad estructural. La informática no es inmune a las dinámicas de poder. Los tecnólogos de interés público son personas que tienen los conocimientos y la experiencia necesarios para hacer una tecnología que realmente haga avanzar valores como la justicia y la equidad, además de, por ejemplo, optimizar el resultado final de la empresa, el margen de beneficios, el ahorro de costes o la eficiencia. Como se puede imaginar, el campo de las tecnologías de la información y la comunicación es muy variado. Abarca categorías laborales y es intencionadamente diverso en cuanto a la procedencia de las personas. Y por eso es un grupo que representa mejor los intereses públicos en Estados Unidos y en el extranjero.
Personas y tecnología - en ese orden
Appian:
Así que, cuando se habla de tecnología equitativa, se trata de asegurarse de que las tecnologías que desarrollamos no perjudiquen a la gente ni hagan que la brecha digital sea aún peor de lo que ya es. Pero más allá del impacto social y de hacer lo correcto, ¿cuál es el argumento comercial para la TIP, y por qué deberían preocuparse por ello los líderes empresariales?
Shevin:
Así pues, el sector privado es una pieza fundamental del ecosistema de las TIP, y también un lugar en el que creemos que hay un enorme potencial para profundizar en los compromisos, ampliando nuestras nociones de lo que es la responsabilidad en el sector privado. Y, por supuesto, gran parte del desarrollo tecnológico se produce a través del sector privado, lo que lo convierte en un nodo realmente crucial. En pocas palabras, las empresas que centran los valores de interés público en la forma de contratar el talento, abordar la tecnología y mantener los sistemas técnicos crearán productos y servicios más sólidos.
Appian:
Entonces, si soy un líder empresarial que se preocupa por mejorar la usabilidad e impulsar la innovación con una mentalidad de interés público, ¿cuál es el libro de estrategia para hacerlo?
Shevin:
En primer lugar, es esencial entender qué es la TIP y cómo se priorizan valores como la equidad, la transparencia y la responsabilidad en un marco empresarial, ¿verdad? Hemos visto, de forma anecdótica y a escala, lo transformador que puede ser para las empresas adoptar una mentalidad de TIP. Podemos mirar a empresas como Twitter, y verás que en el último año han estado contratando más y más tecnólogos de interés público.
También hemos visto que las empresas adoptan las TIP y generan un valor real no solo en términos de beneficios, sino también en términos de la confianza que están generando con las comunidades clave con las que trabajan. Vemos que estas empresas se comprometen con las comunidades a través de las relaciones comerciales. Para las empresas, esto es fundamental para construir un ecosistema y ganarse la confianza de los grupos de interés y de las relaciones con los clientes.
Appian:
Sin embargo, los líderes empresariales pueden mostrarse escépticos ante términos como tecnología de interés público. Puede parecer otra forma de decir que necesitamos más regulación tecnológica.
Shevin:
Se trata de una distinción importante, porque la regulación es inevitable e importante, pero tiene fama de ser un martillo duro que puede inhibir la innovación. Sin embargo, como campo y conjunto de enfoques que trabajan en todos los sectores para centrar los valores de interés público, como la equidad, la transparencia y la justicia, en la forma en que diseñamos y aplicamos la tecnología, la tecnología de interés público es fundamental para impulsar el crecimiento y la sostenibilidad de su negocio.
Así que hablamos de la TIP como una forma de anticiparse a futuros reglamentos y normas y a los cambios importantes en el entorno en relación con los obstáculos reglamentarios y el cumplimiento.
A veces está bien frenar la innovación
Appian:
Ha dicho que una de las funciones de los tecnólogos de interés público es ayudarnos a crear y desplegar una tecnología más centrada en el ser humano. ¿Qué quiere decir con eso?
Shevin:
Sí, cuando todo el mundo está entusiasmado con la próxima gran innovación, la TIP a veces nos anima a echar el freno y examinar más de cerca cómo las tendencias tecnológicas pueden perjudicar, y de hecho lo hacen, a las comunidades marginadas, y cómo podemos evitar que eso ocurra.
Leí una encuesta reciente de FICO que revelaba que muchos ejecutivos están mal equipados para garantizar las implicaciones éticas del uso de los sistemas de IA. Por ejemplo, cuando se les preguntó por las normas y los procesos que rigen el uso de la IA, solo el 38 % dijo que sus empresas contaban con medidas de detección y mitigación de sesgos de datos. Y solo el 6 % dijo que intentaba asegurarse de que sus equipos de desarrollo fueran diversos.
Por tanto, esa es una instantánea realmente decepcionante de dónde estamos en lo que a gobernanza de TI se refiere y, por supuesto, de la gobernanza de la hiperautomatización. Hemos visto una y otra vez, cómo el sesgo algorítmico ya ha causado daños en el mundo real para las comunidades marginadas, ¿verdad? Hemos visto falsos arrestos, el aumento de la vigilancia, el aumento de la marginación de las personas que no tienen acceso a los sistemas que pueden requerir que sean legibles por la máquina o visibles para los sistemas de IA. Así que ahí es donde entra en juego la tecnología de interés público.
Appian:
Desde un punto de vista pragmático, ¿cuál es su consejo para las empresas que quieren priorizar la confianza, la diversidad, la equidad y la inclusión como parte de su estrategia de transformación digital?
Shevin:
Mi consejo pragmático es que tengan en cuenta las consecuencias de la tecnología que están creando y hagan todo lo posible para crear y utilizar la tecnología de forma que no perjudique a las comunidades marginadas. Que consideren la posibilidad de adoptar e incorporar marcos que ayuden a centrar los valores de la confianza y la responsabilidad de la misma forma que priorizamos el ahorro de costes, la eficiencia, el beneficio y la velocidad.
PD: (Este blog se publicó originalmente en Appian.com aquí.)
