La confianza en la tecnología —y en las empresas que la utilizan— se ha visto afectada en los últimos años. Las transgresiones contra la privacidad de las personas, la calcificación de los sesgos corporativos o individuales en algoritmos que cambian la vida, las amenazas constantes de que la nueva tecnología erosiona su capacidad de ganarse la vida y las pruebas beta de dispositivos o vehículos conectados defectuosos o no seguros contra una población desprevenida han fomentado un escepticismo saludable. Para recuperar la confianza digital, las empresas deben perseguir tres objetivos generales: seguridad y fiabilidad, responsabilidad y supervisión, y un uso inclusivo, responsable y ético. En la práctica, esto requiere tres pasos: 1) definir una visión de la confianza digital, 2) planificar actuar de formas más confiables y 3) contratar personas que ayuden a ganarse la confianza.
•••
El solucionismo tecnológico —la idea de que se puede confiar en los desarrolladores de tecnología para innovar o programar para salir de los problemas y lograr la prosperidad— está desapareciendo. La confianza de las personas en la tecnología y en las empresas que la desarrollan se ha visto erosionada por innumerables fracasos. Para las empresas, ya no es aceptable utilizar la tecnología sin tomar medidas que garanticen que es confiable.
La gente común —y, cada vez más, los legisladores y reguladores— se ha mostrado razonablemente escéptica ante las recientes transgresiones contra la privacidad de las personas, la calcificación de los sesgos corporativos o individuales en algoritmos que cambian la vida, las constantes amenazas de que la nueva tecnología erosiona su capacidad de ganarse la vida y las pruebas beta de dispositivos o vehículos conectados defectuosos o no seguros en una población desprevenida. De cara al futuro próximo, con la implementación de la IA generativa y los mundos virtuales más rápido de lo que podemos rastrear, el problema de la confianza no hace más que empeorar.
Más tecnología no va a resolver este problema. Los clientes analizan las decisiones que toman los líderes de la empresa y evalúan si esas elecciones se ajustan a los valores individuales de los consumidores y los ciudadanos, y si anteponen a las personas. Y dado que todas las empresas utilizan algún tipo de tecnología digital en sus operaciones y relaciones con los clientes y socios, todas las empresas tienen que preocuparse por la confianza digital. «Los programas de confianza digital son una necesidad y, cuando se hacen bien, pueden ser tanto un elemento diferenciador como un facilitador para una empresa. A medida que aumentan las exigencias para que las empresas demuestren que son confiables, las organizaciones deberían esforzarse por crear una estrategia de confianza digital que cumpla o supere las expectativas de sus clientes, no solo lo que exige la ley», según Vikram Rao, director de confianza de Salesforce y miembro del comité directivo de confianza digital del Foro Económico Mundial.
Algunas empresas pueden analizar el problema y esperar poder comprar o alquilar para solucionarlo. En algunos casos, un nuevo puesto, como el de director de confianza o director de confianza digital, puede ayudar. Pero antes de que los directores ejecutivos y los consejos de administración se apresuren a crear un puesto de alta dirección como panacea, tienen que analizar detenidamente cómo es exactamente una tecnología confiable en el siglo XXI, cómo las empresas se ganan la confianza digital y qué cambios e inversiones necesitan realizar para lograrlo.
¿Qué hace que la tecnología sea confiable?
Ninguna tecnología es intrínsecamente confiable o poco confiable. Después de todo, las tecnologías no tienen agencia en sí mismas; en cambio, como personaje de la película afrofuturista_Neptuno Frost_ dice: «La tecnología es solo un reflejo de nosotros». La confianza en la tecnología es un reflejo de las decisiones que toman las personas cuando desarrollan la tecnología, la utilizan y la implementan. Si bien hay muchas maneras de pensar en la confianza, cuando el Foro Económico Mundial reunió a líderes empresariales, gubernamentales y de la sociedad civil en el campo de la tecnología confiable, el grupo reunidollegó a este consenso: «La confianza digital es la expectativa de las personas de que las tecnologías y los servicios digitales (y las organizaciones que los proporcionan) protejan los intereses de todas las partes interesadas y defiendan las expectativas y los valores de la sociedad».
En esta obra, el ForoComunidad de confianza digital se dio cuenta de que la pregunta más importante con respecto a la tecnología no es «¿cómo se consigue que la gente confíe en la tecnología?» Más bien se trata de «¿qué tenemos que hacer —como desarrolladores, propietarios y usuarios de tecnología— para respetar los valores y expectativas de las personas?» Con la mentalidad y los objetivos correctos, es posible desarrollar una estrategia eficaz y confiable para el uso de la tecnología digital. En esencia, una estrategia tecnológica tan confiable proviene de la consideración por las personas sometidas a las nuevas tecnologías (independientemente de la tecnología en cuestión).
Teniendo en cuenta los derechos y expectativas individuales, una estrategia de tecnología digital fiable debe identificar los objetivos correctos. La comunidad de confianza digital del Foro Económico Mundial ofreció tres conjuntos generales de objetivos:
- Seguridad y fiabilidad
- Responsabilidad y supervisión, y
- Uso inclusivo, ético y responsable
Como dijo en su momento Julie Brill, directora de privacidad de Microsoft y miembro del Comité Directivo de Confianza Digital del Foro, «los objetivos de cualquier desarrollador de IA u otras tecnologías deben reflejar los objetivos de las organizaciones y personas que utilizan o utilizan esa tecnología. Los objetivos compartidos de inclusión y uso responsable, una sólida protección de la privacidad y la seguridad y una supervisión eficaz son los elementos fundamentales para construir una relación de confianza entre los desarrolladores, sus clientes y las personas que utilizan la tecnología». Los usuarios y los consumidores pueden confiar mejor en las tecnologías que los protegen, que incluyen sus necesidades y se ajustan a sus valores, y que incluyen prácticas de buen gobierno para remediar cualquier daño inadvertido.
¿Cómo se invierte en la confianza digital?
Ganarse la confianza digital no es sencillo y no se puede automatizar. Más bien, requiere una serie de decisiones, inversiones y cambios organizativos que reflejen la totalidad del posible impacto de una tecnología en las personas. Estos cambios, que abarcan toda la empresa, solo los pueden organizar los líderes de la empresa. Como dijo Keith Enright, director de privacidad de Google y miembro del comité directivo de Digital Trust, «las decisiones que toman las empresas ahora en relación con la preparación determinan dónde estarán en el futuro en términos de confianza».
Prepararse para empezar a recuperar la confianza requiere que los directores ejecutivos y los consejos de administración hagan al menos tres cosas:
- Definir una visión de la confianza digital
- Planifique actuar de formas más confiables
- Reclute personas que le ayuden a ganarse la confianza
La primera inversión que deben hacer los líderes es dedicar tiempo y energía a entender realmente el impacto de las tecnologías que crean o despliegan. Desarrollar una visión realista y completa de la forma en que una organización utiliza la tecnología al servicio de sus objetivos y los de las personas que confían en ella determina la forma en que la organización invertirá en la confianza digital.
Los líderes deben abordar las decisiones relacionadas con la tecnología con un sentido claro decómo esas tecnologías reflejan e impactan en los valores fundamentales de la organización y los valores de la sociedad en la que opera la empresa. Su visión para crear o adoptar nuevas tecnologías debe tener en cuenta tanto los beneficios para la empresa y la sociedad como una evaluación clara y responsable de los posibles daños que las nuevas tecnologías podrían imponer a los posibles clientes u otras partes interesadas.
Por ejemplo, una empresa que adopte la IA generativa debe evaluar cómo la tecnología podría aumentar la eficiencia (un beneficio para la empresa), encontrar nuevas soluciones para los desafíos apremiantes (un beneficio para la sociedad) y, al mismo tiempo, desarrollar un plan para prevenirdaños esperados, por ejemplo, a los procesos democráticos, desde las «alucinaciones» o la desinformación de la IA y hasta los trabajadores desplazados por estas tecnologías avanzadas. Solo una visión que tenga en cuenta de manera responsable tanto las ventajas como los riesgos de la nueva tecnología puede considerarse realmente confiable.
Tras decidir una visión que incluya objetivos de confianza, las organizaciones necesitan un plan para actuar en pro de la confianza digital. Este plan exige que los líderes inviertan en las estructuras y equipos internos que mejor respalden la confianza digital. Para todas las aplicaciones de la tecnología digital, el Forotrabajar identificó ocho dimensiones en las que la acción positiva puede ayudar a alcanzar los objetivos de una organización: tanto los objetivos de confianza como los objetivos financieros o estratégicos generales. Esas dimensiones son la ciberseguridad, la seguridad, la transparencia, la interoperabilidad, la auditabilidad, la rectificación, la equidad y la privacidad. (Al igual que con los objetivos de confianza digital, estas dimensiones se definen y exploran en el informe informativo del foro,Ganarse la confianza digital: toma de decisiones para tecnologías confiables.)
En la mayoría de las organizaciones, es probable que estas áreas recaigan en diferentes departamentos y líderes, lo que significa que optimizarlas requiere un enfoque interdisciplinario (y posiblemente algún cambio estructural) para respaldar la toma de decisiones cuidadosa necesaria para ganarse la confianza de los usuarios y otras partes interesadas. Sin embargo, la realidad de un sector o empresa determinados puede hacer que no sea posible maximizar todas las dimensiones descritas. Por ejemplo, puede que las empresas que trabajan en sectores muy sensibles (por ejemplo, la seguridad nacional) no puedan aumentar la transparencia, por lo que su responsabilidad y seguridad tendrían que complementarse. Del mismo modo, algunas dimensiones de la confiabilidad (quizás la más notable sea la privacidad) varían según las jurisdicciones y las geografías. Las expectativas y los valores de las personas son la prueba decisiva de lo que hace que la tecnología sea confiable. La confianza, en sí misma, puede ser muy específica de una región y un sector.
La tercera gran inversión inicial es en las personas que pueden ayudar a la empresa a ganarse la confianza digital. Hacer que la tecnología sea confiable es un esfuerzo multifacético que se lleva a cabo a escala organizacional (o social), lo que significa que la responsabilidad final de la confiabilidad recae en el CEO. Sin embargo, este deber general de tomar decisiones tecnológicas confiables no significa que la empresa no deba invertir en la contratación de expertos (quizás incluso en la alta dirección), que puedan ayudar a establecer la estrategia y las estructuras adecuadas para respaldar la confianza digital.
Este líder, posiblemente un director de confianza, pero igual de probable que sea el director de privacidad, el consejero general, el CISO u otro ejecutivo, debe ser tanto un experto en la gestión de las partes interesadas como un asesor de confianza para el CEO y el consejo de administración. La gestión de las partes interesadas entra en juego cuando las empresas ya tienen funciones de ciberseguridad, privacidad, cumplimiento e incluso ética. Los clientes potenciales de cada una de esas funciones tienen un interés en la confiabilidad general de la estrategia digital de una empresa, tanto en desarrollarla como en beneficiarse de ella. Para ser un consejero en materia de confianza digital, esta persona también debe ser capaz de pensar de forma sistémica, haciendo de puente entre estas disciplinas para ayudar a los líderes a tomar la mejor decisión sobre cómo, dónde y con qué fines deben aplicarse las nuevas tecnologías.
Para ser más eficaz, un oficial responsable de la confianza digital no puede ser un experto en todas las tecnologías y todas las facetas de la confianza, sino que tiene que ser capaz de entender la estrategia de la empresa y los valores de las personas, los trabajadores y los clientes afectados. Apoyan el desarrollo de una visión confiable al transmitir a los directores ejecutivos y las juntas directivas una imagen global del panorama tecnológico y al ayudar a crear una estrategia que respalde la confianza en lugar de erosionarla. También ayudan a supervisar las innumerables e interdependientes acciones que, tomadas en conjunto, se ganan la confianza de los usuarios, los socios y otras partes interesadas.
Los directores ejecutivos deben entender que la confianza en la tecnología que subyace y posibilita prácticamente todas las empresas no se puede comprar, pero si se invierte en el tiempo que se necesita para tomar las decisiones correctas, establecer una visión confiable y contratar seguidores efectivos, se la puede ganar.