As empresas precisam provar que podem confiar na tecnologia

As empresas precisam provar que podem confiar na tecnologia

A confiança na tecnologia — e nas empresas que a usam — foi afetada nos últimos anos. As transgressões contra a privacidade dos indivíduos, a calcificação de preconceitos corporativos ou individuais em algoritmos que alteram vidas, as ameaças constantes de que novas tecnologias corroem sua capacidade de ganhar a vida e o teste beta de dispositivos ou veículos conectados inseguros ou defeituosos em uma população desavisada estimularam um ceticismo saudável. Para reconstruir a confiança digital, as empresas precisam perseguir três grandes objetivos: segurança e confiabilidade, responsabilidade e supervisão e uso inclusivo, responsável e ético. Na prática, isso requer três etapas: 1) definir uma visão de confiança digital, 2) planejar para agir de forma mais confiável e 3) recrutar pessoas que ajudarão a ganhar confiança.


O solucionismo tecnológico — a ideia de que se pode confiar nos desenvolvedores de tecnologia para inovar ou codificar nossa saída dos problemas e alcançar a prosperidade — está acabando. A confiança das pessoas na tecnologia e nas empresas que a desenvolvem foi corroída por inúmeras falhas. Para empresas, não é mais aceitável usar a tecnologia sem tomar medidas para garantir que ela seja confiável.

Pessoas comuns — e, cada vez mais, legisladores e reguladores — ficaram razoavelmente céticas diante das recentes transgressões contra a privacidade dos indivíduos, da calcificação de preconceitos corporativos ou individuais em algoritmos que alteram vidas, das ameaças constantes de que novas tecnologias corroem sua capacidade de ganhar a vida e do teste beta de dispositivos ou veículos conectados inseguros ou defeituosos em uma população desavisada. Olhando para um futuro próximo, com a IA generativa e os mundos virtuais sendo implementados mais rápido do que podemos rastrear, o problema de confiança só está piorando.

Mais tecnologia não resolverá esse problema. Os clientes estão analisando as escolhas que os líderes da empresa fazem e avaliando se essas escolhas correspondem aos valores individuais dos consumidores e cidadãos — e se colocam as pessoas em primeiro lugar. E como toda empresa usa alguma forma de tecnologia digital em suas operações e relacionamentos com clientes e parceiros, toda empresa precisa se preocupar com a confiança digital. “Os programas de confiança digital são uma necessidade e, quando bem feitos, podem ser tanto um diferencial quanto um facilitador para uma empresa. À medida que aumentam as demandas de que as empresas mostrem que são confiáveis, as organizações devem se esforçar para criar uma estratégia de confiança digital que atenda ou supere as expectativas de seus clientes, não apenas o que é legalmente exigido”, de acordo com Vikram Rao, diretor de confiança da Salesforce e membro do Comitê Diretor de Confiança Digital do Fórum Econômico Mundial.

Algumas empresas podem analisar o problema e esperar que possam comprar ou alugar uma forma de sair dele. Em alguns casos, uma nova função, como Chief Trust Officer ou Chief Digital Trust Officer, pode ajudar. Mas antes que CEOs e conselhos se apressem em criar uma função de diretoria como uma panaceia, eles precisam analisar com atenção o que exatamente é uma tecnologia confiável no século 21, como as empresas conquistam confiança digital e quais mudanças e investimentos precisam fazer para fazer isso.

O que torna a tecnologia confiável?

Nenhuma tecnologia é inerentemente confiável ou indigna de confiança. Afinal, as tecnologias não têm agência em si mesmas; em vez disso, como personagem do filme afrofuturista_Neptune Frost_ diz: “a tecnologia é apenas um reflexo de nós”. A confiança na tecnologia é um reflexo das decisões que as pessoas tomam quando desenvolvem, usam e implementam a tecnologia. Embora existam muitas maneiras de pensar em confiança, quando o Fórum Econômico Mundial reuniu líderes empresariais, governamentais e da sociedade civil no campo da tecnologia confiável, o grupo reunidochegaram a esse consenso: “A confiança digital é a expectativa dos indivíduos de que as tecnologias e serviços digitais — e as organizações que os fornecem — protejam os interesses de todas as partes interessadas e defendam as expectativas e os valores da sociedade.”

Neste trabalho, o FórumComunidade de confiança digital percebi que a pergunta mais importante a ser feita em relação à tecnologia não é “como fazer com que as pessoas confiem na tecnologia?” Pelo contrário, é “o que precisamos fazer — como desenvolvedores, proprietários e usuários de tecnologia — para respeitar os valores e expectativas das pessoas?” Com a mentalidade certa e os objetivos certos, é possível desenvolver uma estratégia eficaz e confiável para o uso da tecnologia digital. Em essência, essa estratégia tecnológica confiável vem da consideração pelas pessoas sujeitas a novas tecnologias (independentemente da tecnologia em questão).

Com o respeito aos direitos e expectativas individuais em mente, uma estratégia confiável de tecnologia digital deve identificar as metas certas. A comunidade de confiança digital do Fórum Econômico Mundial ofereceu três grandes conjuntos de metas:

  • Segurança e confiabilidade
  • Responsabilidade e supervisão, e
  • Uso inclusivo, ético e responsável

Como disse Julie Brill, diretora de privacidade da Microsoft e membro do Comitê Diretor de Confiança Digital do Fórum, na época, “as metas de qualquer desenvolvedor de IA ou outras tecnologias devem refletir as metas das organizações e indivíduos que usam ou encontram essa tecnologia. Metas compartilhadas de inclusão e uso responsável, fortes proteções de privacidade e segurança e supervisão eficaz são os elementos fundamentais para construir um relacionamento confiável entre desenvolvedores, seus clientes e indivíduos que usam a tecnologia.” Usuários e consumidores podem confiar melhor em tecnologias que os protejam, que incluam suas necessidades e correspondam a seus valores, e que tenham boas práticas de governança incorporadas para remediar quaisquer danos inadvertidos.

Como você investe em confiança digital?

Ganhar confiança digital não é simples e não pode ser automatizado. Pelo contrário, requer uma série de julgamentos, investimentos e mudanças organizacionais que reflitam a totalidade do provável impacto de uma tecnologia sobre os indivíduos. Essas mudanças, abrangendo todo o negócio, só podem ser orquestradas pelos líderes da empresa. Como disse Keith Enright, diretor de privacidade do Google e membro do Comitê Diretor da Digital Trust, “as decisões que as empresas estão tomando agora sobre a preparação determinam onde elas estarão no futuro em termos de confiança”.

Preparar-se para começar a reconquistar a confiança exige que CEOs e conselhos de administração façam pelo menos três coisas:

  • Defina uma visão para a confiança digital
  • Planeje agir de forma mais confiável
  • Recrute pessoas que ajudarão a ganhar confiança

O primeiro investimento que os líderes precisam fazer é dedicar tempo e energia para realmente entender o impacto das tecnologias que eles criam ou implantam. Desenvolver uma visão realista e abrangente de como uma organização usa a tecnologia a serviço de suas metas e das pessoas que confiam nela determina como uma organização investirá na confiança digital.

Os líderes devem abordar as decisões que envolvem tecnologia com um claro senso decomo essas tecnologias refletem e impactam os principais valores organizacionais e os valores da sociedade em que a empresa opera. Sua visão de criar ou adotar novas tecnologias deve considerar os benefícios para os negócios e a sociedade, juntamente com uma avaliação clara e responsável dos possíveis danos que as novas tecnologias podem impor a clientes em potencial ou outras partes interessadas.

Por exemplo, uma empresa que adota a IA generativa deve avaliar como a tecnologia pode aumentar a eficiência (um benefício para a empresa), desbloquear novas soluções para desafios urgentes (um benefício para a sociedade) e, ao mesmo tempo, desenvolver um plano para evitardanos esperados, por exemplo, a processos democráticos, desde “alucinações” ou desinformação de IA, até trabalhadores deslocados por essas tecnologias avançadas. Somente uma visão que considere com responsabilidade os benefícios e os riscos da nova tecnologia pode realmente ser considerada confiável.

Depois de decidir sobre uma visão que inclua metas confiáveis, as organizações precisam de um plano para agir em prol da confiança digital. Esse plano exige que os líderes invistam nas estruturas e equipes internas que melhor apoiam a confiança digital. Para todas as aplicações da tecnologia digital, o Fórumtrabalhos identificou oito dimensões em que a ação positiva pode ajudar a atingir as metas de uma organização — tanto as metas de confiança quanto as metas financeiras ou estratégicas gerais. Essas dimensões são cibersegurança, segurança, transparência, interoperabilidade, auditabilidade, capacidade de correção, imparcialidade e privacidade. (Assim como as Metas de Confiança Digital, essas dimensões são definidas e exploradas no Relatório de Visão do Fórum,Ganhando confiança digital: tomada de decisões para tecnologias confiáveis.)

Na maioria das organizações, essas áreas provavelmente recaem sobre departamentos e líderes diferentes, o que significa que otimizá-las requer uma abordagem interdisciplinar — e possivelmente alguma mudança estrutural — para apoiar a tomada de decisão cuidadosa necessária para ganhar a confiança dos usuários e de outras partes interessadas. No entanto, a realidade de um determinado setor ou empresa pode significar que não é possível maximizar todas as dimensões descritas. Por exemplo, uma maior transparência pode não ser possível para empresas que trabalham em setores altamente sensíveis (por exemplo, segurança nacional), portanto, sua responsabilidade e segurança teriam que ser complementadas. Da mesma forma, algumas dimensões de confiabilidade (talvez mais notavelmente a privacidade) variam entre jurisdições e regiões geográficas. As expectativas e os valores das pessoas são o teste decisivo do que torna a tecnologia confiável. A confiança, por si só, pode ser altamente específica da região e do setor.

O terceiro grande investimento inicial está nas pessoas que podem ajudar a empresa a ganhar confiança digital. Tornar a tecnologia confiável é um esforço multifacetado conduzido em uma escala organizacional (ou social) — o que significa que a responsabilidade final pela confiabilidade recai sobre o CEO. Esse dever geral de tomar decisões confiáveis em tecnologia não significa, no entanto, que a empresa não deva investir no recrutamento de especialistas (talvez até mesmo na diretoria executiva), que possam ajudar a estabelecer a estratégia certa e as estruturas certas para apoiar a confiança digital.

Esse líder, possivelmente diretor de confiança, mas com a mesma probabilidade de ser diretor de privacidade, conselheiro geral, CISO ou outro executivo, deve ser um especialista em gerenciamento de partes interessadas e um conselheiro confiável do CEO e do conselho. O gerenciamento de partes interessadas entra em ação quando as empresas já têm funções de segurança cibernética, privacidade, conformidade e até ética. Os líderes de cada uma dessas funções têm interesse na confiabilidade geral da estratégia digital de uma empresa, tanto em construí-la quanto em se beneficiar dela. Para ser conselheiro sobre confiança digital, esse indivíduo também deve ser capaz de pensar de forma sistêmica, estabelecendo uma ponte entre essas disciplinas para ajudar os líderes a fazer o melhor julgamento sobre como, onde e com quais fins as novas tecnologias devem ser aplicadas.

Para ser mais eficaz, um oficial responsável pela confiança digital não pode ser especialista em todas as tecnologias e em todas as facetas da confiança, mas precisa ser capaz de entender a estratégia da empresa e os valores dos indivíduos, trabalhadores e clientes afetados. Eles apoiam o desenvolvimento de uma visão confiável, transmitindo uma visão geral do cenário tecnológico para CEOs e conselhos e ajudando a criar uma estratégia que apoie a confiança em vez de corroê-la. Eles também ajudam a supervisionar as inúmeras ações interdependentes que, juntas, conquistam a confiança de usuários, parceiros e outras partes interessadas.

Os CEOs devem entender que a confiança na tecnologia subjacente e viabiliza praticamente todas as empresas não pode ser comprada, mas investindo no tempo necessário para tomar as decisões certas, estabelecer uma visão confiável e recrutar apoiadores eficazes, ela pode ser conquistada.

 

Related Posts