Los «codazos» —la estrategia de cambiar el comportamiento de los usuarios en función de la forma en que se les presenta la aparente libertad de elección— han recorrido un largo camino desde que el economista de la Universidad de Chicago Richard Thaler y el profesor de la Facultad de Derecho de Harvard Cass Sunstein popularizaron el concepto en 2008. Con tantos datos sobre los usuarios individuales y con la IA para procesarlos, las empresas utilizan cada vez más algoritmos para gestionar y controlar a las personas y, en particular, a los empleados. Esto tiene implicaciones para la privacidad de los trabajadores y algunos lo han considerado manipulación. El autor describe tres formas en las que las empresas pueden aprovechar estas estrategias sin dejar de cumplir los límites éticos: crear situaciones en las que todos ganen, compartir información sobre las prácticas de datos y ser transparentes con respecto a los propios algoritmos.
•••
Las empresas utilizan cada vez más algoritmos para gestionar y controlar a las personas, no por la fuerza, sino empujándolas a adoptar un comportamiento deseable, es decir, aprendiendo de sus datos personalizados y modificando sus elecciones de una manera sutil. Desde el escándalo de Cambridge Analytica en 2017, por ejemplo, es bien sabido que la avalancha de publicidad segmentada y contenido altamente personalizado en Facebook no solo puede llevar a los usuarios a comprar más productos, sino también a convencerlos y manipularlos para que voten por determinados partidos políticos.
El economista de la Universidad de Chicago Richard Thaler y el profesor de la Facultad de Derecho de Harvard Cass Sunstein popularizaron el término «codazo» en2008, pero debido a los recientes avances en la IA y el aprendizaje automático, los empujones algorítmicos son mucho más potentes que sus homólogos no algorítmicos. Con tantos datos sobre los patrones de comportamiento de los trabajadores al alcance de la mano, las empresas ahora pueden desarrollar estrategias personalizadas para cambiar las decisiones y el comportamiento de las personas a gran escala. Estos algoritmos se pueden ajustar en tiempo real, lo que hace que el enfoque sea aún más eficaz.
Las tácticas de empujones algorítmicos se utilizan cada vez más en los entornos de trabajo, ya que las empresas utilizan los textos, la gamificación y las notificaciones automáticas para influir en su fuerza laboral. Por ejemplo, la empresa de transporte Uber ha estado empleando eltruco psicológico de recompensar las insignias para incentivar a sus más de 3 millones de conductores autónomos e independientes a trabajar más horas sin obligarlos a hacerlo. Del mismo modo, Deliverooenvía las notificaciones a los teléfonos inteligentes de sus trabajadores de reparto de comida para que trabajen más rápido.
Para muchas empresas, dar un codazo a los trabajadores es un enfoque prometedor para lograr sus objetivos organizacionales mediante un mayor rendimiento de los trabajadores o un ahorro de costes. Por ejemplo,Atlántico virgen se ha informado de que moldea el comportamiento de sus empleados al incitar a sus pilotos a consumir menos combustible, lo que ayuda a la aerolínea británica a reducir sustancialmente los costes;Google Según se informa, ha empleado codazos para incentivar a sus trabajadores a comer aperitivos más saludables y reducir el desperdicio de alimentos en la cafetería. En nuestros cuatro años deinvestigación enUber, mis colegas y yo descubrimos que, en comparación con la gestión tradicional, la gestión algorítmica y los enfoques de codazos permitían a la empresa coordinar de manera eficiente una gran fuerza laboral a un coste relativamente bajo.
Pero las empresas deben tener cuidado: estas prácticas han sido objeto de críticas por su cuestionable ética y preocupan cada vez más a los reguladores y al público en general. Las impugnaciones a estas prácticas se presentan en gran medida en forma de atención a las violaciones de la privacidad, acusaciones que codazosmanipular a personas involuntarias en su desventaja, y preocupación por la transparencia y el sesgo algorítmicos. En la actualidad, las empresas que emplean estas técnicas son en gran medida las de la economía colaborativa, en la que los trabajadores no se consideran empleados. Esa designación ha protegido en gran medida a los empleadores de la regulación en este ámbito, pero puede que esto esté empezando a cambiar.
Por ejemplo, en julio de 2020, los conductores británicos de Uber presentaron unademanda contra Uber, alegando que la empresa no cumple con sus obligaciones legales en virtud del reglamento europeo de protección de datos (GDPR), por falta de transparencia en cuanto a sus algoritmos. Del mismo modo, en los EE. UU., la Comisión Federal de Comercio ha financiado en repetidas ocasiones estudios de investigación y ha publicado directrices para los consumidores para promover la privacidad de los consumidores y la responsabilidad algorítmica. Estas preocupaciones relacionadas con la privacidad se han visto alimentadas por las noticias sobre prácticas corporativas cuestionables, comoAmazon las pulseras de los empleados, que pueden vibrar para apuntar a los trabajadores del almacén en la dirección de un producto, pero que también rastrean todos los movimientos del empleado.
Pero las empresas no deberían renunciar a la gestión algorítmica para controlar a los trabajadores mediante codazos. Basándome en los enfoques que funcionan —y los que no— en Uber, así como en los que he observado en los informes disponibles públicamente sobre Facebook, Amazon y Google, he aquí tres recomendaciones para las empresas que quieren dedicarse a la gestión algorítmica y a los codazos, pero que quieren evitar las trampas éticas y reglamentarias:
Cree una situación en la que todos ganen
Los codazos de Uber a los empleados, los codazos de Facebook a los usuarios de las redes sociales y los codazos de Amazon a los trabajadores sirven tan claramente a los intereses de las empresas por encima de los de los consumidores o los trabajadores que es fácil suponer que todos los codazos van en contra de los intereses de la persona objetivo. Sin embargo, creo que las empresas pueden crear una situación en la que todos salgan ganando, lo que los codazos beneficien a todos los involucrados.
Investigación por Thaler y Sunstein indican que los codazos pueden animar a las personas a mejorar su propia salud, riqueza y felicidad mediante el refuerzo positivo de sus decisiones.
Al trasladar esto al contexto del trabajo y la gestión algorítmica, las organizaciones deberían tratar de implementar sistemas de recompensas personalizados y basados en la IA que también beneficien al trabajador. Si bien no conozco ninguna empresa específica que haga esto ahora, me imagino un mundo en el que estos sistemas empujen a los trabajadores a aumentar su propia seguridad y les transmitan un sentimiento de aprecio. En el futuro, las empresas podrían inscribir a los trabajadores en programas de ahorro para la jubilación por defecto con el fin de alentarlos aahorrar más. Muchos de estos comportamientos, a su vez, también ayudan a la empresa, ya que la seguridad y la satisfacción de los empleados benefician al resultado final.
Si bien los empujones originales de Uber se centraban exclusivamente en los resultados que beneficiaran a la empresa y no a sus trabajadores, más recientemente la empresa ha empezado a dar los primeros pasos hacia un enfoque más equilibrado a través de su servicio de recompensas Uber Pro. Los conductores que cumplan ciertos requisitos, como puntuaciones altas y tasas de cancelación bajas, ahora pueden acceder a premios que van desde descuentos en membresías en gimnasios hastareembolso en efectivo de la compra de combustible. Si bien es necesario trabajar más para responder plenamente a las necesidades de los conductores, el programa actual es un punto de partida.
Compartir información sobre la recopilación y el almacenamiento de datos
Los empujones impulsados por algoritmos dependen del acceso a enormes cantidades de datos detallados sobre las preferencias y el comportamiento pasado de los empleados. Mientras gigantes tecnológicos como Google y Amazon recopilan este tipo de datos sobre las búsquedas en la web, los clics, los «me gusta» y las decisiones de compra de los usuarios, Uber recopila datos sobre todos los movimientos de sus conductores, como su ubicación GPS, sus hábitos de conducción y exceso de velocidad y la tasa de aceptación de viajes.
Las empresas que utilizan estímulos algorítmicos deben ser transparentes en cuanto a la recopilación y el almacenamiento de estos datos. El RGPD establece un buen estándar en este sentido: exige que las empresas proporcionen activamente información sobre la naturaleza del usuario personal (¡incluidos los trabajadores!) datos que recopilan y almacenan. Por ejemplo, Twitter tieneactualizado sus condiciones de servicio y su configuración de privacidad para cumplir con la normativa del RGPD, entre otras cosas, garantizar que la comunicación y la información a los usuarios sobre su uso de datos sean concisas, transparentes y de fácil acceso, utilizando un lenguaje claro y sencillo.
En relación con esto, es una práctica muy extendida que las empresas vendan datos a terceros. Las empresas deberían evitarlo siempre que sea posible o, al menos, revelar adecuadamente sus intenciones a los consumidores y los trabajadores.
Explique la lógica del algoritmo
Dejar claro a los empleados lo que hace el algoritmo con sus datos también es fundamental para mantenerse dentro de los límites éticos. Las personas que se ven afectadas de manera significativa por los resultados de los modelos de aprendizaje automático deben dar cuenta de la forma en que se toma una decisión en particular. Esto es importante en lo que respecta a la elaboración de perfiles, el uso de los nuevos avances de las tecnologías digitales para permitir que las decisiones algorítmicas se adapten a una persona específica. La transparencia de la información es crucial para que los trabajadores puedan tomar decisiones informadas sobre si excluirse del algoritmo y para demostrar que una decisión automatizada no es propensa a sesgos raciales o de género.
Sin embargo, compartir información, por ejemplo, por qué algunos trabajadores reciben un trato diferente al de otros o cuál es el resultado deseado de estrategias específicas de empuje puede ser un desafío, especialmente dado que estos algoritmos siempre se adaptan dinámicamente en función del entorno cambiante. Aun así, cada vez más empresas invierten en soluciones de IA explicables y emplean técnicas para garantizar que las partes interesadas humanas puedan entender los complejos resultados computacionales.
Una forma de abordar este problema esexplicaciones contrafácticas. Muestran cuál habría sido el resultado de un algoritmo de toma de decisiones para una persona específica si hubiera tenido características o atributos diferentes, una forma sencilla y no técnica de mostrar cómo funciona el algoritmo.
Por ejemplo, Uber podría compartir información detallada sobre los factores (como la valoración de los conductores, la tasa de aceptación de los viajes o el número de quejas de los clientes) que afectarían a la clasificación de cada conductor en miembros con categoría Oro, Platino o Diamante en el programa de recompensas. Aún mejor sería compartir información detallada sobre la valoración y el índice de aceptación exactos, o el número de quejas de los clientes que darían lugar a que un conductor específico pasara al siguiente nivel.
Debido al creciente acceso de las empresas a los datos de sus trabajadores y al rápido ritmo de los avances tecnológicos, es probable que los empujones conductuales continúen en el futuro. Las empresas que se sumen a esta tendencia deben gestionar cuidadosamente sus técnicas de incitación para seguir siendo legítimas, creando soluciones en las que todos salgan ganando e invirtiendo en la transparencia de la recopilación, el almacenamiento y el procesamiento de los datos de sus trabajadores.