Cómo afecta la IA a nuestro sentido del yo

Cómo afecta la IA a nuestro sentido del yo

La creciente frecuencia de interacciones que tenemos con la IA y las tecnologías automatizadas significa que es vital entender cómo esas cosas hacen que las personas sientan consigo mismas. ¿Por qué? Porque lo que las personas piensan de sí mismas afecta a una amplia gama de factores de éxito, como las ventas, la lealtad de los clientes, las referencias de boca en boca, la satisfacción de los empleados y el rendimiento de los empleados. Los autores llevan más de siete años estudiando las reacciones de las personas ante la tecnología automatizada. En este artículo, se centran en las respuestas psicológicas a la IA y las tecnologías automatizadas que han observado en el diseño de servicios y procesos empresariales, el diseño de productos y la comunicación, y ofrecen orientación práctica para ayudar a los líderes y gerentes a determinar la mejor manera de utilizar estas nuevas tecnologías para atender a los clientes, apoyar a los empleados y promover los intereses de su organización.

•••

Resumen de la idea

El desafío

Ahora que las personas interactúan de manera significativa con la IA y las tecnologías automatizadas, es hora de cambiar nuestro enfoque de lo que pensamos de estas tecnologías a lo que nos hacen sentir acerca de nosotros mismos.

Por qué es importante

Esas sensaciones pueden afectar a una variedad de factores de éxito empresarial, como las ventas, la lealtad de los clientes, las referencias de boca en boca, la satisfacción de los empleados y el rendimiento laboral.

La nueva mentalidad

Para aprovechar al máximo la IA y la automatización, las empresas deberán diseñar procesos, productos y comunicaciones que tengan en cuenta estratégicamente la forma en que estas nuevas tecnologías afectan a la imagen de sí mismos de los clientes y los empleados por igual.

Si alguna vez hizo un curso de marketing, tal vez recuerde el famoso caso de la década de 1950 sobre el lanzamiento por parte de General Mills de las mezclas para pasteles Betty Crocker, que consistía simplemente en añadir agua, mezclar y hornear. A pesar del excelente rendimiento del producto, las ventas fueron decepcionantes al principio. Eso era desconcertante hasta que los gerentes descubrieron el problema: la mezcla hacía que hornear fuera demasiado fácil y los compradores sentían que de alguna manera hacían trampa cuando la usaban. Basándose en esa información, la empresa retiró el huevo en polvo de los ingredientes y pidió a los clientes que partieran un huevo y lo batieran con la mezcla. Ese pequeño cambio hizo que los panaderos se sintieran mejor consigo mismos y, por lo tanto, impulsó las ventas. Hoy, 70 años después, la mayoría de las mezclas para pasteles todavía requieren que los usuarios añadan un huevo.

Hoy podemos aprender una lección de esa historia. A medida que las empresas adoptan cada vez más los productos y servicios automatizados, tienen que entender cómo esas cosas hacen que sus clientes piensen de sí mismos. Sin embargo, hasta la fecha, los directivos y los académicos suelen centrarse en algo muy diferente: entender lo que los clientes pensar acerca de esas cosas. Los investigadores han estado estudiando, por ejemplo, si las personas prefieren la inteligencia artificial antes que los humanos (no es así), cómo se percibe que es la IA moral o justa (no muy) y las tareas para las que es probable que las personas se resistan a la adopción de la automatización (aquellas que son menos cuantificables y están más abiertas a la interpretación).

Es importante tener en cuenta todo eso. Pero ahora que las personas comienzan a interactuar de manera frecuente y significativa con la IA y las tecnologías automatizadas, tanto dentro como fuera del trabajo, es hora de centrarse en las emociones que evocan esas tecnologías. Ese tema es tierra incógnita psicológica, y explorarlo será fundamental para las empresas, ya que afecta a una amplia gama de factores de éxito, como las ventas, la lealtad de los clientes, las referencias de boca en boca, la satisfacción de los empleados y el rendimiento laboral.

Llevamos más de siete años estudiando las reacciones de las personas ante la tecnología autónoma y las barreras psicológicas para adoptarla. En este artículo, basándonos en investigaciones recientes de nuestro laboratorio y analizando ejemplos de la vida real, analizamos los efectos psicológicos que hemos observado en tres áreas que tienen importantes ramificaciones en la toma de decisiones gerenciales: (1) el diseño de servicios y procesos empresariales, (2) el diseño de productos y (3) la comunicación. Tras analizar las investigaciones y los ejemplos, ofrecemos una guía práctica sobre la mejor manera de utilizar las tecnologías automatizadas y basadas en la IA para atender a los clientes, apoyar a los empleados y promover los intereses de las organizaciones.

Diseño de servicios y procesos empresariales

Hoy en día, la IA y las tecnologías automatizadas están integradas en una amplia gama de servicios y procesos empresariales que afectan directa o indirectamente a los consumidores y los empleados. Upstart, por ejemplo, utiliza la IA para decidir a qué solicitantes prestar, y Monster y Unilever la utilizan para evaluar el potencial de los candidatos a un puesto de trabajo. El programa DriveEasy de GEICO lo utiliza para evaluar las habilidades de conducción de los clientes y determinar las primas del seguro de automóvil, mientras que IBM y Lattice ayudan a las empresas a adoptar procesos de evaluación del rendimiento basados en la IA, que tienen un impacto en las decisiones de ascenso y despido.

Dada esta tendencia, tenemos que preguntarnos: ¿Cómo reaccionan las personas ante las decisiones y los comentarios de la IA y las tecnologías automatizadas? ¿Y cuál es la mejor manera de que las empresas los incorporen a sus servicios y procesos empresariales para maximizar la satisfacción de los clientes y los empleados?

Empecemos con la primera pregunta. Junto con Sarah Lim de la Universidad de Illinois en Urbana-Champaign y Stijn M.J. van Osselaer de la Universidad de Cornell, recientementeexaminado situaciones en las que las solicitudes que la gente presentaba a las empresas (quizás de préstamo o alguna prestación) eran aceptadas o rechazadas. En 10 estudios, en los que participaron un total de más de 5000 participantes, descubrimos que, en caso de aceptación, reaccionaban de manera diferente a las decisiones que tomaba la IA que a las que tomaban los humanos.

Sus reacciones fueron reveladoras desde el punto de vista psicológico: los participantes del estudio cuyas solicitudes fueron concedidas por una persona sintieron más alegría que aquellos cuyas solicitudes fueron concedidas por la IA, a pesar de que el resultado fue idéntico. ¿Por qué? Porque estos últimos se sentían reducidos a un número y pensaban que no podían atribuirse tanto crédito por su éxito. Sin embargo, cuando sus solicitudes fueron rechazadas, los participantes pensaron lo mismo tanto si el rechazo fue por parte de una persona como de la IA. En ambos casos, y en la misma medida, tendían a culpar a quien tomaba las decisiones por su fracaso y no a sí mismos.

La conclusión aquí está clara: los sentimientos de las personas sobre sí mismas pueden diferir según quién o qué las evalúe, y eso tiene importantes consecuencias para los negocios.

Los participantes del estudio cuyas solicitudes fueron concedidas por una persona sintieron más alegría que aquellos cuyas solicitudes fueron accedidas por la IA, a pesar de que el resultado fue idéntico.

Tenga en cuenta los resultados de uno de nuestros estudios, en el que pedimos a la gente que se imaginara solicitar un préstamo bancario. A la mitad de los participantes se les dijo que un algoritmo de préstamos evaluaría sus solicitudes y a la otra mitad que un agente de préstamos las evaluaría. Más tarde, a la mitad de los participantes de cada grupo se les dijo que su solicitud había sido aprobada y a la otra mitad que la habían denegado.

Los participantes cuyas solicitudes habían sido aprobadas mediante un algoritmo dieron calificaciones más bajas al banco y tenían menos probabilidades de recomendarlas a otras personas que las personas cuyas solicitudes habían sido aprobadas por un agente de préstamos. Sin embargo, todos los participantes cuyas solicitudes fueron denegadas calificaron al banco de manera similar y mostraron el mismo interés en recomendarlo a otros.

También hemos observado este patrón en contextos del mundo real. Por ejemplo, pedimos a los trabajadores que formaban parte de una plataforma laboral en línea que solicitaran ser miembros de un panel selecto formado por una empresa de investigación. A la mitad se le dijo que la IA evaluaría sus solicitudes y a la otra mitad que un empleado humano lo haría. Los que ganaron la admisión al panel a través de la IA evaluaron a la empresa de investigación de manera menos positiva que los que lo hicieron a través de un empleado, pero todos los que fueron rechazados opinaron lo mismo con respecto a la empresa.

En resumen, cuando dan buenas noticias sobre las decisiones y las evaluaciones, las empresas pueden generar reacciones más positivas entre los clientes y los empleados si confían en las personas y no en la IA, pero ese efecto desaparece cuando dan malas noticias.

La mayoría de los líderes y directivos con experiencia que entrevistamos en nuestra investigación parecían desconocer estos efectos. En una encuesta descubrimos que casi ninguno de ellos podía prever los resultados reales. Los ejecutivos deberán entender las posibles reacciones de las personas si quieren atraer eficazmente a los clientes y los empleados con la nueva IA y las tecnologías automatizadas.

Cómo afecta la IA a nuestro sentido del yo
Anna Parini

Pasemos ahora a la segunda pregunta: ¿Cómo pueden las empresas integrar la IA en sus servicios y procesos empresariales para maximizar la satisfacción de los clientes y los empleados? Nuestros hallazgos experimentales ofrecen algunas sugerencias.

En primer lugar, cuando se adopten la IA o las tecnologías automatizadas con fines de evaluación y comentarios, le recomendamos que participe activamente en esos procesos y deje clara esa participación a los clientes o empleados. En uno de nuestros estudios, evaluamos la forma en que las personas valoran a una empresa cuando un humano solo participa de forma pasiva en las evaluaciones (quizás simplemente supervisando las decisiones algorítmicas). Comparamos esa afección con una en la que un humano está a cargo del proceso de evaluación y otra en la que solo lo es un algoritmo, y descubrimos que los participantes solo reaccionaban positivamente cuando la participación humana estaba activa.

En segundo lugar, recomendamos que los directivos sean selectivos en cuanto al grado en que dependen de su (cara) fuerza laboral humana para la toma de decisiones. Como las personas tienden a reaccionar de la misma manera ante las noticias negativas, ya vengan de una persona o de la IA, es posible que las empresas no necesiten el «toque humano» para darlas, aunque eso contradiga el pensamiento gerencial tradicional. Sin embargo, deberían considerar la posibilidad de utilizar humanos con la mayor frecuencia posible para dar buenas noticias.

Otroproyecto de investigación también arroja luz sobre cuándo se puede desplegar a las personas de la manera más eficaz en los procesos empresariales. Stefano trabajó con Armin Granulo, de la Universidad Técnica de Múnich, y con Christoph Fuchs, de la Universidad de Viena, para estudiar los productos y servicios simbólicos, que ofrecen a los consumidores algo más que una funcionalidad instrumental. Estos productos y servicios incorporan conceptos abstractos que transmiten algo sobre la personalidad, las creencias, la pertenencia a un grupo social, el estatus de clase u otros elementos intangibles. Algunos ejemplos son los tatuajes, las joyas de moda y las chaquetas del equipo universitario. Sin embargo, es importante recordar que un solo producto puede tener usos físicos y simbólicos. Los anteojos, por ejemplo, se componen de lentes, que permiten a los consumidores ver (un uso físico), y monturas, que mantienen las lentes en su lugar (un uso físico) y sirven como un accesorio de moda que puede ser fundamental para la autoexpresión (un uso simbólico).

Como las personas tienden a reaccionar de la misma manera ante las noticias negativas, ya vengan de una persona o de la IA, es posible que las empresas no necesiten el «toque humano» para darlas.

Para ese proyecto, que consistió en cuatro experimentos en los que se utilizaron diferentes categorías de productos y en los que participaron más de 1000 personas, los autores compararon las actitudes de los consumidores hacia los productos simbólicos que habían sido fabricados con tecnologías automatizadas o con humanos. Lo que siempre descubrieron es que el trabajo humano añade un valor distintivo a los productos simbólicos. En uno de los experimentos, los participantes revelaron que preferían las lentes oftálmicas fabricadas con tecnología automatizada (presumiblemente por su precisión basada en máquinas), pero las monturas hechas por humanos. En otro estudio, los participantes tenían más probabilidades de comprar un póster diseñado por un humano que uno diseñado por la IA.

Estos hallazgos nos llevan a una tercera recomendación, que consiste en que las empresas consideren detenidamente por qué es probable que los clientes compren sus ofertas y si podrían añadir un valor distintivo al producto manteniendo al menos una participación humana en el proceso de producción, incluso si tienen la intención de automatizar la mayor parte.

Diseño de producto

Las tecnologías de IA y las funciones automatizadas avanzadas están integradas en muchos productos y están transformando la forma en que realizamos diversas tareas en nuestra vida personal: la Roomba de iRobot limpia los suelos, el piloto automático de Tesla le permite disfrutar del viaje, la cafetera totalmente automática de Jura prepara el café desde el grano hasta la taza e incluso se limpia sola. También cada vez más personas trabajan con aplicaciones impulsadas por la IA en el trabajo. Watson, de IBM, colabora con los empleados de muchas empresas en una amplia gama de tareas empresariales, incluidas las estimaciones financieras y la gestión de las estrategias de comunicación y marketing; la IA de Adobe capacita a los diseñadores y mejora su expresión creativa con Photoshop y otras aplicaciones; y los trabajadores de Toyota utilizan herramientas y maquinaria altamente automatizadas. Es probable que la reciente llegada de los grandes modelos lingüísticos y de la IA generativa, como el DALL-E y el ChatGPT de OpenAI, acelere estas tendencias. ¿Cómo influirán nuestras interacciones con todas estas tecnologías automatizadas en nuestro sentido de identidad y nuestros logros? ¿Y cómo influirá eso en la demanda de productos?

Nuestro laboratorio ha explorado cómo reaccionan las personas ante los productos automatizados en el contexto del consumo basado en la identidad, lo que ayuda a las personas a definir quiénes son. Stefano trabajó en ese proyecto con Eugina Leung, de la Universidad de Tulane, y Gabriele Paolacci, de la Universidad Erasmus de Róterdam. En seis estudios y en varias categorías de productos, descubrieron que las personas que se identifican con una actividad en particular, como pescar, cocinar o conducir, pueden considerar que la automatización es una amenaza para su identidad, lo que se traduce en una menor adopción y aprobación de los productos.

Para obtener más información sobre este fenómeno, los autores realizaron un estudio con participantes holandeses y se centraron en el ciclismo, una actividad que es fundamental para el sentido de identidad de muchos holandeses. Para que se identifiquen aún más con el ciclismo, se pidió a la mitad de los participantes que escribieran un ensayo breve sobre la pasión nacional holandesa por este deporte y a la otra mitad que escribiera un ensayo sobre la pasión holandesa por las flores (la condición de control). Tras esa tarea, participaron en un estudio aparentemente no relacionado. Los autores les hablaron de una oferta especial de una tienda de bicicletas y les preguntaron si estaban interesados en añadir una función automática gratuita a sus propias bicicletas: una batería recargable para facilitar el pedaleo. Los participantes que habían escrito sobre ciclismo tenían un 20% menos de probabilidades de aceptar la función, a pesar de que era gratuita.

Enotro proyecto, con el mismo equipo y con Maria Cristina Cito, de la Universidad Bocconi, los investigadores examinaron un tema complementario: cómo las personas que se sienten motivadas por objetivos relevantes para la identidad responden a los esfuerzos de digitalización de las empresas. En tres estudios principales y cinco experimentos de seguimiento, descubrieron que los productos simbólicos se adoptan con menos frecuencia en formato digital que en formato físico. Las personas simplemente no pueden expresar quiénes son tan fácilmente con los productos digitales. Ver la colección de obras de Shakespeare en su Kindle no es una forma tan poderosa de validar su identidad literaria como ver la misma colección en la estantería de su sala de estar.

Los resultados de estos dos proyectos indican que cuando las personas se identifican con una categoría de productos determinada, o cuando los productos les ayudan a expresar sus creencias y personalidades, a veces se resisten a cualquier mejora tecnológica de esos productos. Cuando ese es el caso, ¿qué deben hacer las empresas?

El sentido de sí mismas de muchas personas se basa en su identidad profesional, y se puede percibir que la IA y la automatización la socavan.

En primer lugar, recomendamos que las empresas se abstengan de dirigirse a los consumidores motivados por la identidad con productos totalmente automatizados y que, cuando se dirijan a esos consumidores, se centren en funciones o tareas que permitan a los usuarios sentirse orgullosos e involucrados. Pensemos en el caso de un fabricante de componentes para bicicletas con el que trabajamos. Algún tiempo antes, la empresa había introducido un caro cambio automático de marchas en el mercado europeo y se había dirigido a los entusiastas del ciclismo, que están más dispuestos a pagar por aparatos mecánicos. Pero esos consumidores mostraron poco interés por el dispositivo, porque pensaban que eliminaría una parte central de la experiencia de pedalear para ellos. Si la empresa hubiera hecho publicidad para los viajeros diarios o ciclistas ocasionales o hubiera diseñado la función de manera que diera a los ciclistas una sensación de mayor control, podría haber tenido más éxito.

En segundo lugar, recomendamos que las empresas realicen estudios de mercado para evaluar hasta qué punto la automatización corre el riesgo de provocar una amenaza de identidad.

Comunicación

Con la adopción de la IA y las tecnologías automatizadas, como con tantas otras cosas, la comunicación importa. En nuestra investigación, descubrimos tres formas importantes en las que las empresas pueden optimizar sus estrategias de comunicación para minimizar el riesgo de resistencia o reacción violenta.

En primer lugar, las empresas que utilizan las interfaces de IA para comunicarse con los clientes o los empleados deberían considerar la posibilidad de humanizar esas interfaces. Hemos descubierto que esto es particularmente importante en los procesos empresariales que implican la evaluación y la toma de decisiones. En uno de nuestros estudios,probado si añadir funciones parecidas a las de los humanos a la IA llevaría a las personas a internalizar las noticias positivas y a calificar a la empresa de manera más favorable. Cuando le pusimos un nombre a la IA (Sam), añadimos un avatar e hicimos que su interacción con las personas fuera más conversacional, respondieron de la misma manera que lo harían con un empleado humano. Para las empresas que no pueden emplear a personas por varios motivos (como un gran volumen de solicitudes, limitaciones de tiempo o restricciones computacionales), este hallazgo sugiere que el simple hecho de humanizar su IA podría mitigar las reacciones menos positivas a los comentarios o las noticias de la misma.

Pensemos en el caso de una empresa de tecnología financiera con la que trabajamos, que se basa en la tecnología de la IA para evaluar la salud financiera de los usuarios. En su proceso interactivo y totalmente automatizado, los usuarios rellenan un cuestionario, la IA evalúa sus respuestas y el sistema elabora una evaluación de su situación financiera. En ese momento, se anima a los usuarios a hacer clic en un enlace para obtener información sobre los servicios de la empresa. En un intento por aumentar el interés de los consumidores por esos servicios, la empresa, en nombre de un importante banco mundial, creó un formato de chat en el que la IA interactuaba con los usuarios con señales emocionalmente expresivas, como emojis. Cuando los usuarios recibían comentarios positivos sobre su salud financiera por parte de la IA humanizada en comparación con el formato de pantalla estándar, era más probable que hicieran clic en el enlace para buscar más información.

En segundo lugar, recomendamos que las empresas modifiquen la forma en que se comunican con los clientes y los empleados en relación con sus productos automatizados. Como he dicho, cuando las personas se identifican con un dominio o actividad determinados, a veces se resisten a la automatización si piensan que no pueden atribuir los resultados a su propia habilidad o esfuerzo. Pero, ¿y si las empresas describen las funciones automatizadas no como una sustitución de las personas sino como un complemento de sus habilidades?

Parte del proyecto de Stefano con Leung y Paolacci puso a prueba si se puede cambiar la reacción de las personas ante un producto automatizado si se enmarca en esos términos. Los autores crearon dos anuncios en los que describían una máquina de cocina automática de diferentes maneras: un anuncio decía que el aparato realizaría todos los pasos de cocción «con solo tocar un botón» y el otro que guiaría el proceso de cocción y prepararía la comida con la ayuda del usuario. A los participantes se les dio uno de ellos al azar. Aunque los anuncios eran del mismo producto, los resultados revelaron que el encuadre sí importa: cuando se describió que el aparato permitía a las personas utilizar sus habilidades, al menos en parte, sus habilidades, los consumidores motivados por la identidad tenían actitudes más positivas hacia él.

Aunque nuestros estudios se realizaron principalmente en el contexto de las actividades de consumo, la motivación relacionada con la identidad también suele ser importante en el lugar de trabajo. El sentido de sí mismas de muchas personas se basa en su identidad profesional, y se puede percibir que la IA y la automatización socavan esa identidad si amenazan con devaluar las habilidades, la experiencia o el estatus. La comunicación interna sobre su potencial complementario será crucial si las empresas quieren desplegarlos a gran escala.

. . .

Las tecnologías automatizadas están cambiando no solo los mercados de productos y mano de obra, sino también la opinión de las personas que utilizan esas tecnologías sobre sí mismas. Cada vez más, las empresas tendrán que superar las barreras psicológicas diseñando estratégicamente sus procesos y productos empresariales teniendo en cuenta los sentimientos humanos y empleando estrategias de comunicación bien pensadas. En algunos casos, la automatización puede implicar el riesgo de reducir el compromiso de los empleados o la satisfacción de los clientes, y las empresas tendrán que sopesar sus beneficios con ese riesgo. En esas situaciones, la pregunta adecuada a la hora de pensar en pasar a la IA y la automatización no es «¿Podemos?» pero «¿Deberíamos?»

Read more on Technology and analytics or related topics AI and machine learning, Health and behavioral science, Corporate communications, Customer experience, Process management and Product development

Related Posts