PathMBA Vault

Business ethics

¿Podemos confiar en las máquinas que suenan demasiado como nosotros?

por David Weinberger

¿Podemos confiar en las máquinas que suenan demasiado como nosotros?

Plume Creative/Getty Images

Muy pronto todo tendrá voz. Su teléfono ya tiene uno y quizás su altavoz inteligente. Su coche. El mando a distancia de su televisor. Pronto su tostadora. Es probable que esas voces sean a la vez muy fiables y se basen en una mentira.

Por el momento, para muchos de nosotros, nuestra experiencia más común de interactuar con un ordenador que habla con una voz que suena humana ocurre por teléfono con un estafador que intenta que donemos a una falsa organización benéfica o paguemos por ayuda con un problema de Windows que no tenemos. Pero en términos de concienciación pública, asociamos cada vez más las aplicaciones de ordenador con voz humana con asistentes digitales como Siri, Alexa, el Asistente de Google, Cortana y similares. Estas interfaces de usuario de estos asistentes son más prácticas que los botones y las teclas: puede interactuar con ellos mientras ambas manos cogen a su hijo, obtener sus respuestas sin tener que dejar de controlar el huevo que está friendo y no tener que preocuparse en absoluto por los errores tipográficos. Y ahora la próxima ola está en camino: las interfaces de voz son la solución perfecta, por ejemplo, para el Internet de las Cosas, todos esos dispositivos y electrodomésticos conectados que, de otro modo, tendrían sus propias interfaces y pantallas confusas. En poco tiempo hablaremos con casi cualquier cosa que tenga un interruptor eléctrico y todas esas cosas responderán con voz humana.

Todos estos sistemas, especialmente los asistentes, tienen un incentivo para decirnos la verdad. Al fin y al cabo, cuando salgamos descubriremos si no hace mucho sol, como prometió nuestro asistente digital. Cuando lleguemos a casa y saquemos la cena del horno, descubriremos si es seguro que se precalentó nuestro horno sin base. Puede que incluso descubramos que Kevin Bacon no es más alto que Tom Hanks, a pesar de lo que nos haya dicho nuestra encantadora asistente. En estos casos sencillos y prácticos, si descubrimos que estos asistentes no nos dicen la verdad, simplemente dejaremos de usarlos.

Centro de información

Pero también todos tienen un incentivo para contarnos una gran mentira cada vez que hablan: que son como nosotros. Por eso el asistente de IA dúplex de Google dice «um» a veces. Dúplex es el software que, por ejemplo, llama a un restaurante y hace una reserva para usted sin que la persona del otro lado se entere de que está hablando con una IA. Cuando Duplex es, no se queda sin palabras. Solo trata de engañar a la otra persona, igual que la voz de una llamada telefónica fraudulenta. Eso podría funcionar bien en este momento. A la recepcionista no le desconcertará la idea de hablar con una máquina en lugar de con un prójimo. Pero también puede erosionar una de nuestras formas fundamentales de evaluar la confianza: cómo suena alguien.

Bien, Google Duplex es un caso especial y un tanto extraño. También puede ser una solución temporal: una vez que los restaurantes y otros locales tengan su propia versión de Duplex para aceptar reservas, podemos suponer que las IA de ambos lados de la llamada dejarán de fingir y completarán la transacción con pitidos y bups de robots altamente eficientes en lugar de intentar superar al otro.

Mientras tanto, todos estos asistentes suenan como humanos porque sus creadores quieren nuestra confianza. Saben que estamos hechos para apegarnos emocionalmente a las voces humanas. Esa es también la razón por la que estas asistentes tienden a usar por defecto las voces de las mujeres: los humanos, al menos en Occidente, al parecer encontrar esas voces son más fiables. Si Apple pudiera hacer que Siri nos acariciara con la nariz fría y pidiera que la acariciara, probablemente lo haría. Pero eso no haría que estos asistentes fueran más dignos de confianza.

Sonar como un humano y como una hembra de la especie aumenta nuestra confianza, pero no porque los sistemas sean más fiables. Si sonar como una rana con talento influyera en nuestras preferencias biológicas, entonces Kermit pondría la voz a Siri. No se debe confiar en la confianza no merecida.

Además, toda esta humanización no está alineada con nuestros intereses reales. Si bien a Alexa le gusta pensar que quiero relajarme con ella en una mecedora del porche de mi casa y compartir un vaso de su famoso té dulce, esa no es la forma más eficaz de que una máquina nos comunique información. Me gustaría poder decirle a Alexa que hable más rápido y que se salte las bromas. De hecho, un dispositivo que habla con una voz plana y rápida diseñado únicamente para la transferencia eficiente de información puede ser mejor para indicar que los intereses de su fabricante están alineados con los nuestros: solo queremos saber que la estufa estará a 425 °F durante diez minutos y luego bajará a 350 °F durante treinta minutos. No necesitamos la estufa para fingir que se preocupa por nosotros. De hecho, una voz mecánica puede suscitar más confianza que todos esos um, del mismo modo que puede serlo un humano que habla con claridad, sin halagos ni charlas. Al menos para algunos de nosotros.

Puede que sea mucho pedir que nuestros dispositivos no traten de hablar como los humanos nada más sacarlos de la caja. Pero a medida que las cosas que nos rodean comienzan a competir por nuestra atención y nuestra confianza al hablar con voces humanas hogareñas pero falsas, como en alguna película distópica de Disney, las empresas pueden darse cuenta de que darnos la opción de hacer que nuestros asistentes digitales hablen como las máquinas sin alma que son tiene sentido desde el punto de vista empresarial.

Artículos Relacionados

Investigación: La IA generativa hace que la gente sea más productiva y esté menos motivada

Investigación: La IA generativa hace que la gente sea más productiva y esté menos motivada

Arreglar los chatbots requiere psicología, no tecnología

Arreglar los chatbots requiere psicología, no tecnología

Los chatbots dotados de IA se están convirtiendo en el nuevo estándar para la gestión de consultas, reclamaciones y devoluciones de productos, pero los clientes se alejan de las interacciones con los chatbots sintiéndose decepcionados. La mayoría de las empresas intentan solucionar este problema diseñando mejores modelos de IA en sus chatbots, pensando que si los modelos suenan lo suficientemente humanos, el problema acabará desapareciendo. Pero esta suposición es errónea. Esto se debe a que el problema de fondo no es tecnológico. Es psicológico: Hay que engatusar a la gente para que vea a los chatbots como un medio positivo de interacción. Los autores han analizado recientemente las últimas investigaciones sobre chatbots e interacciones IA-humanos, y en este artículo presentan seis acciones probadas que puede llevar a cabo al desplegar su chatbot de IA para impulsar la satisfacción, la percepción positiva de la marca y las ventas.

Investigación: ¿Está penalizando a sus mejores empleados por desconectar?

Investigación: ¿Está penalizando a sus mejores empleados por desconectar?

Para combatir el creciente desgaste del personal, muchas empresas han defendido programas de bienestar y han fomentado un enfoque renovado en el equilibrio entre la vida laboral y personal. Pero un nuevo estudio descubrió que incluso cuando los líderes reconocían que desvincularse del trabajo aumenta el bienestar de los empleados y mejora su rendimiento laboral, los directivos seguían penalizando a los empleados que adoptaban estos comportamientos cuando optaban a un ascenso o estaban siendo considerados para un nuevo puesto. Basándose en sus conclusiones, los investigadores ofrecen sugerencias para ayudar a las empresas a crear políticas y construir una cultura que proteja los límites de los trabajadores, evite el agotamiento y recompense el trabajo fuerte.