Los humanos trabajan detrás del telón de la IA

¿Qué tan artificial es la inteligencia artificial? Facebook creó un Tormenta de fuego en RR.PP. el verano pasado, cuando los reporteros descubrieron un «equipo editorial» humano —en lugar de solo algoritmos imparciales— que seleccionaba historias para su sección de temas de actualidad. La revelación puso de relieve un elefante en la habitación de nuestro mundo tecnológico: las empresas que venden la velocidad mágica, la omnipotencia y la neutralidad de la inteligencia artificial (IA) a menudo no pueden cumplir sus promesas sin mantener a la gente al tanto, a menudo trabajando de forma invisible en segundo plano.

Entonces, ¿quiénes son las personas detrás del telón de la IA?

Vaya a Bangalore (India) y conozca a Kala, una madre de dos hijos de mediana edad sentada frente a su ordenador en la improvisada oficina central que comparte con su esposo. Nuestro equipo de Microsoft Research conoció a Kala tres meses después de estudiar la vida de las personas que buscan trabajos temporales con contrato «bajo demanda» a través de la web, el equivalente a trabajar a destajo en Internet. Sus hijos adolescentes hacen sus deberes en la habitación contigua. Describe cómo los llamó a la habitación, señaló su pantalla y preguntó: «¿Es una mala palabra en inglés?» Así es como se ve la parte trasera de la IA en 2016. Kala dedica horas a la semana a revisar y etiquetar ejemplos de contenido cuestionable. A veces ayuda a empresas de tecnología como Google, Facebook, Twitter y Microsoft a entrenar los algoritmos que seleccionan el contenido en línea. Otras veces, toma decisiones rápidas y difíciles sobre qué materiales generados por los usuarios retirar o dejar en su lugar cuando las empresas reciben quejas y señales de los clientes sobre algo que leen o ven en Internet.

Ya sean los temas de moda de Facebook, la entrega de pedidos Prime por parte de Amazon a través de Alexa; o las muchas respuestas instantáneas de los bots que recibimos ahora en respuesta a la actividad o queja de los consumidores, las tareas que se anuncian como impulsadas por la IA implican a humanos, que trabajan en las pantallas de los ordenadores, se les paga por responder a las consultas y solicitudes que se les envían a través de interfaces de programación de aplicaciones ( API) de los sistemas de trabajo colaborativo. La verdad es que la IA está tan «totalmente automatizada» como lo fue el gran y poderoso Oz en esa famosa escena del película clásica, donde Dorothy y sus amigos se dan cuenta de que el gran mago no es más que un hombre que tira maniáticamente de las palancas detrás de una cortina. Esta mezcla de IA y humanos, que siguen adelante cuando la IA se queda corta, no va a desaparecer pronto. De hecho, la creación de tareas humanas a raíz de los avances tecnológicos ha formado parte de la historia de la automatización desde la invención del torno mecánico.

A esta frontera en constante movimiento del desarrollo de la IA la llamamos paradoja de la última milla de la automatización: a medida que la IA progresa, también se traduce en la rápida creación y destrucción de mercados laborales temporales para nuevos tipos de tareas humanas. Para 2033, los economistas predecir que la innovación tecnológica podría convertir el 30% de las ocupaciones actuales a tiempo completo en servicios aumentados realizados «bajo demanda» mediante una combinación de automatización y mano de obra humana. En resumen, la IA eliminará parte del trabajo, ya que abre oportunidades para redefinir el trabajo que los humanos hacen mejor. Estos servicios aumentados asistidos por IA, ofrecidos por personas que trabajan silenciosamente en conjunto con bots, están preparados para mejorar nuestra productividad diaria, pero también introducen nuevos desafíos sociales.

Gran parte de la trabajo colaborativo hecho por contrato hoy cubre a la IA cuando no puede hacer algo por sí sola. El pequeño y sucio secreto de muchos servicios — desde Facebook a la eliminación «automática» de vídeos atroces en YouTube, así como en muchos otros, es que seres humanos reales limpian gran parte de la web, entre bastidores. ¿Esos robots mágicos que responden a sus tuits quejándose del retraso en la entrega de pizza o del servicio de su vuelo de regreso a Boston? Son el nuevo mundo de la mano de obra contratada que se esconde bajo una capa de IA. Un híbrido de humanos e IA está rediseñando la venta minorista, el marketing y el servicio de atención al cliente. Resulta que la IA, al igual que los humanos, se esfuerza por tomar decisiones difíciles sobre qué contenido debe y no debe incluirse en nuestra dieta diaria de redes sociales, según los criterios o valores que queramos imponer.

La verdadera historia no es si Facebook sesgó sus temas de moda al involucrar a editores humanos; es que la IA actual no puede funcionar sin humanos informados, ya sea entregando las noticias o haciendo un complicado pedido de pizza. La moderación y el comisariado del contenido —desde las fuentes de noticias y los resultados de búsqueda hasta la resolución de disputas sobre el contenido apropiado— implican a personas contratadas por empresas de tecnología y medios de comunicación para decidir qué dejar o eliminar. Recuerde ese momento clásico de la campaña presidencial de 2012 cuando Mitt Romney pronunció la frase» carpetas llenas de mujeres»? Twitter necesitaba trabajadores contratados y bajo demanda para averiguar, en tiempo real, por qué una frase tan obtusa se convirtió tan rápido en una etiqueta tan popular y si era apropiado publicar en sus temas de moda.

¿Quiénes son los trabajadores detrás del telón de la IA? Muchos son como Kala: la gente común, normalmente paga una tarifa plana y baja, trabaja de forma independiente o a través de agencias de trabajo temporal, muchos de ellos operan fuera de los Estados Unidos. No es de conocimiento común que la mayor parte de la moderación del contenido se subcontrata a trabajadores contratados de todo el mundo, con poca transparencia en cuanto a su formación, su entorno de trabajo o los protocolos para tomar decisiones editoriales. De hecho, llama la atención, especialmente tras el incidente del «equipo editorial» de Facebook, que más consumidores no se hayan preguntado: ¿cuáles son las prácticas de moderación de contenido en las redes sociales? ¿Quién participa en la creación del contenido que llega a nuestras puertas virtuales? El incidente solo dejó lugar a especulaciones sobre las credenciales del equipo y el apoyo a una complicada labor editorial.

Nuestro equipo aprendió tras dos años investigando el mundo del trabajo colaborativo de pago, donde la moderación de contenido es un flujo constante de trabajo por encargo, que las prácticas internas de las empresas más grandes y más pequeñas del mundo de la tecnología implican literalmente miles de decisiones sobre qué contenido conservar o eliminar. Se necesitan trabajadores contratados para entrenar los algoritmos y tomar algunas de las decisiones más importantes sobre el contenido. Y, más de lo que nos damos cuenta, se les acusa de intervenir para tomar decisiones rápidas sobre lo que permanece en un sitio y lo que se elimina. Se trata de una nueva forma de empleo que todos debemos valorar, ya que estas personas evitan que Internet se convierta en un pantanoso charco de spam. Las empresas dependen en gran medida de los trabajadores con contrato a tiempo parcial contratados a través de plataformas de crowdsourcing como Crowdflower y Amazon Mechanical Turk, o sistemas de gestión de proveedores como Trabajador de clics.

Tenemos que pensar seriamente en la mano de obra humana que impulsa la IA. Esta fuerza laboral se merece formación, apoyo y compensación por estar preparados y dispuestos a realizar un trabajo importante que muchos pueden encontrar tedioso o demasiado exigente. Muchos trabajos futuros, que van mucho más allá del tratamiento editorial de los temas de moda, requerirán los esfuerzos creativos de los humanos para canalizar la velocidad, el alcance y la eficacia de la IA. El primer paso es exigir más transparencia a las empresas de tecnología que han estado vendiendo la IA por carecer de mano de obra humana. Deberíamos exigir la verdad en la publicidad con respecto a la ubicación de los humanos en nuestro beneficio, ya sea para comisariar nuestras noticias e informar a nuestro cuerpo político o para presentar quejas sobre lo que algún troll acaba de publicar en nuestra red social favorita. Deberíamos saber que hay mano de obra humana en marcha porque queremos tener la capacidad de reconocer el valor de su trabajo y también tener la oportunidad de entender la formación y el apoyo que han influido en su toma de decisiones, especialmente si su trabajo afecta al interés público.

Como consumidores, tenemos derecho a saber qué ingredientes y procesos contiene la IA que recopila nuestro contenido informativo y multimedia, de la misma manera que debemos saber qué contienen los alimentos que damos a nuestras familias. Como ciudadanos, necesitamos saber de dónde viene nuestra información. Y, como seres humanos, siempre debemos saber cuándo los humanos están trabajando, produciendo lo que consumimos, ya sea físico o digital. El trabajo de estas personas trabajadoras en todo el mundo no debe hacerse invisible u opaco por el shibboleth de la IA. Así como necesitamos que las empresas rindan cuentas por las prácticas laborales que producen nuestros alimentos, ropa y ordenadores, también necesitamos rendir cuentas tanto a los consumidores como a los trabajadores que producen y dan forma al contenido digital.