¿Qué tienen en común las menciones en las redes sociales al turismo de Mozambique, la recogida de residuos en la localidad riojana de Haro o la eficiencia energética de los edificios registrados en el catastro?

"¿Qué tienen en común las menciones en las redes sociales al turismo de Mozambique, la recogida de residuos en la localidad riojana de Haro o la eficiencia energética de los edificios registrados en el catastro? En principio, nada. Pero una visita a la sala de monitorización de eventos de Indra basta para encontrar el nexo entre elementos tan dispares.

Aquí, en esta habitación repleta de pantallas con luces tintineantes, un grupo de ingenieros controla 24 horas al día siete días a la semana la información que reciben de una infinidad de procesadores. Se dedican a observar la evolución de estos indicadores, y envían sus conclusiones a los clientes que han contratado sus servicios, ya sean empresas o administraciones públicas. 

Es este un excelente lugar para comprender por qué los algoritmos se han convertido en el secreto del éxito de muchas grandes compañías: un secreto que les permite canalizar un flujo ingente de información para tomar decisiones fundamentales para su actividad.

Desde esta sala-observatorio que Indra tiene en la localidad madrileña de San Fernando de Henares, José Antonio Rubio explica que es aquí donde gigantescas cantidades de datos son convertidas en conocimiento susceptible de ser monetizar.

 “Los algoritmos no solo tienen la capacidad de explicar la realidad, sino también de anticipar comportamientos. Es una ventaja para evitar o minimizar riesgos o para aprovechar oportunidades”, asegura Rubio, director de Soluciones Digitales de Minsait, la unidad de negocio creada por Indra para encarar la transformación digital.

 No es una novedad que las compañías obtengan datos de la analítica avanzada para estudiar características del producto que planean sacar al mercado; el precio al que lo quiere colocar o incluso decisiones internas tan sensibles como la política de retribuciones a sus empleados. Lo sorprendente es la dimensión. 

No es solo que recientemente se haya multiplicado hasta volúmenes difíciles de imaginar el número de datos en circulación —se calcula que la humanidad ha generado en los últimos cinco años un 90% de la información de toda la historia—. 

También han crecido vertiginosamente las posibilidades de interconectarlos. La palabra revolución corre de boca en boca entre académicos y gestores empresariales en contacto con el floreciente negocio de los algoritmos y el llamado big data.

 “La primera revolución llegó hace unos años con el almacenamiento de inmensas cantidades de datos procedentes de las huellas electrónicas que todos dejamos. La segunda, en la que estamos inmersos, procede de la capacidad que tanto empresarios como usuarios o investigadores tienen para analizar estos datos. 

Esta segunda revolución procede de los algoritmos supercapaces y de lo que algunos llaman inteligencia artificial pero yo prefiero denominar superexpertos”, explica Estaban Moro, profesor de la Universidad Carlos III de Madrid y del MediaLab del MIT de Boston.

A esta segunda revolución ha contribuido cada uno de los millones de personas que cada día entregan sus datos de forma gratuita y continua, ya sea subiendo una foto a Facebook, comprando con una tarjeta de crédito o pasando por los torniquetes del metro con una tarjeta magnética.

Al calor de gigantes como Facebook y Google, que basan su enorme poder en la combinación de datos y algoritmos, cada vez más empresas invierten cantidades crecientes de dinero en todo lo relacionado con big data. 

Es el caso del BBVA, cuya apuesta va dirigida tanto a proyectos invisibles para los clientes —como los motores que permiten procesar más información para analizar las necesidades de sus usuarios— como a otras iniciativas fácilmente identificables, como la que permite a los clientes del banco prever la situación de sus finanzas a final de mes.

“Hace décadas que el sector financiero usa modelos matemáticos. En los años setenta, el cliente de un banco venía definido por muy pocos atributos, como el lugar de residencia, edad, profesión o ingresos. 

Pero ahora deja una huella digital muy profunda que nos ayuda a conocerlos para particularizar nuestra oferta de servicios y minimizar los riesgos. La novedad es la profundidad de los datos y la capacidad analítica”, asegura Juan Murillo, responsable de divulgación analítica del BBVA.

 “El gran reto ahora es ver cómo se transforman todos esos datos en valor, no solo para la empresa, sino para nuestros clientes y para la sociedad”, añade.

Las amplísimas posibilidades que ofrecen los algoritmos no están exentas de riesgos. Los peligros son muchos: van desde la ciberseguridad —para hacer frente a hackeo o robo de fórmulas— hasta la privacidad de los usuarios, pasando por los posibles sesgos de las máquinas.

Así, un reciente estudio de la Universidad Carlos III concluía que Facebook maneja para usos publicitarios datos sensibles del 25% de los ciudadanos europeos, que son etiquetados en la red social en función de asuntos tan privados como su ideología política, orientación sexual, religión, etnia o salud.

 La Agencia Española de Protección de Datos ya impuso en septiembre una multa de 1,2 millones de euros a la red social de Mark Zuckerberg por usar información sin permiso.

La ciberseguridad, por su parte, se ha convertido en la principal preocupación de los inversores de todo el mundo: un 41% declaraba estar “extremadamente preocupado” por este asunto, según el Global Investors Survey de 2018 publicado esta semana por PwC. “Un problema de los algoritmos es que carecen de contexto. 

Pueden hacer estupendamente bien una tarea, pero si los sacas de esa actividad fallan estrepitosamente. Una empresa que se fusione con otra tendrá que aprender a entrenar de nuevo los algoritmos de la fusionada. Y para eso tienen que saber cómo se crearon”, reflexiona Moro, el experto del MIT estadounidense.

De vuelta a la sala de monitorización de Indra, Rubio desgrana las distintas utilidades que ofrece a sus clientes. Por motivos de confidencialidad, no puede hablar de las decenas de empresas a las que suministra información. Por eso pone ejemplos un tanto exóticos como el del turismo en Mozambique o los residuos de Haro.

 Cuando termina, la pregunta gira en torno a la posibilidad de que los algoritmos se hayan convertido en el tesoro más preciado de las empresas. “Definitivamente, sí”, responde sin dudar.

¿Y los riesgos? ¿Van a tomar las máquinas el lugar de los humanos? “Esto es algo que preocupa. Todo lo que desconocemos genera desconfianza. Pero la tecnología nos habilita para limitar los riesgos y acercar las industrias digitales a las personas. El riesgo es inherente al ser humano, no a las tecnologías”, concluye Rubio.

Al ser preguntada por la brecha salarial entre hombres y mujeres, Fuencisla Clemares, directora general de Google España, vino a decir que en su empresa no sabían lo que era eso. Allí, un algoritmo ciego a las cuestiones de género propone cuánto debe cobrar cada uno. La frialdad de las matemáticas puede lograr decisiones más objetivas y libres de prejuicios. Pero, ¿y si las máquinas tienen su propio sesgo? 

¿Y si este es aún más invisible que el de los humanos? Un reciente artículo del Financial Times contaba cómo en una empresa estadounidense de atención telefónica, la valoración del trabajo de los empleados había pasado de los humanos a las máquinas. 

Pero que estas puntuaban con una nota más baja a aquellos con un fuerte acento, ya que a veces no podían entender lo que decían. Ejemplos como este muestran el riesgo creciente de que los algoritmos se alcen como los nuevos jueces de un tribunal supremo e inapelable.

Esteban Moro, investigador de la Universidad Carlos III y del Massachusetts Institute of Technology (MIT) centra el debate en una palabra: la escala. “El problema no es que los algoritmos tengan sesgo, porque los humanos también los tenemos. 

El problema es que estas fórmulas matemáticas pueden afectar a cientos de millones de personas y tomar decisiones con efectos mucho mayores que las sentencias de un juez”, explica. Así, una persona que busca empleo puede librarse de la tiranía de los gustos o prejuicios del director de recursos de una u otra empresa. Pero a cambio se enfrenta a los criterios que comparten macroportales de ofertas de trabajo. El monstruo se hace más grande.

Juan Francisco Gago, director de Prácticas Digitales en Minsait, de Indra, admite que, en la medida en que los algoritmos acaban tomando decisiones, pueden suscitar problemas morales. Y para ello pone el ejemplo de un aparato de inteligencia artificial capaz de hacer detecciones de cáncer. 

“Quizás con más precisión que un oncólogo humano”, matiza. “Pero al final, la responsabilidad no puede estar en una máquina, sino en los individuos que la programan. Es necesario que se establezca un marco regulatorio para esos casos”, asegura el directivo de Indra.

El Reglamento General de Protección de Datos, que entrará en vigor en la UE el próximo mes de mayo, establece que los ciudadanos europeos no deben ser sometidos a decisiones “basadas únicamente en el proceso de datos automáticos”, con una mención expresa a las “prácticas de contratación digital sin intervención humana”.

El equipo del MIT donde trabaja Moro desarrolla un proyecto de ingeniería inversa donde se pretende analizar cómo trabajan los algoritmos de gigantes como Google y Facebook. La idea es hacer experimentos con personas que introducen diversas informaciones en las redes, para ver luego cómo estas empresas reaccionan. 

Se trata, en el fondo, de intentar domar a la bestia y ver si es posible conocer cómo funcionan fórmulas matemáticas que tienen un impacto en nuestras vidas. Un impacto que nadie duda irá a más en los próximos años."       ( Luis Doncel, El País, 03/03/18)