¿Cuál es la mejor manera de desarrollar la inteligencia artificial? Estamos viendo cómo se desarrollan ante nuestros ojos dos enfoques completamente diferentes... Uno es la carrera entre gigantes tecnológicos mundiales que comenzó con el reciente lanzamiento del ChatGPT, financiado por Microsoft, y que ya ha provocado promesas de sistemas similares por parte de Google y la empresa china Baidu... El otro es el proceso de la Unión Europea para regular la inteligencia artificial, especialmente a través del amplio paquete legislativo de la Ley de IA y las normas relacionadas. Esto clasificará los sistemas según cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo/cero. Aquí, el modus operandi es democrático y político, expresado a través de la legislación y otras formas de regulación... No se puede dar rienda suelta a las mayores empresas del mundo en su competición por capitalizar la inteligencia artificial.

 "¿Cuál es la mejor manera de desarrollar la inteligencia artificial? Esta pregunta, durante mucho tiempo teórica, se está convirtiendo rápidamente en una preocupación práctica, que pronto exigirá que se tomen importantes decisiones estratégicas. Estamos viendo cómo se desarrollan ante nuestros ojos dos enfoques completamente diferentes.

Uno es la carrera entre gigantes tecnológicos mundiales que comenzó con el reciente lanzamiento del ChatGPT, financiado por Microsoft, y que ya ha provocado promesas de sistemas similares por parte de Google y la empresa china Baidu. En estos casos, el mercado (o, más bien, el afán de lucro) es el mecanismo que impulsa a las empresas a tomar decisiones que probablemente deberían -y quizá preferirían- posponer.

El otro es el proceso de la Unión Europea para regular la inteligencia artificial, especialmente a través del amplio paquete legislativo de la Ley de IA y las normas relacionadas. Esto clasificará los sistemas según cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo/cero. Aquí, el modus operandi es democrático y político, expresado a través de la legislación y otras formas de regulación.

Hasta ahora, el mercado ha sido dominante, aunque a menudo apoyado por préstamos gubernamentales e inversiones públicas en investigación y espíritu empresarial. Esto se debe en parte al rápido ritmo del cambio tecnológico, que dificulta a las instituciones democráticas y a los Estados-nación seguir el ritmo. Tanto jurídica como técnicamente, la regulación de la IA ha resultado extremadamente difícil.

 ChatGPT ilustra algunas de las dificultades y riesgos. El sistema es accesible en todo el mundo y probablemente se difundirá rápidamente cuando Microsoft lo incorpore a sus numerosos productos y permita a otras empresas hacer lo mismo. Es probable que los sistemas de IA de Google y Baidu tengan efectos de difusión similares.

No está claro cómo regular eficazmente esta tecnología intrínsecamente global y amorfa, y la influencia de cada país puede ser muy limitada. Por esta razón, se están llevando a cabo esfuerzos internacionales. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura lanzó el primer acuerdo mundial sobre la ética de la IA en 2021 y ahora hay procesos en todo el mundo -incluso en Estados Unidos- para regular la IA de diversas maneras.

La iniciativa de la UE de crear legislación y normas para garantizar una IA ética y sostenible ha sido un catalizador. No hay que subestimar la influencia de la Unión: un mercado de 500 millones de personas con ingresos elevados a escala mundial no es insignificante. La esperanza es que una normativa de la UE que se desarrolle rápidamente pueda tener un efecto normalizador en el mercado mundial, aunque se trata de una perspectiva muy incierta.

 Un obstáculo tiene que ver con la participación de Baidu en la carrera: los gobiernos autoritarios pretenden utilizar la tecnología de IA para la vigilancia y la represión, y no es muy plausible que tales Estados cumplan voluntariamente la normativa de la UE. En el caso de China ni siquiera es necesario, ya que el mercado nacional es lo suficientemente grande como para que la tecnología de IA se desarrolle rápidamente y según reglas y normas completamente diferentes a las de EE.UU. o Europa.
Difusión explosiva

A los dos meses de su lanzamiento, ChatGPT había acumulado 100 millones de usuarios. Las fuerzas del mercado pueden provocar la propagación explosiva de tecnologías de IA que las empresas que las desarrollan no comprenden del todo y que se resisten a explicar a extraños. Varios usuarios han conseguido "engañar" a ChatGPT para que dé respuestas de las que se supone que no es capaz: proporcionar recetas de drogas o explosivos y expresar opiniones racistas.

¿Por qué ChatGPT muestra este comportamiento inesperado y contradictorio? Nadie lo sabe realmente y la empresa que está detrás de esta tecnología, OpenAI, no es muy abierta en lo que a información se refiere. Así que le pregunté a ChatGPT. Me respondió crípticamente: "Como modelo de IA entrenado por OpenAI, estoy en constante desarrollo y mejora".

Parece muy difícil, incluso para los creadores del sistema, regular su uso y funcionalidad. Aún más cautela debería guiar el uso y la difusión de sistemas más complejos con consecuencias aún más graves que no podemos predecir ni evitar. Los riesgos de dejar que el mercado difunda la tecnología de IA y desencadene una carrera armamentística entre competidores deberían ser evidentes.
Daños potenciales

Muchos estudiosos han señalado los peligros sociales del desarrollo rápido e incontrolado de la IA. Daron Acemoglu, catedrático de Economía del Instituto Tecnológico de Massachusetts, ha advertido de que el rápido cambio tecnológico debe ir acompañado de reformas del bienestar y del mercado laboral para evitar la creciente desigualdad, la erosión de la democracia y el aumento de la polarización. Dani Rodrik, economista de Harvard, ha propuesto un enfoque similar: "Las políticas gubernamentales pueden ayudar a guiar la automatización y las tecnologías de inteligencia artificial por una senda más favorable al trabajo que complemente las capacidades de los trabajadores en lugar de sustituirlas".

 El matemático sueco Olle Häggström, experto en los riesgos existenciales de la IA, lleva mucho tiempo advirtiendo de los posibles perjuicios, desde la vigilancia y el desempleo hasta los sistemas de armamento autónomos y un futuro en el que las máquinas simplemente se apoderen del mundo. Le preocupa el lanzamiento de ChatGPT. Lo ve como un indicio de lo difícil que será el llamado problema de alineación de la IA -diseñar en un sistema de IA todas las barandillas para evitar que se desvíe del camino- para sistemas más capaces y, en consecuencia, más peligrosos.

Hay razones para detener o restringir severamente ciertos tipos de sistemas hasta que los comprendamos mejor. Esto requeriría un amplio debate, educación y comunicación, fundamentados democráticamente. De lo contrario, es probable que se produzcan reacciones negativas por parte de los ciudadanos privados de estas tecnologías (especialmente si personas de otros países pueden utilizarlas). Esto ya ha sucedido con el Reglamento General de Protección de Datos (RGPD): aunque tiene muchos aspectos positivos, es ampliamente rechazado y ridiculizado, ya que la UE ha conseguido presentarse como un coloso burocrático empeñado en dificultar el uso de internet a la gente corriente.
Más y mejor

Algunos ven la regulación de la IA como un obstáculo a la innovación y advierten de que el enfoque europeo podría reducir a la UE a un remanso de IA. Mientras tanto, Estados Unidos y China irían por delante, menos preocupados por la legislación, las normas industriales y las directrices éticas.

Por supuesto, la regulación no es perfecta y los Estados no siempre son benévolos ni sabios. Está claro que necesitamos una combinación de mercado y regulación. Pero dados los riesgos potenciales y el rápido ritmo de desarrollo y difusión de la tecnología, hemos tenido demasiado de lo primero y muy poco de lo segundo.

Los mercados no contrarrestan suficientemente las "externalidades negativas" (efectos secundarios indeseables). No distribuyen el valor económico creado por la tecnología de forma sostenible y equitativa. No incorporan consideraciones sociales o políticas. Y rara vez contribuyen a soluciones tecnológicas que beneficien a la sociedad en su conjunto."                     (German Bender , Social Europe, 15th February 2023)

Mariana Mazzucato: La Inteligencia Artificial al servicio del bien común

 "El mundo tecnológico generó abundantes noticias de portada en 2022. En octubre, Elon Musk compró Twitter (una de las principales plataformas de comunicación pública de periodistas, académicos, empresas y gobiernos) y procedió a despedir a la mayor parte del personal de moderación de contenido, indicando al hacerlo que la empresa iba a usar inteligencia artificial en su reemplazo.

Luego, en noviembre, un grupo de empleados de Meta reveló que habían diseñado un programa de IA capaz de vencer a la mayoría de los humanos en el juego de estrategia Diplomacy. En Shenzhen (China), el gobierno está usando la tecnología de «gemelos digitales» con miles de dispositivos móviles conectados a 5G para monitorear y gestionar los flujos de personas y automóviles y el consumo de energía en tiempo real.

Y con la última versión del modelo lingüístico predictivo ChatGPT, muchos han declarado el fin de la tesis estudiantil. En síntesis, fue un año en el que inquietudes serias respecto del diseño y el uso de las tecnologías se profundizaron para dar lugar a dudas aun más urgentes. ¿Quién tiene el control? ¿Quién debería tenerlo? Se necesitan políticas e instituciones públicas que velen por que las innovaciones impliquen mejoras para el mundo; pero hoy, muchas tecnologías se desarrollan en un vacío. Necesitamos estructuras de gobernanza con sentido de misión inclusivas y centradas en un auténtico bien común.

 Gobiernos provistos de las capacidades necesarias pueden guiar esta revolución tecnológica para que sirva al interés público. Tomemos el caso de la IA, que el Diccionario de la Real Academia Española define así: «Disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico». La IA puede traernos numerosos beneficios; por ejemplo mejorar la producción y la gestión de los alimentos aumentando la eficiencia de la agricultura y la seguridad de los productos alimentarios, o ayudarnos a fortalecer la resiliencia frente a desastres naturales, diseñar edificios con eficiencia energética, mejorar el almacenamiento de energía y optimizar el despliegue de las fuentes de energía renovables. Y puede incrementar la exactitud de los diagnósticos médicos (cuando se la combina con la opinión profesional). Estas aplicaciones prometen una variedad de beneficios. Pero sin reglas efectivas, hay riesgo de que la IA cree nuevas desigualdades y amplíe las ya existentes.

 No hace falta buscar mucho para encontrar ejemplos de sistemas basados en IA que reproducen sesgos sociales injustos. En un experimento reciente, robots manejados por un algoritmo de aprendizaje automático mostraron un comportamiento abiertamente racista y sexista. Sin la debida supervisión, puede ocurrir que algoritmos supuestamente diseñados para ayudar al sector público a gestionar prestaciones sociales terminen discriminando a familias realmente necesitadas. 

Otro ejemplo igual de preocupante es que en algunos países, las autoridades públicas ya usan tecnologías de reconocimiento facial basadas en IA para controlar a disidentes políticos y someter a la ciudadanía a regímenes de vigilancia masiva. Otro problema importante es la concentración de mercados. Unos pocos actores poderosos geográficamente concentrados dominan el desarrollo de la IA (y el control de los datos subyacentes). Entre 2013 y 2021, el 80% de la inversión mundial privada en IA se hizo en China y en Estados Unidos. Ya hay un enorme desequilibrio de poder entre los dueños privados de estas tecnologías y el resto de la gente.

Pero la IA también recibe una enorme cantidad de financiación pública, y esos fondos deberían estar al servicio del bien común y no de unos pocos. Necesitamos una arquitectura digital que distribuya en forma más equitativa los beneficios de la creación colectiva de valor. Ya no se puede tener una postura no intervencionista basada en la autorregulación. 

Dar vía libre al fundamentalismo de mercado es condenar al Estado y a los contribuyentes a reparar más tarde los destrozos (como hemos visto en el contexto de la crisis financiera de 2008 y de la pandemia de COVID‑19), no sin grandes costos financieros y cicatrices sociales duraderas. En el caso de la IA es todavía peor, porque ni siquiera sabemos si una intervención ex post será suficiente. Como señaló hace poco The Economist, es común que hasta los desarrolladores de IA se sorprendan por el poder de sus creaciones. Felizmente, ya sabemos cómo evitar que el laissez faire vuelva a provocar una crisis. 

Necesitamos una misión para crear una IA que sea «ética por diseño», sobre la base de normativas sólidas y de la labor de gobiernos provistos de las capacidades necesarias para guiar esta revolución tecnológica en dirección al bien común y no sólo en beneficio de los accionistas. Una vez plantados estos pilares, el sector privado podrá y querrá unirse al esfuerzo más amplio en pos de crear tecnologías más seguras y justas. Se necesita una supervisión pública eficaz para que la digitalización y la IA generen oportunidades para la creación de valor público.

 Este principio es un componente esencial de la Recomendación sobre la Ética de la IA, un marco normativo propuesto por la UNESCO y aprobado por 193 estados miembros en noviembre de 2021. Además, actores clave han comenzado a asumir la responsabilidad de reformular el debate; en los Estados Unidos, el gobierno del presidente Joe Biden ha propuesto una Carta de Derechos para la IA, y la Unión Europea está desarrollando un marco holístico para la gobernanza de la IA. Pero el uso público de la IA también debe estar asentado en una sólida base ética. Frente al avance de esta tecnología como herramienta auxiliar para la toma de decisiones, es importante evitar un uso de los sistemas de IA que sea contrario a la democracia o a los derechos humanos. 

 También hay que resolver la falta de inversión en las capacidades de innovación y gobernanza del sector público, que (como puso de manifiesto la COVID‑19) tienen que ser mucho más dinámicas. Si, por ejemplo, no se fijan términos y condiciones claros para las alianzas público‑privadas, existe el riesgo de que las empresas se adueñen de la agenda. Pero el problema es que la subcontratación (externalización) de funciones del Estado se ha convertido en un importante obstáculo a la creación de capacidades en el sector público. 

Para mantener el control sobre productos importantes y garantizar el respeto de normas éticas, los gobiernos deben tener capacidad de desarrollar la IA sin depender del sector privado para la provisión de sistemas de carácter delicado. También tienen que poder sostener un uso compartido de la información y la interoperabilidad de protocolos y métricas entre los diversos departamentos y ministerios. Todo esto demandará inversión pública en las capacidades del Estado, según un enfoque basado en la idea de misión. 

En vista de la concentración de conocimiento y experiencia que hay en el sector privado, la creación de sinergias entre los sectores público y privado es a la vez inevitable y deseable. El sentido de misión tiene que ver con seleccionar actores dispuestos a colaborar, mediante la inversión conjunta con socios que reconozcan el potencial de las misiones lideradas por el Estado. La clave está en darle al Estado la capacidad de gestionar el despliegue y el uso de los sistemas de IA, en vez de estar siempre corriendo detrás de los acontecimientos. 

Un modo de asegurar una correcta distribución de los riesgos y beneficios de la inversión pública es que los gobiernos pongan condiciones para la provisión de fondos públicos. También pueden, y deben, exigir más apertura y transparencia  a las grandes empresas tecnológicas. El futuro de nuestras sociedades está en juego. No sólo debemos corregir los problemas y controlar los riesgos de la IA, sino también influir en el rumbo general de la transformación digital y de la innovación tecnológica. ¿Qué mejor momento que el comienzo de un nuevo año para empezar a sentar las bases de un proceso de innovaciones ilimitadas al servicio de toda la humanidad?"                 

(Gabriela Ramos, Assistant Director-General for Social and Human Sciences at UNESCO. Mariana Mazzucato, Professor in the Economics of Innovation and Public Value at University College London, Project Syndicate, 26/12/22)

Alfabetización algorítmica o la necesidad de repartir el poder... Al igual que saber leer y escribir fue fundamental para la autonomía personal o el ejercicio de la ciudadanía plena, en este tiempo en el que la inteligencia artificial estará en todas partes, la alfabetización algorítmica será la que nos permita seguir siendo libres.... De lo contrario, habrá dos clases de personas, los que pueden usar los algoritmos y los que son usados por ellos... La ciudadanía digital hacia la que caminamos requiere educarnos en este nuevo contexto en el que las frases han sido sustituidas por líneas de código... La sociedad ha de ser capaz de razonar sobre los algoritmos y sus procesos; evaluar su influencia, comprender el efecto que tienen en contextos sociales, culturales, económicos y políticos; y, en definitiva, hacer que la persona sea codecisora... Esto no va de aprender a escribir código, esto va de ser parte activa del diseño social que se está codificando en la tecnología.

 "Es muy complicado desenvolverse en una sociedad en la que los algoritmos cada vez están más presentes, si no somos capaces de comprenderlos. Y no me refiero a las tradicionales competencias digitales, ni tampoco a la programación avanzada. Al igual que saber leer y escribir fue fundamental para la autonomía personal o el ejercicio de la ciudadanía plena, en este tiempo en el que la inteligencia artificial estará en todas partes, la alfabetización algorítmica será la que nos permita seguir siendo libres. De lo contrario, habrá dos clases de personas, los que pueden usar los algoritmos y los que son usados por ellos.

La ciudadanía digital hacia la que caminamos requiere educarnos en este nuevo contexto en el que las frases han sido sustituidas por líneas de código. Los sistemas automatizados se extienden rápidamente. Cada vez deciden o influyen en más aspectos de nuestras vidas. Es un espacio aún opaco, invisible. Hay un desconocimiento generalizado sobre qué son, dónde se usan, para qué y cuáles son sus impactos. Tampoco hay, de momento, auditorías o estándares que garanticen su calidad. ¿Cómo puede una persona decidir si está de acuerdo con las reglas de decisión integradas en la inteligencia artificial que controla su vida sin comprenderla? La opinión pública y política se entera de su existencia cuando rompe el escándalo, como en el caso del gobierno de Países Bajos, condenado por vulnerar derechos humanos al utilizar un algoritmo contra sus propios ciudadanos.

Las cifras hablan por sí solas. Más del 90% de todas las búsquedas del mundo son a través de un mismo sitio: Google. Cada día miles de millones de personas se encomiendan a su algoritmo para todo. Es una calle de doble dirección, la web da información a cambio de nuestros datos ¿Somos conscientes? ¿Conocemos formas de protegernos? ¿Y de influir sobre el algoritmo? Si no se comprende su funcionamiento se puede terminar atrapado en una burbuja de preferencias en la que la visión del mundo se reduce progresivamente. Y lo que no necesitamos, precisamente, son más trincheras. Y qué hay de los modelos generativos de inteligencia artificial como ChatGPT que en cinco días consiguió un millón de usuarios -Netflix tardó más de tres años-. ¿Estamos preparados como sociedad para detectar aquellos contenidos que no se ajusten a la realidad? ¿Comprendemos, aunque sea de forma básica, cómo aprende este modelo?

 La alfabetización algorítmica puede definirse como la habilidad de ser consciente del uso de algoritmos en aplicaciones, plataformas y servicios en línea. Entender cómo funcionan, ser capaz de evaluar críticamente la toma de decisiones, tener las competencias para hacer frente a las operaciones algorítmicas o, incluso, influir en ellas. Recordemos que un algoritmo es un conjunto de reglas u órdenes cuyo uso se ha intensificado con la inteligencia artificial. De hecho, ya hay una generación que solo ha experimentado un mundo mediado por ellos y de alguna forma están siendo dirigido por los datos que estos recogen, ya que sus preferencias están condicionando lo que se les muestra en las pantallas. ¿Quién les ayuda?

Los algoritmos están por todas partes, están integrándose en nuestras actuales estructuras socioeconómicas y en otros aspectos de la vida cotidiana, incluido el trabajo académico. No es algo negativo, al contrario, su aplicación a gran escala ha tenido un efecto neto positivo. La gente puede ser más productiva, saber más sobre más temas que nunca, identificar tendencias o comprender mejor el mundo que les rodea. Estamos descubriendo nuevas formas de relacionarnos con nuestra creatividad y con el conocimiento gracias a los últimos avances generativos. Y solo va a ir a más. Por eso precisamente debemos tener las habilidades de conducción necesarias que nos permitan dominar la máquina y no al contrario. Es el momento de avanzar en el conocimiento de la tecnología y redistribuir con ello el poder que tienen quienes la controlan.

Como siempre, las escuelas y los centros de enseñanza tienen un papel fundamental. Hay que empezar por el principio. Privacidad y cómo manejar los ajustes para que la intimidad se preserve. Seguir por cómo nos informamos, cómo se busca; por qué ves lo que ves y el orden en el que lo haces. Sería interesante que los estudiantes reflexionaran sobre como investigan para aprender a ser más críticos y a dominar la intención en el proceso.

 La sociedad ha de ser capaz de razonar sobre los algoritmos y sus procesos; evaluar su influencia, comprender el efecto que tienen en contextos sociales, culturales, económicos y políticos; y, en definitiva, hacer que la persona sea codecisora. Debemos estar mejor equipados para una realidad en la que se delega en estos sistemas automáticos. En definitiva, la necesidad de una alfabetización algorítmica surge de la necesidad de repartir el poder. Los algoritmos, especialmente los que utilizan machine learning y deep learning, son complejos, opacos, invisibles, y protegidos por la propiedad intelectual, pero sobre todo, tienen consecuencias sobre la vida de las personas. El control lo tienen quienes los crean y despliegan, no quienes los utilizan. Y eso es lo que hay que cambiar. Esto no va de aprender a escribir código, esto va de ser parte activa del diseño social que se está codificando en la tecnología."                       (Lucia Velasco, El País, 16/01/23)

Daniel Susskind: “El desafío económico del siglo XXI es la distribución de la riqueza... para lo que hay que elegir entre la renta básica universal o el trabajo garantizado

 "El trabajo no es solo una fuente de ingresos. Para muchas personas, es también una fuente de significado que forma su identidad y orienta sus vidas. Según el experto en inteligencia artificial y profesor de Economía en la Universidad de Oxford Daniel Susskind, todo eso podría estar a punto de cambiar. 

En su libro A world without work (seleccionado por The Financial Times como uno de los cuatro mejores títulos de economía de 2020), Susskind argumenta que la revolución de la inteligencia artificial se distinguirá de los anteriores avances tecnológicos porque esta vez el riesgo de competir con una máquina se extiende a muchos más sectores. 

Como explicó durante una entrevista por Skype, el estrago no se limitará al mercado laboral “sino que puede significar un gran agujero en esa idea de sentido, de estar contribuyendo y de tener un propósito que proporciona el trabajo”.

 Según Susskind, no hay que esperar al futuro para entender la importancia de estas cuestiones. Los desempleados del cinturón industrial estadounidense que se niegan a buscar trabajo en tareas eminentemente femeninas como la enfermería o la enseñanza infantil son, dice, un ejemplo de lo relevante que es el tema de la identidad en el trabajo. 

Lo mismo con los universitarios desocupados de Corea del Sur que rechazan ofertas laborales por debajo de su nivel de formación. “Todo esto es para decir que no nos bastará con formar a la gente para que adquiera nuevas habilidades, también vamos a tener que pensar en estos conceptos de significado, identidad y propósito”.

Pregunta. ¿Qué otras actividades podrían convertirse en esa brújula vital que ha sido hasta ahora el trabajo?

Respuesta. Si nos tomamos en serio la amenaza de un mundo donde no habrá trabajo suficiente para todos, tenemos que pasar menos tiempo diseñando políticas de mercado laboral y más tiempo pensando en la manera en que la gente va a pasar su tiempo libre, cómo hacer para que el tiempo en el que no están trabajando lo pasen de una manera significativa, valiosa y gratificante.

P. ¿Por ejemplo?

R. Parece una idea poco común, pero no es tan radical. En las políticas de los gobiernos de todo el mundo hay un montón de pequeñas intromisiones en lo que hace la gente en su tiempo libre. En el Reino Unido, tenemos un departamento ministerial para la cultura, los medios y el deporte. Es decir, todo un departamento del gobierno ocupado en moldear la manera en que la gente pasa su tiempo libre haciendo que los museos sean gratis y que los parques sean bonitos y accesibles, incentivando que los niños lean, naden y monten en bicicleta. 

Son intrusiones menores pero intrusiones al fin. Pero es que incluso en el sistema de pensiones hay una valoración implícita y es la de que te tomes tu tiempo de descanso solo cuando tienes menos utilidad como trabajador. Todas estas cosas son relativamente accidentales, pequeñas intrusiones, pero si vamos a un mundo en el que no habrá suficiente trabajo, es el tipo de intervenciones en el que vamos a tener que pensar de forma más sistemática y detenida.

 P. En alguna ocasión ha defendido la capacidad de la tecnología para agrandar el pastel como un argumento para el optimismo, ¿pero no es un problema de distribución de riqueza el que enfrentamos?

R. Durante la mayor parte de la historia de la humanidad el problema ha sido el tamaño del pastel a repartir, cómo hacerlo lo suficientemente grande para que diera para todos. Pero en los últimos cien años nos hemos acercado mucho a la solución de ese problema. Por supuesto que eso no significa que el pastel vaya a ser distribuido de manera equitativa automáticamente. Al contrario, mucha gente tiene una parte muy pequeña, migajas. 

El desafío económico del siglo XXI será claramente uno de distribución, de reparto del pastel, pero en cualquier caso es un desafío mucho mejor que el que enfrentaron nuestros antepasados durante siglos. El mercado laboral ha sido uno de los mecanismos que tradicionalmente hemos usado para hacer ese reparto, ¿pero cómo hacerlo si los salarios pierden eficacia en un mundo con menos trabajo disponible?

P. Si no es con el mercado laboral, ¿de qué otra manera se podrá hacer el reparto?

R. Una de las ideas que están tomando forma para enfrentar estos desafíos tecnológicos es que el gobierno dé un paso al frente y desarrolle un programa de trabajo garantizado. Sería una alternativa a la renta básica universal, otro enfoque que también resuelve el tema del reparto en un mercado laboral incapaz de proporcionar todos los trabajos que hacen falta. La diferencia es que el programa del que hablo proporciona un ingreso a través de ese trabajo garantizado, mientras que la renta básica universal no tiene en cuenta si la persona trabaja o no. 

Las dos propuestas parten de asunciones diferentes sobre la relación que hay entre el trabajo y estas nociones de sentido, significado y propósito. Si crees que hay una relación fuerte, entonces el esquema de trabajos garantizados parece el más atractivo. Si por el contrario crees que es posible encontrar significado y propósito fuera del trabajo, entonces la opción de la renta básica universal parece mejor.

P. En estos años de concentración de riqueza y retrocesos en derechos laborales por las nuevas formas de contratación de las tecnológicas, ¿no es utópico pensar en un gran Estado que garantizará ingresos y trabajos?

 R. El economista estadounidense J. K. Galbraith escribió que uno de los problemas de la economía estadounidense fue que el poder estaba concentrado en manos de grandes industrias y empresas, y hacía falta que los trabajadores lo contrarrestaran con su negociación colectiva. Una de las áreas en las que la tecnología no ha influido mucho, y no entiendo por qué, es nuestra forma de hacer negociación colectiva. Los sindicatos tratan de ejercer el poder de una forma verdaderamente anticuada, no han aprovechado los cambios tecnológicos de las últimas décadas.

 Hay una oportunidad de empezar, con una hoja en blanco, a pensar de qué manera las opciones tecnológicas disponibles pueden usarse para reformular el funcionamiento de los sindicatos y hacer que se conviertan en un contrapeso en este mundo en el que los avances están quitándole poder a los trabajadores y dándoselo a las grandes tecnológicas."                 (Entrevista a Daniel Susskind, Francisco de Zárate, El País, 29/08/21)

Max Tegmark: “La Inteligencia Artificial puede ser lo mejor que haya sucedido nunca, o lo peor... “Podemos utilizarla para curar enfermedades, acabar con la pobreza o el cambio climático. Pero también para extinguir la humanidad si cometemos errores estúpidos”

  "Pensar que no puede existir nada ni nadie más inteligente que el ser humano es un tremendo error. Así se expresa Max Tegmark, físico y cosmólogo sueco, en el Foro Telos 2020. 

Durante el encuentro, Tegmark señala que hasta ahora vivimos en una especie de “chovinismo de carbono”. Y la inteligencia consiste en procesar información, donde poco importa que la procesen los átomos de carbono en las neuronas del cerebro o los átomos de silicio de los ordenadores.

El cosmólogo, profesor en el Instituto Tecnológico de Massachusetts (MIT), estima que la llegada de una inteligencia artificial (IA) general que supere a la humana es cuestión de décadas.

Para él, la pregunta clave es si debemos estar emocionados o aterrados, porque, haciendo una analogía, “podemos coger un cuchillo para hacer una deliciosa paella o para matar a alguien”. No se trata de si la IA es buena o mala, sino cómo la empleemos: “Podemos utilizarla para curar enfermedades, acabar con la pobreza o el cambio climático. Pero también para extinguir la humanidad si cometemos errores estúpidos”.

El grado de preparación marca la diferencia

Ante futuras pandemias como la actual de covid-19, Tegmark indica que lo importante es estar preparados. “Así no tendremos nada que temer porque podremos asegurarnos de que no sucederá lo que ha sucedido y, en caso de que lo haga, estaremos preparados para resolverlo”.

 “Corea del Sur estaba preparada para la pandemia. España no tanto. Y esa es la razón por la que el número de muertes es mucho mayor aquí. El grado de preparación marca la diferencia”.

 Un plan que se anticipe al futuro

Al calibrar los riesgos para la humanidad que podría traer la inteligencia artificial, Tegmark la compara con la llegada de las armas nucleares. Y aboga por un consenso entre todos los países en el que se entienda su peligrosidad y cómo proceder: “Es fantástico que la Unión Europea esté desarrollando un reglamento general de protección de datos para la IA con nuevas normas”, dice con entusiasmo.

El profesor del MIT señala que convertir la inteligencia artificial en el arma más potente a nuestro alcance no tiene que ser algo negativo, como sí ocurre con las armas nucleares: “Pero para conseguir que un futuro mejor sea una realidad debe existir una visión optimista común que podamos respaldar”.

Aunque empresas como Google o Facebook pidan que no se regule la IA, el físico europeo advierte de que dejar en manos de unos pocos la IA sería un error terrible:

“Nuestra estrategia hasta ahora ha consistido en aprender de los errores. Pero con una tecnología más potente, como las armas nucleares o la IA, aprender de los errores es una idea terrible. Es mucho mejor ser proactivo y elaborar un plan de antemano para evitar que todo pueda salir mal”.

 ¿Quién estará al mando?

El profesor del MIT expone que actualmente las investigaciones se dirigen hacia una inteligencia artificial general que llegue a ser igual de buena que el ser humano en cualquier aspecto.

“Pero si llegamos a este punto habremos alcanzado lo mejor de lo peor que jamás ha sucedido en la humanidad. Porque evidentemente no te van a pagar por hacer tu trabajo si hay una máquina que lo hace más barato”.

Por eso, hay que considerar que si todas estas máquinas fueran propiedad de una sola persona, todos acabaríamos muriendo de hambre. Las consecuencias dependerán de en qué manos caigan estas herramientas. Y, a juicio de Tegmark, lamentablemente vamos por el camino incorrecto, pues las desigualdades sociales son cada vez mayores.

¿Cuándo podremos confiar en estas máquinas?

El autor del libro ‘Vida 3.0’, en el que se plantean los desafíos y oportunidades que se esperan de la IA, recuerda que no se nos debe exigir que confiemos completamente en ella, pues en la historia de las tecnologías se han cometido muchos errores. “La solución no es crear propaganda psicológica y decirle a la gente que confíe en la IA, sino trabajar de manera incesante en estudiar su seguridad y entender bien cómo funcionan”.

De lo único que estoy seguro es de que será lo mejor o lo peor que haya sucedido nunca. Si la tecnología va a avanzar, también debemos asegurarnos de que crezcan los conocimientos con los que vamos a manejar esa tecnología de forma adecuada. Los conocimientos deben ser lo primero"."                

 (La versión original de este artículo fue publicada en la Revista Telos, de Fundación Telefónica. , Max Tegmark , The Conversation, 11/02/21)

El pueblo gallego donde los robots son burócratas. El Ayuntamiento del municipio coruñés de Rois prueba un sistema de automatización de tareas para reducir las labores mecánicas

 "El alcalde de Rois, Ramón Tojo, tiene claro que los robots no son el futuro, sino el presente. El Ayuntamiento coruñés de poco más de 4.500 habitantes ha puesto a prueba un sistema de inteligencia artificial para automatizar procesos mecánicos. 

La llegada de la nueva tecnología ha despertado la curiosidad de los trabajadores del Consistorio y de los vecinos que al escuchar la palabra esperaban un androide autónomo —como en las películas de ciencia ficción— cumpliendo tareas administrativas. 

Todo lo contrario, las herramientas son completamente cotidianas. Se trata de un ordenador portátil con un programa capaz de replicar las acciones de una persona, como llenar formularios, transcribir información o cruzar bases de datos. Por el momento tiene una sola tarea: presentar información a Hacienda bajo la supervisión de la interventora, Begoña Collazos.

El Ayuntamiento es parte de un programa piloto que la empresa gallega Audicon también dirige en la Diputación de Badajoz. Se trata de un servicio de implantación de Automatización Robótica de Procesos. Fuentes de la compañía aseguran que la extenderán a otras entidades locales. Funciona así: la firma instala una aplicación en los ordenadores de los trabajadores y la prepara para seguir un proceso de acuerdo con las necesidades del Consistorio. Está diseñada para observar las acciones del empleado dentro de otros programas —como Excel o las páginas con formularios de la Administración Pública— y replicarlas.

Por ejemplo, si un funcionario tiene que pasar información de un documento a una hoja de cálculo, el sistema puede aprender de lo que está haciendo e imitarlo automáticamente en un menor tiempo. Collazos insiste en que el propósito de esta tecnología no es reemplazar a los funcionarios, sino liberarlos de tareas rutinarias. El robot entró para quitarle el trabajo solo a los vecinos, que ya no necesitarán dejarse muchas horas en trámites y podrán recibir más atención de los trabajadores, según la interventora.

Un cartel de anuncios puede sorprender en la esquina más inusual de las callejuelas de Rois para recordar que todo pasa por el Consistorio. Están repartidos entre las dispersas casas y los amplios terrenos con avisos sobre trámites y servicios: inscripciones catastrales, permisos, cursos, eventos o pagos. Es por eso que el alcalde ve en los robots posibilidades infinitas. “Podremos facturar automáticamente a las personas por las horas de clase que toman o conectar la información de quien ha pagado en el banco para las excursiones de mayores, sin que traigan el comprobante”, agrega Tojo. Para él, la cuestión también tiene que ver con presentarse como una ciudad modelo, empezando por las cosas más pequeñas y útiles. “No queremos una Smart City, solo queremos que el Ayuntamiento sea más eficiente”, zanja.

A escasos 30 minutos de Santiago de Compostela, Rois está vertebrado por la carretera CP-7401, una de las que conecta la capital gallega con el municipio de Padrón. El acceso vial y la eficiencia son, según Tojo, los elementos cruciales para atraer nuevos vecinos a la localidad y escapar de la etiqueta de la España vacía. El alcalde cree en el potencial de crecimiento de la zona, pero teme que el abandono lo corte. La interventora está de acuerdo: “Estas iniciativas son una forma de trabajar mejor con los recursos que tenemos”. Para los empleados del Consistorio todo parece muy ajeno, pero no sienten amenaza alguna a sus puestos de trabajo. Una de las empleadas del área de servicios sociales sabe que hay tareas reservadas solo para las personas, y que la tecnología “puede ayudar mucho en la parte financiera y quitar un poco el trabajo” aunque reconoce que no está muy segura de dónde guardan al robot.

La respuesta a esa pregunta descansa, desapercibida, en el escritorio de Begoña Collazos. Por el momento, la interventora es la única que lo ha usado. Quiere asegurarse de que funcione bien y no cometa errores, sin olvidar que se trata de un programa piloto. Pronto no será así. El Ayuntamiento incorporará el servicio a los Presupuestos del año que viene. El equipo de Tojo espera que empiece a cumplir con otras tareas, invisibles para los vecinos e incómodas para los funcionarios. La cara del Consistorio será siempre humana."                 (Caridad Bermeo, 02/11/20)

Construye el primer exoesqueleto biónico del mundo para menores con atrofia muscular espinal... para encontrarse con que en España no existe una industria dispuesta a comercializarlo

La científica, con su exoesqueleto biónico./ Manolo Finish

"No me considero una persona especialmente inteligente aunque, eso sí, tengo una capacidad de trabajo importante y las metas muy claras. Soy muy luchadora. Si siento que algo merece la pena, voy a por ello sin dudarlo”. 

Elena García Armada (Valladolid, 1971) es una de las destacadas representantes de esa generación de científicos españoles a los que los recortes feroces a punto estuvieron de arruinar la vida. Pero ella es una mujer con una tenacidad que nunca declina. Doctora en Robótica, científica titular del CSIC y socia fundadora de la empresa Marsi Bionics comenzó diseñando robots industriales hasta que una frágil niña se cruzó en su camino.

 “Daniela sufría una tetraplejia severa debido a un accidente y vi que mis conocimientos podían darle una solución”, afirma. Eso fue en 2009. Olvidó sus proyectos productivos y se lanzó a construir el primer exoesqueleto biónico del mundo para menores con atrofia muscular espinal, una enfermedad degenerativa que afecta a más 2.000 jóvenes en España. 

Lo consiguió a base de tantos sacrificios personales que ni los reconocimientos internacionales recibidos ni la medalla de oro otorgada por la Comunidad de Madrid han logrado mitigar. Tan sólo le sirve el resultado: Daniela se puso en pie y caminó otra vez. “Paradójicamente, seguimos esperando la financiación que posibilite la comercialización de este robot porque en España no existe una industria dispuesta a hacerlo”, confiesa.

 Pero no desespera y sigue diseñando nuevos amigos. El próximo para adultos con movilidad reducida por dos dolencias tan devastadoras como el ictus y la esclerosis múltiple. “Pero quienes mueven mi vida de verdad son mis dos hijas”, asegura.

¿Qué es un exoesqueleto biónico?

Es un robot pero no como los de las películas. El mío es una especie de traje mecánico, un pantalón de metal que se acopla a las personas que no pueden caminar como una órtesis larga, un armazón, que la sustenta desde el tronco hasta los pies. Su ventaja es que está motorizada y, por lo tanto, devuelve al paciente la capacidad de andar.

Está diseñado sólo para niños con problemas de movilidad.

Sí, estamos enfocados a niños y niñas que han perdido su capacidad para caminar por una debilidad progresiva. Lo que les aporta este exoesqueleto es la musculatura que van perdiendo. En cada una de las articulaciones del robot tenemos un músculo artificial que entiende lo que quiere hacer el paciente y le aporta la fuerza que le falta.

Milagroso.

Milagroso, no. Es robótica aplicada al bienestar de la gente.

¿Cómo se le ocurrió crear este ingenio?

Llevo trabajando 22 años en robots que caminan, aunque con una aplicación muy diferente, enfocado más hacia la industria y a los servicios. Por ejemplo, robots que detectan minas antipersonas y máquinas autónomas pero sin contacto directo con el ser humano. 

Lo que cambió el objeto de mi investigación fue la puesta en marcha de financiación por parte del departamento de Defensa de EEUU para desarrollar exoesqueletos que ayudaran a aumentar las capacidades de movilidad de los soldados. 

Eso facilitó el desarrollo de tecnologías en este campo. El paso decisivo llegó cuando recibimos la visita de un matrimonio con una niña, Daniela, que sufría una tetraplejia tras sufrir un accidente. Como llevaba años trabajando en el área pediátrica, vi que era factible y decidí abordar la investigación. Tres años después teníamos a aquella niña caminando.

Qué maravilla.

Fue un momento muy bonito. Cuando le colocamos el exoesqueleto por primera vez se asustó porque nadie que sufre esta dolencia está acostumbrado a ponerse de pie y caminar. La mayoría de los niños con los que hemos trabajado no lo había hecho nunca, lo que les impresiona es que sea un robot el que se abraza a sus cuerpos y les empiece a mover. Eso atemoriza no sólo a los niños sino a cualquiera de nosotros.

 La sensación impacta mucho pero una vez que van cogiendo confianza todo se vuelve emotivo. Así fue para Daniela, para sus padres y, también para mí, claro. No era poner a andar a un robot sin más sino que estaba en contacto con una niña. Eso conllevaba una responsabilidad muy grande en todos nosotros.

El precio será prohibitivo.

Sí, todavía es muy caro. Hay que tener en cuenta que se trata de un dispositivo sanitario que está sometido a una reglamentación internacional de seguridad que utiliza una tecnología costosa y difícil de conseguir. 

Pero, poco a poco, estamos avanzando para conseguir algún tipo de subvención, a través de la Seguridad Social o mediante el patrocinio de la obra social de algunas empresas. Esperamos que el precio de este robot sea pronto similar al de una silla de ruedas.

Usted tuvo que acudir al ‘crowdfounding’ para financiar su construcción.

Esto es una cuenta pendiente que tiene este país. Tenemos organismos de investigación muy importantes pero hay un problema de transferencia a la sociedad. No existen mecanismos que faciliten ese tránsito. 

Dedicar tiempo y esfuerzo a resolver necesidades reales de la gente para que luego no se puedan aplicar porque no hay dinero me parece un sinsentido. Al menos para una mente como la mía. 

¿Cómo logró que las finanzas apostaran por su invento?

El éxito de la prueba con Daniela saltó a los medios de comunicación, sobre todo internacionales, y empezaron a llegar cartas de padres, de médicos, pacientes y asociaciones de Australia, de EEUU, y de otras partes del mundo, dispuestos a comprar el robot. Es que, claro, hay 17 millones de niños en el planeta afectados por este tipo de lesiones. 

El único problema que encontré, y que no esperaba, es que en España carecemos de una industria dispuesta a financiar este tipo de aplicaciones robóticas. Así que sólo me quedaron dos opciones para seguir adelante: o dejar morir la investigación y dedicarme a otra cosa, o tomármelo como algo personal, que es lo que al final hice. Fueron cinco años muy duros.

Tiene dos hijas. ¿Cómo compaginó el doble esfuerzo?

Y una perra, Tira (risas). Fue muy complicado. Además, no tengo una familia cercana que me pueda echar una mano y tuve que acudir a las ayudas del ayuntamiento, de campamentos urbanos y cosas así. Al final te das cuenta de que puedes con todo pero a base de quitarte horas de sueño y descanso. Yo no he tenido vacaciones durante años. 

Cumplía mi jornada laboral completa, iba a mi casa con mis hijas, las acompañaba a las actividades extraescolares y cuando las acostaba, seguía trabajando. He sido una mujer pegada a un portátil durante mucho tiempo. 

¿Cree que a la mujer se la sigue educando con un plus de responsabilidad familiar?

Claro que sí. No existe un equilibrio de género a la hora de compaginar la vida profesional y la familiar. No hay paridad. En el ámbito laboral tenemos que trabajar mucho más para demostrar nuestras capacidades, lo cual es un desgaste añadido. Y en el terreno personal la conciliación no existe. 

Las pocas ayudas en esta faceta van incluso en contra de la mujer porque son reducciones de jornada, con lo cual las empresas se molestan, y no influyen en el ámbito familiar porque nosotras seguimos siendo la que cargamos con casi todo. 

Además, la ciencia está mayoritariamente dirigida por hombres.

No lo crea. Depende del área. Las ‘bios’, por ejemplo, están prácticamente dominadas por mujeres. En cambio, las tecnológicas e ingenierías, como es mi caso, son más masculinas, es cierto.

¿Por qué?

Por una cuestión de educación. Desde pequeños nos construyen roles mediante los juguetes que nos regalan o las actividades que realizamos. Para las chicas, muñecas y cocinitas; para los niños, coches y construcciones. Todo eso marca el desarrollo intelectual. En ese sentido, yo tuve la fortuna de tener unos padres ejemplares y cuando pedía una gasolinera, me regalaban una gasolinera. 

Era muy aficionada a todo tipo de construcciones y nunca me limitaron. Tenía muñecas y cocinitas, claro, pero fui educada en el equilibrio. Y ahora estoy agradecida. Hoy soy ingeniera porque cuando llegó el momento de decidir era lo que me gustaba y nunca encontré pegas. Sin embargo, no todas pueden decir lo mismo.

Usted ocupa el nivel más bajo en las escalas de investigación del CSIC, ¿cuál es el motivo?

No lo sé, de verdad. Llevamos ocho años con reducción de presupuestos a la investigación por parte del estado. Es algo increíble. Casi no salen plazas a concurso y las poquitas que salen, quedo excluida. Me refiero a que igual se ofertan sólo cinco plazas para todos los institutos del CSIC, que son unos 150 centros donde trabajan más de 3.000 investigadores. La situación es demencial.

¿Sigue existiendo un techo de cristal en el CSIC?

Sí. Las mujeres aún no hemos llegado a ocupar los puestos más altos y, por lo tanto, existe un techo de cristal evidente. Romperlo es una tarea que tenemos pendiente pero también nos afectan los otros dos factores que mencionaba, la reducción de presupuesto a la Ciencia y la falta de plazas a concurso, aunque en mi caso personal no sé cuál de las dos me influye en mayor medida.

La interpretación tradicional atribuye al hombre mayor habilidad manual que la mujer.

Sí, pero es que no es cierto. En mi casa, yo era la ‘manitas’ cuando se estropeaba algo. Hay hombres muy intelectuales y mujeres muy prácticas. Y a la inversa. Es una cuestión de gustos. Creo que el problema es inculcar estos estereotipos porque mediatizas el desarrollo de la persona. Hay que potenciar las habilidades de cada uno sin distinción de género. Punto.

Y ahora ha surgido un tercer competidor: La inteligencia artificial. ¿No le da miedo?

¿Por qué? Soy consciente de que la robótica y la inteligencia artificial provoca reparos en mucha gente pero es debido a la influencia del cine de ciencia ficción que, desgraciadamente, suele poner a los robots como seres malignos, que tratan de rebelarse contra el ser humano. ¡Nada más lejos de la realidad! El 85% de la inteligencia humana procede de las emociones, algo que nunca tendrán los robots.

Entonces, ¿ve imposible un conflicto entre humanos y máquinas?

Cualquier aplicación que requiera un poquito de subjetividad y de creación es inviable dejarlo al albur de la máquina. El hombre y el robot pueden complementarse, nunca sustituirse. En el caso concreto de la robótica, que es mi especialidad, nos dirigimos hacia la mejora del servicio al ser humano con el fin de hacerle la vida más fácil.

 Tratamos de mejorar productividades porque creamos máquinas que perfeccionen el trabajo que ya realiza la persona. Le pondré un ejemplo: en el campo de la cirugía, la robótica está teniendo unos resultados extraordinarios gracias a su precisión, limita las imperfecciones del ser humano pero no sustituye al cirujano, que es quien realiza la operación desde una consola. 

La labor del robot es mejorar las capacidades del médico. Nada más. Lo mismo sucede con su aplicación terapéutica. En lugar de hablar de fisioterapias pasivas y lentas, como hasta ahora, empezamos a tener terapias activas que permiten al paciente realizar actividades de su vida cotidiana de forma autónoma y eficiente."                

(Entrevista a Elena García Armada / Ingeniera del CSIC y doctora en Robótica. Gorka Castillo, CTXT, 18/07/18)

La administración norteamericana utilizó un algoritmo para decidir en qué casos una persona debe recibir atención en el hogar. De repente se cortaron muchas de esas ayudas, y ancianos que habían estado recibiendo cuidados en casa durante años se quedaron sin ella. ¿Qué había cambiado? El algoritmo no tenía en cuenta el contexto

"Su objetivo es acabar con las llamadas black boxes (cajas negras), sistemas automatizados y totalmente opacos que usan los gobiernos para decidir cuestiones fundamentales para la vida de las personas, como a quién conceden ayudas a la dependencia. 

"Nadie sabe cómo funcionan ni los criterios que se utilizan para entrenar a esas máquinas", denuncia la experta, a quien la Administración Obama encargó organizar unas jornadas sobre las implicaciones sociales de la inteligencia artificial en 2016.

Crawford participó la semana pasada en el Conversatorio sobre Inteligencia Artificial y su Impacto en la Sociedad, organizado por el Ministerio de Energía y Agenda Digital en Madrid, donde presentó las conclusiones de su informe Algorithmic Impact Assesment, una guía para detectar las injusticias y perfeccionar los algoritmos desde los poderes públicos.

Pregunta. El mundo digital está reproduciendo las desigualdades del mundo real. ¿De qué fuentes se extraen los datos para el entrenamiento de los algoritmos?

Respuesta. Hay que entender cómo funcionan los sistemas de inteligencia artificial. Para enseñarles a distinguir un perro de un gato le damos millones de imágenes de cada uno de esos animales. Los entrenamos para que aprendan a identificar. El problema es que esos mismos sistemas, esos software, los está usando la policía en Estados Unidos para predecir crímenes. 

Entrenan al algoritmo con fotos de procesados, con datos de los barrios en los que se registran más delitos o en los que más arrestos se han registrado. Esos patrones tienen un sesgo, reproducen estereotipos y el sistema de inteligencia artificial lo toma como única verdad. Les estamos inyectando nuestras limitaciones, nuestra forma de marginar.

P. ¿Esos datos se recopilan de Internet de forma aleatoria?

R. Se usan bases de datos. Una de las más populares y más usadas por las tecnológicas es Image Net, que contiene 13.000 imágenes. En el 78% de ellas aparecen hombres y el 84% de ellas, blancos. Esas son las referencias para cualquier sistema entrenado con ese kit. La forma en la que etiquetamos las imágenes está muy relacionada con nuestra cultura y nuestro constructo social. Image Net se creó recopilando fotografías de Yahoo News entre 2002 y 2004. 

La cara que más aparece es la de George W. Bush, que era el presidente de Estados Unidos en ese momento. Hoy todavía es una de las bases de datos más utilizadas. Los sistemas de inteligencia artificial parecen neutrales y objetivos, pero no lo son. Te cuentan una versión muy particular de la historia.

P. ¿Qué empresas están interesadas en destinar recursos para analizar esos sesgos?

R. En Microsoft lo hemos hecho. En nuestro estudio Man is to Computer Programmer as Woman is to Homemaker? detectamos que los hombres se asocian habitualmente con profesiones como políticos o programadores, y las mujeres con modelo, ama de casa, madre... Analizando cientos de textos se extraen esos patrones, esos estereotipos sociales que después replican los algoritmos.

 Por eso si buscas en Google imágenes la palabra médico, te aparecerán fotos de hombres con chaquetas blancas. Si pones enfermero, solo verás mujeres en hospitales. Cuando la gente ve eso automáticamente se refuerzan las formas más básicas de sesgo. Hay que empezar a cuestionar cómo se han construido esos sistemas.

P. En Europa todavía no es tan habitual que los gobiernos empleen la Inteligencia Artificial para la toma de decisiones. ¿Qué impacto está teniendo en Estados Unidos?

R. Los medios publicaron el pasado marzo cómo se está usando por parte de la administración un algoritmo para decidir en qué casos una persona debe recibir atención en el hogar. De repente se cortaron muchas de esas ayudas, y ancianos que habían estado recibiendo cuidados en casa durante años se quedaron sin ella. ¿Qué había cambiado? El algoritmo no tenía en cuenta el contexto y tomaba malas decisiones. 

Nadie había evaluado el sistema para ver cuánta gente se había quedado fuera. Fue un escándalo en Estados Unidos. Es un ejemplo de un sistema aplicado sin la suficiente investigación. Las personas con menos recursos económicos y menos nivel educativo son las que lo están sufriendo primero.

P. ¿Deberían los gobiernos hacer públicos esos algoritmos?

R. En uno de los informes que publicamos el año pasado en AI Now Research Institute, lanzamos una recomendación crucial: que los gobiernos dejen de usar sistemas algorítmicos cerrados. Tendrían que permitir a expertos independientes auditar esas fórmulas para detectar dónde están las flaquezas, los sesgos. Esa parte es muy importante para asegurar la igualdad de oportunidades. Nos dimos cuenta de que hasta ese momento nadie había publicado ninguna investigación sobre ese tema, no había ninguna guía. 

Formamos un equipo de expertos en derecho, ingeniería, ciencias de la computación, sociología y elaboramos un mecanismo para ayudar a los gobiernos a desarrollar un sistema transparente que permita a los ciudadanos conocer los detalles, si sus datos se han procesado de forma correcta. Si no, nunca sabrán cómo se ha tomado una decisión que afecta directamente a su vida, a su día a día.

P. ¿Han probado ya su método contra los sesgos con alguna administración?

R. Lo estamos probando con el ayuntamiento de Nueva York, es la primera ciudad en implementarlo de Estados Unidos. Estamos midiendo cómo afectan los algoritmos a los ciudadanos. También lo hemos presentado en la Comisión Europea y en España, donde en un mes se publicará el primer informe sobre las consecuencias de la IA encargado por el Ministerio a un comité de expertos. 

Espero que si finalmente se produce el cambio de Gobierno, salga adelante (esta entrevista se realizó antes de la moción de censura a Mariano Rajoy). Europa ha llegado tarde al juego y por eso tiene que aprender de los errores de Estados Unidos y China, países en los que más avanzada está la aplicación de la IA a la toma de decisiones pública.

P. Y las empresas como Facebook, ¿deberían estar obligadas a hacerlos públicos?

R. Mirar los algoritmos de Facebook o Google no nos ayudaría. Son sistemas masivos y complejos con cientos de miles de algoritmos operando al mismo tiempo, y están protegidas por el secreto industrial. Los gobiernos no van a usar esos algoritmos, van a crear sistemas públicos y por eso deben ser abiertos y transparentes. Igual no para el público en general, pero sí para comisiones independientes de expertos.

P. La inteligencia artificial está cada vez más presente en los procesos de selección de las empresas. ¿A qué tipo de perfiles perjudica esta tecnología?

R. En Estados Unidos hay una nueva empresa, Hirevue, que recluta nuevos perfiles para compañías como Goldman Sachs o Unilever usando inteligencia artificial. Durante la entrevista te graban y monitorizan 250.000 puntos de tu rostro para después analizar tus expresiones. Con esos datos determinan si serás un buen líder o si serás o no honesto. También estudian el tono de tu voz y sacan patrones de comportamiento.

 No podemos asumir que sabemos cómo es alguien por sus expresiones, no existe una base científica. En el siglo diecinueve se popularizó la frenología, que se basaba en descifrar aspectos de la personalidad con el análisis del rostro. Otro punto peligroso es que las empresas buscan personas que se parezcan a sus actuales empleados, y el impacto que eso tiene en la diversidad es tremendo. Están creando monoculturas.

P. ¿Cree que ha llegado el momento de desmitificar algunas creencias sobre la inteligencia artificial, como que las máquinas podrán tener conciencia? ¿Cuánto daño están haciendo algunos gurús?

R. Es una terrible distracción de los verdaderos problemas que genera hoy la IA. Habitualmente, son los más ricos y poderosos hombres de Silicon Valley los que más temen la Singularidad, la hipotética rebelión de las máquinas, porque no tienen otra cosa de la que preocuparse, de la que sentir miedo. 

Para el resto de nosotros, los temores van sobre cómo consigo un empleo, cómo llego a final de mes y pago mi alquiler, o cómo pago mi seguro médico. Pensar que las máquinas van a tener sentimientos es un malentendido, es no tener idea de cómo funciona la conciencia humana, que es imposible que una máquina replique.Tenemos cuerpo, unas conexiones muy complejas, que no son solo impulsos cerebrales.

Somos cuerpos en un espacio, viviendo en comunidad y en una cultura. La gente ve la palabra inteligencia artificial y piensa que estamos creando inteligencia humana, cuando lo que estamos haciendo es diseñar patrones de reconocimiento y automatización. Si lo llamásemos automatización artificial, el debate cambiaría totalmente."               (Entrevista a la investigadora de Microsoft, Kate Crawford, Ana Torres, El País, 18/06/18)

El uso de la Inteligencia Artificial por parte de los abogados no será opcional

"Desde julio del año pasado, un chatbot proporciona asesoría legal gratuita usando una especie de Inteligencia Artificial en Estados Unidos y en Reino Unido. Su desarrollador, Joshua Browder, lo definió en su momento como ‘el primer abogado robótico del mundo’ tras haber ayudado a ganar demandas por tráfico en centenares de miles de ocasiones y a millares de refugiados solicitando asesoría legal. 

Según Browder, su desarrollo tiene una utilidad mucho más compleja puesto que ahorra tiempo y dinero a cualquier trabajador del sector legal. Su herramienta, llamada DoNotPay, realmente no es un robot legal, es más bien un ‘simplificador de documentos legales’. Tal vez, el gran asunto de la sustitución de abogados por software no sea, de momento, mucho más que desintermediar y automatizar aspectos del trabajo que ahora hacen los abogados.

 Si esto es así, y eres un abogado, no temas a ninguna tecnología que pueda quitarte el empleo sino que te lo quite otro abogado que se lleve mejor que tú con la tecnología. Y es que es difícil ignorar las formas en que la inteligencia artificial ya supera a los humanos desde un punto de vista técnico. 

Un estudio publicado esta semana por LawGeex, una plataforma líder de revisión de contratos a través de la Inteligencia Artificial, muestra como un sistema experto es capaz de superarnos en el ámbito de la abogacía. 

Específicamente, en el campo de la revisión de los Acuerdos de No Divulgación (los NDA) y en como detectar con precisión los riesgos dentro de la documentación legal que puedan haber. El video que acompaña muestra como trabaja en un aspecto muy básico.

Un total de 20 abogados humanos se enfrentaron a la IA de LawGeex revisando cinco NDA. Las condiciones controladas del estudio fueron diseñadas para parecerse a cómo los abogados normalmente revisarían y aprobarían los contratos diarios.

 Después de dos meses de pruebas, los resultados demostraron que la Inteligencia Artificial terminó la prueba con una calificación promedio de precisión del 94%, mientras que los abogados lograron un promedio del 85%. La calificación más alta de precisión de la IA en una prueba individual fue del 100%, mientras que la calificación más alta que un abogado humano logró con un solo contrato fue del 97%.

En lo que respecta a la precisión, el estudio demostró que los humanos pueden mantenerse en un buen espacio competitivo con la inteligencia artificial al revisar los contratos. Sin embargo, no se podía decir lo mismo cuando se trataba de velocidad. En promedio, los abogados tardaron 92 minutos en terminar de revisar los contratos. 

El tiempo más largo que tomó un abogado individual fue de 156 minutos y el mínimo de 51 minutos. La Inteligencia Artificial utilizada por LawGeex solo necesitó unos arrolladores 26 segundos. 

La brecha de eficiencia entre los dos grupos puede ser aún más amplia de lo que creemos. En el estudio, los abogados se centraron completa y singularmente a la tarea en cuestión. En el mundo real, sin embargo, tendrían otras responsabilidades que atender, distracciones e interrupciones que probablemente aumentarían el tiempo real que tardan en revisar los contratos.

 Los abogados que revisaron estos documentos se centraron y no fueron distraídos en otras de tipo cotidiano y multitarea como tomar un vuelo en unas horas o ir a recoger los niños a la salida del colegio.

El tema trata de naturalizar lo que se acerca. Lo hemos comentado. La IA demuestra a diario un incremento notable de precisión y eficiencia en múltiples sectores. La medicina también ha demostrado las muchas aplicaciones potenciales que tiene. En este blog hemos relatado muchas de ellas. 

La última destacable es la del Centro Nacional del Ojo de Singapur, donde los investigadores han creado un desarrollo inteligente que puede detectar la enfermedad ocular antes de lo que pueda hacerlo ningún médico. Abogados, médicos, sismólogos y hasta jueces olímpicos. Todos van a tener que reinventarse, entender que es eso de que la tecnología es el ‘cómo’ y que las personas somos el ‘porqué’.

En el caso del derecho robótico la evidencia demuestra que sino quieren convertirse en las discográficas de la próxima década deberán de repensar, hacer reworking, iniciar una transformación compleja y completa que debe ir mucho más allá de incorporar computadoras más inteligentes, apuntarse a una plataforma de miles de abogados o de automatizar una web con un chatbot. 

Trabajo con varios despachos profesionales que están llevando a cabo esta transformación y es realmente apasionante el escenario que se abre para la abogacía del futuro inmediato."                   (Marc Vidal, 12/03/18)