El Partido Comunista Chino y el Silicon Valley trabajan en un futuro posthumano... pueden, porque todas las encuestas indican que la gran mayoría es relativamente indiferente al hecho de ser vigilados y al uso de sus datos personales. Y esto se debe a una razón decisiva: la comodidad. El entorno cómodo que garantizan las nuevas herramientas digitales es el bien supremo a cambio del cual la privacidad parece un sacrificio insignificante... el motor de la expansión digital es fundamentalmente libidinal: se mueve hacia el deseo, apunta a la comodidad, proporciona placer... el principio del capitalismo libidinal es el de la “la lógica del gran centro comercial”: transformar los espacios públicos, tanto físicos como virtuales, en lugares que ofrecen una sensación de seguridad, oportunidades para reunirse y divertirse, una ilusión de elección estrictamente confinada dentro de límites trazados por la autoridad... Hay ocho dimensiones de convergencia entre el Partido y las plataformas... se basan en que una vez detectado y cuantificado, el comportamiento de los conjuntos sociales puede optimizarse para maximizar determinados resultados... o sea, la transición de la sociedad disciplinaria basada en el confinamiento a la sociedad del control... Silicon Valley y el Partido comunista chino trabajan de forma convergente hacia un futuro posthumano. La mayoría de sus ingenieros tienen la desafortunada tendencia a pensar que su prioridad no es servir a los humanos de hoy, sino construir las inteligencias artificiales que heredarán la Tierra de mañana

 "Con sus semáforos inteligentes, sus detectores de contaminación bien ajustados y su excitante aspecto futurista, la smart city solo mostró su verdadero rostro cuando fue demasiado tarde.

Un día de agosto de 2019, los habitantes de Hong Kong descubrieron para qué servían realmente las cámaras térmicas y los detectores Bluetooth, los sensores de estacionamiento y los puntos de acceso a Wi-Fi. Entonces, empezaron a envolver sus identificaciones en papel de aluminio, a quitarle las baterías a sus teléfonos y a engañar a las cámaras apuntando con sus plumas láser.

La movilización de Hong Kong contra la toma gradual de la antigua colonia británica por parte del Partido comunista chino ha producido varias imágenes icónicas. Una de ellas muestra a un manifestante que está atacando con una sierra eléctrica una de las nuevas «lámparas inteligentes» que la administración municipal instaló. La imagen comienza con un enjambre de chispas, seguido de otros manifestantes que ponen un lazo alrededor del poste de la lámpara y que, finalmente, lo derriban en pleno bullicio de porras de la multitud. Un triste destino para un artefacto que debía hacer a los ciudadanos “más felices, más sanos, más inteligentes y más prósperos”, tal y como se puede leer en el “Smart City Blueprint” que la administración de Hong Kong publicó en 2017¹. Sin embargo, es posible que la contraria de Hong Kong tenga algo esencial que decirnos sobre la verdadera naturaleza de la época en la que vivimos.

 La crisis de Covid 19 no se parece tanto a una revolución, sino a una revelación: evidenció y aceleró tendencias que ya se manifestaban a escala mundial, pero que aún no se notaban. Aunque ya llevaba cierta trayectoria desde hace un tiempo, la aparición de China como una verdadera potencia antagonista, portadora de una alternativa global a la democracia liberal de estilo occidental, se hizo ver con mucha presencia.

Durante la crisis sanitaria, la guerra de discursos entre Estados Unidos y China adquirió proporciones sin precedentes. No se trataba sólo de “contar bien la versión de China”, como deseaba el presidente Xi Jinping, a través de la red mundial de medios de comunicación oficiales financiados por el Partido, sino también de retomar las técnicas conocidas por el régimen de Vladimir Putin en cuanto a guerra de la información, cosa que se ha visto en la difusión de fake news y teorías conspirativas en las redes sociales.

 Del lado estadounidense, tras los exabruptos de Donald Trump sobre el «virus chino», Joe Biden retomó a su vez la lógica de la confrontación total, que estructuró, por ejemplo, su gran discurso ante el Congreso el 28 de abril de 2021. Con la prefiguración de un enfrentamiento histórico entre la democracia y la autocracia, el presidente de Estados Unidos convocó una «Cumbre de la democracia» para unir las fuerzas de los países que se oponen al desafío del autoritarismo. Estados Unidos contra China en concreto. “Las otras [fuerzas, como Rusia y Europa] son las verduras», citando al general De Gaulle.

El secreto de lo digital

Sin embargo, Hong Kong y los dispositivos benévolos de la smart city global, que se convierten en herramientas de represión, cuentan una historia más compleja. No es un caso aislado ni mucho menos: la duplicidad que caracteriza estas infraestructuras urbanas está en todas las tecnologías digitales. Hasta ahora, estábamos acostumbrados a que la función real de las herramientas coincidiera con su función aparente: un martillo sirve para clavar un clavo; un reloj, para dar la hora; una aspiradora, para aspirar el polvo. Sin embargo, las herramientas digitales, que se han convertido en una parte esencial de nuestras vidas, están cambiando este panorama.

La verdadera función de Google no es buscar información en Internet. La verdadera función de Facebook no es permitir que los amigos se mantengan en contacto. La verdadera función de Tinder no es ayudar a los solteros a pasar un buen rato. La verdadera función de estas miles de herramientas, de las que dependemos cada vez más, es recolectar datos, es registrar nuestros comportamientos y preferencias en línea para monetizarlos.

Cuanto más tiempo pasa, más se apodera esta duplicidad de nuevos territorios y doblega a su lógica instrumentos que antes eran inocentes. En el mundo del Internet de las cosas, la verdadera función de una aspiradora ya no será limpiar, sino captar datos sobre nuestro hogar, al igual que el valor real de una cama o un coche, que estará más relacionado con su conocimiento de nuestros hábitos que con su uso tradicional.

 Esta dinámica es ya lo suficientemente conocida como para que uno no sepa lo que es o de qué se trata². Lo realmente interesante es que estos hechos, aunque estén bien documentados y sean objeto de una amplia literatura de denuncia, no despiertan la preocupación de los usuarios. Y, lo que es peor, cuando hay preocupación, esa angustia se dirige contra herramientas que cumplen supuestamente la función contraria: por ejemplo, las protestas recientes contra los pases sanitarios en Europa se están organizando en las redes sociales con las que Mark Zuckerberg pretende crear un metaverso.

 Todas las encuestas indican que la gran mayoría es relativamente indiferente al hecho de ser vigilados y al uso de sus datos personales. Y esto no se debe tanto a que desconozcan el fenómeno ni las razones que lo respaldan, sino a otra razón mucho más decisiva: la comodidad. El entorno cómodo que garantizan las nuevas herramientas digitales es el bien supremo a cambio del cual la privacidad parece un sacrificio insignificante. La fluidez, el placer garantizado de una vida sin fricciones sobre la que nos deslizamos como patinadores sobre hielo, la guía de algoritmos que liman las asperezas y muestran el camino son la gran promesa de la vida digital. He aquí la razón por la que su alcance es tan poderoso y resiste toda crítica: como bien ha explicado el filósofo Mark Hunyadi, «en el sentido más amplio, el motor de la expansión digital es fundamentalmente libidinal: se mueve hacia el deseo, apunta a la comodidad, proporciona placer”³. Hasta ahora, ha demostrado ser lo suficientemente poderoso como para borrar cualquier reticencia sobre la profunda ambigüedad de las herramientas digitales, sobre su duplicidad intrínseca y fundamental. Lo hace tanto en París como en Tokio, como en Toronto, Sydney y en Hong Kong.

 Aunque en los últimos años se han revelado con creciente claridad los contornos del modelo autoritario chino -la vigilancia masiva extendida sobre toda la población, el sistema de crédito social, el internamiento de personas en riesgo en campos de detención-, el motor de su éxito no es la represión.

Éste es el principio del capitalismo libidinal, que dos expertos en redes sociales han definido metafóricamente como “la lógica del gran centro comercial” (great shopping mall): transformar los espacios públicos, tanto físicos como virtuales, en lugares que ofrecen una sensación de seguridad, oportunidades para reunirse y divertirse, una ilusión de elección estrictamente confinada dentro de límites trazados por la autoridad⁴.

En el centro de la “nueva guerra fría”

Éste es el verdadero problema histórico al que nos enfrentamos cuando agitamos el espectro de una nueva confrontación ideológica mundial. (...)

Hoy, en cambio, la China comunista basa su atractivo en una visión del hombre y de la sociedad notablemente similar a la que se ha establecido en Occidente gracias al desarrollo de las nuevas tecnologías. Ésta es la visión que surgió de lo que Peter Sloterdijk llama “la humillación del comportamiento del hombre”, que “se deriva de la observación de que nuestra existencia se compone, en un 99.9 %, de repeticiones, la mayoría de ellas de carácter estrictamente mecánico⁶”. (...)

Entonces, ¿cuál es el núcleo del actual conflicto ideológico entre Occidente y China?

Si, como afirma el sinólogo Jean-François Billeter, China se distingue sobre todo por una determinada concepción del poder y de su ejercicio “cuya misión es controlar todas las relaciones sociales y la vida de sus súbditos con el fin de crear una sociedad ‘armoniosa’⁷“, la particularidad de la fase actual radica en la impresionante convergencia de esta tradición política con el funcionamiento de la máquina algorítmica que está en vías de imponerse a escala mundial gracias al Internet y al progreso de la inteligencia artificial.

En ambos casos, se pone en marcha un potente sistema de incentivos, y desincentivos, con el objetivo de ajustar el comportamiento de los individuos a un conjunto social cuya evolución no sólo sea medible, sino sobre todo predecible e influenciable.

Cuando el profesor de informática del MIT Alex Pentland explica que, gracias al Big Data, ya no tenemos que pensar en términos de las nociones de “individuo”, “libre albedrío” e incluso “política” del siglo XVIII, sino que la humanidad debe construir un sistema nervioso y eléctrico global capaz de verse como un mecanismo formado por patrones (patterns) repetitivos, como las trayectorias de las bandadas de pájaros o de los bancos de peces, fácilmente gobernables mediante ciertos instrumentos de “presión social”⁸, materializa el sueño prohibido de los antiguos legistas chinos “que recomendaban a los poderosos una aplicación rigurosa de premios y castigos para que la obediencia se convirtiera en la segunda naturaleza de sus súbditos y para que la sociedad acabara funcionando con tanta regularidad y naturalidad como el propio universo”⁹.

Las ocho dimensiones de convergencia entre el Partido y las plataformas

Si los ingenieros actuales de redes sociales construyen sus arquitecturas con base en los experimentos de Burrhus Skinner con ratones de laboratorio y, desde 2010, el consejero delegado Eric Schmidt declara que los usuarios esperan que Google les diga “lo que deben hacer a continuación”¹⁰, los puntos de contacto entre la visión del mundo de Silicon Valley y la del Partido comunista chino son demasiado evidentes como para ignorarlos.

No se trata de una mera coincidencia, sino de una convergencia estructural que se basa en, al menos, ocho elementos fundamentales:

1. Los científicos siempre han soñado con reducir el gobierno de la sociedad a una ecuación matemática que elimine los márgenes de irracionalidad e incertidumbre inherentes al comportamiento humano.  

Hace dos siglos, Auguste Comte definió la física social como “la ciencia cuyo objeto propio es el estudio de los fenómenos sociales, considerados de la misma forma que los fenómenos astronómicos, físicos, químicos y fisiológicos, es decir, sometidos a leyes naturales invariables, cuyo descubrimiento es el objetivo especial de su investigación”¹¹. Desde entonces, muchos han propuesto sus visiones de la “ciencia de la política”, sin lograr nunca el objetivo de hacer más previsible la evolución de la sociedad.

Sin embargo, en los últimos años, se ha producido un fenómeno muy importante. Por primera vez, el comportamiento humano, que hasta ahora era un fin en sí mismo, empezó a producir un flujo masivo de datos. Esta profusión de datos sin precedentes permite ahora imaginar un gobierno científico de la sociedad, que es lo que propone el Partido comunista chino al menos desde principios del 2000, cuando sus politólogos colocaron la nueva “teoría científica del desarrollo” en el centro de su plataforma programático¹².

2. Ni Silicon Valley ni el Partido están interesados en el individuo, dotado de subjetividad y autonomía. Les interesan los números grandes. 

Mientras que el comportamiento del individuo no puede predecirse con certeza, el comportamiento del agregado es predecible porque, a través de la observación del sistema, es posible deducir el comportamiento promedio. Las interacciones importan más que la naturaleza de las unidades y el sistema en su conjunto tiene características, y obedece a reglas, que hacen predecible su evolución.

3. Una vez detectado y cuantificado, el comportamiento de los conjuntos sociales puede optimizarse para maximizar determinados resultados. 

Al analizar las correlaciones, es decir, cómo afecta al sistema en su conjunto incluso un pequeño cambio en un parámetro, se puede desencadenar un proceso de experimentación continua. Sea cual sea el objetivo, algunos estímulos son más eficaces que otros. Los clics proporcionan una retroalimentación en tiempo real, con base en la cual los estímulos pueden modificarse continuamente en contenido y forma, conservar las características que funcionan y descartar las menos efectivas.

 En 1990, Gilles Deleuze ya había descrito la transición de la sociedad disciplinaria basada en el confinamiento a la sociedad del control: “Los confinamientos son moldes, moldes distintos, pero los controles son una modulación, como un molde que se autodeforma y que cambia continuamente, de un momento a otro, o como un tamiz cuyas mallas cambian de un punto a otro”¹³. Hoy, ya llegamos a eso.

4. El verdadero enemigo de un sistema construido sobre estas bases es la anomalía, el comportamiento discordante, que se debe identificar y neutralizar rápidamente.  

Es lo que ocurre en la República Popular China, donde los disidentes son rápidamente neutralizados, pero también en los espacios públicos estadounidenses y europeos (los aeropuertos son el lugar paradigmático), donde programas creados por Palantir analizan los movimientos de los pasajeros en tiempo real y alerta inmediatamente a las fuerzas de seguridad sobre cualquier comportamiento anormal que detecten, que se considera como posible indicio de un intento de acto terrorista. Asimismo, la empresa estadounidense ofrece detectar anomalías (es decir, comportamientos sospechosos) en una amplia gama de contextos diferentes, desde el fraude en los seguros hasta la detección de un posible alebrestador dentro de una organización¹⁴.

5.Tanto en China como en Europa, la principal, y más grave, anomalía es la desconexión. 

En ambos contextos, la idea de que uno puede llevar una vida «normal» y ejercer plenamente sus derechos, necesidades y aspiraciones sin estar permanentemente conectado se vuelve inconcebible. Signo inequívoco de una mentalidad asocial y subversiva, si no sociopática, la desconexión es lo que permitió a las fuerzas estadounidenses identificar el escondite de Osama bin Laden en Abbottabad, donde era muy sospechoso que un complejo de edificios de ese tamaño no tuviera conexión a Internet.

6. Afortunadamente, tanto en China como en Occidente, la desconexión es rara porque la adhesión del individuo está garantizada no por la coacción, sino por el principio de Hunyadi, por la comodidad y el placer de los servicios que la matriz proporciona a sus usuarios.

 ¿Quién renunciaría hoy a la posibilidad de satisfacer cualquier curiosidad en el espacio de unos segundos, de orientarse en una ciudad desconocida con un dedo, de pedir un taxi, de hacer una foto para congelar el momento, de transmitirla a un grupo de amigos envidiosos, de utilizar Shazam para identificar la canción que está sonando en la radio de un Uber, de añadirla a la lista de reproducción de Spotify para volver a escucharla en cuanto uno se baje del coche?

7. Sin embargo, detrás de la fachada lúdica y bonachona, tanto en China como en Silicon Valley, se desarrolla un poder implacable y secreto. 

Si el panóptico es una máquina para disociar el binomio ver/ser visto -en el anillo periférico, a uno lo ven por completo sin que uno vea a nadie; en la torre central, uno lo ve todo sin que a uno lo vean¹⁵-, está claro que las grandes empresas digitales, al igual que el Partido comunista chino, operan en función de este principio. En Occidente, no hay secreto más que se guarde con mayor recelo que los algoritmos que rigen el funcionamiento de empresas que pretenden imponer una transparencia total ante todas las demás. En China, la inexorable marcha de la “controlocracia” deja intacto el opaco corazón del poder inscrito en la Ciudad prohibida¹⁶.

Esto no es nada nuevo: los estudios sobre el impacto de la llegada del telégrafo y luego del teléfono han demostrado desde hace tiempo que ambos condujeron a una mayor centralización de la toma de decisiones en los imperios coloniales de finales del siglo XIX. En efecto, si en el pasado los responsables locales gozaban de amplios márgenes de autonomía (tenían que actuar antes de recibir instrucciones del centro), las tecnologías actuales simplemente borraron eso¹⁷.

8. Silicon Valley y el Partido comunista chino trabajan de forma convergente hacia un futuro posthumano. 

La mayoría de los ingenieros que trabajan en las empresas tecnológicas de Silicon Valley tienen una desafortunada tendencia a pensar que su prioridad no es servir a los humanos de hoy, sino construir las inteligencias artificiales que heredarán la Tierra de mañana. La vigilancia constante y las pruebas de modificación del comportamiento de multitudes de seres humanos recolectan supuestamente datos que alimentarán la “inteligencia” de las futuras inteligencias artificiales. Por su parte, el régimen chino, al igual que las grandes empresas tecnológicas, se ha embarcado públicamente en una “carrera hacia la IA” y suele situarla por encima de todo. Existe una preocupante convergencia entre dicha carrera y los experimentos realizados en el campo de la biotecnología, especialmente agresivos en los laboratorios chinos.

 Estos ocho puntos de convergencia indican que el orden que el régimen chino creó no es un fenómeno aislado. El mundo que proyecta es igual al de su rival declarado. Una fuerte tendencia está en marcha y es la misma a ambos lados del Océano Pacífico: el camino a una época en la que la autonomía del sujeto y la libertad habrán desaparecido¹⁸.

Salir del reino de la servidumbre digital

Aunque parece haber muchos elementos de convergencia, hay una diferencia central. Mientras que en China el algoritmo totalitario ha consolidado su poder, en Estados Unidos existe, al menos en teoría, un poder político que responde a lógicas democráticas. Este último incluso muestra, de vez en cuando, la vaga intención de limitar el excesivo poder de los nuevos señores feudales digitales.

Esta diferencia no es insignificante. Esperemos que tenga un efecto decisivo en la evolución posterior. Sin embargo, la paradoja de Estados Unidos consiste en que, en las democracias liberales, “el poder político no es lo único a lo que los individuos deben responder”¹⁹ ni tampoco es lo principal. En nuestras sociedades, el despliegue del consumismo generalizado produce desde hace tiempo poderosos efectos normativos, con frecuencia, mucho más restrictivos que los que derivan del cumplimiento de la propia ley²⁰.

En la actualidad, este sistema de expectativas y pautas de comportamiento se complementa con el creciente impacto de la tecnología digital. El uso de los smartphones es ahora la principal experiencia colectiva que comparte toda la humanidad. En todas partes y a cualquier escala, la tecnología digital se ha convertido en la interfaz de nuestra relación con el mundo. Y este hecho, aparentemente inocuo, pero en realidad todavía muy inexplorado en sus implicaciones prácticas, desempeña un papel crucial en todas las transformaciones sociopolíticas vigentes.

El mundo digital impone un modo de vida del que nadie puede escapar. Con mayor frecuencia cada vez, cada uno de nosotros tiene que construir su comportamiento conforme a las indicaciones de su smartphone y nadie tiene la menor idea del funcionamiento de la caja negra de la que depende nuestra capacidad de actuar.

Si la gran promesa de la tecnología digital, expresada por Steve Jobs en el lanzamiento del primer iPhone (“es como tener nuestra vida en el bolsillo”), articula una visión de autonomía, los usos concretos de las herramientas digitales también producen el efecto contrario al control de los usuarios que inducen.

¿Qué significa ser humano en la era de la hiperconexión? Por el momento, parece significar sobre todo estar a merced de los nuevos potentados económicos que vigilan todos nuestros movimientos y utilizan subterfugios para captar cada vez más nuestro tiempo y atención. Ante esta situación, como hemos visto, la movilización de argumentos morales con la esperanza de sensibilizar a la población es, en gran medida, inútil. La teoría crítica se vuelve, no por primera vez, impotente ante la evolución del tecnoconsumismo.

El arte europeo de vivir en línea

Es difícil negar que una sociedad en la que todo el mundo pasa, en promedio, algo menos de once horas al día delante de una pantalla está dando lugar a problemas totalmente nuevos, así como a un malestar generalizado que, si todavía no ha desaparecido, existe, sin embargo, y está esperando encontrar intérpretes políticos capaces de darle una voz que no sea puramente regresiva, lo que evita tanto las trampas del tecnoentusiasmo como las del pánico moral.

Para superar las tentaciones de la nueva servidumbre digital basada en la comodidad, no ayuda mucho hacer otra crítica académica. Sería más eficaz inventar un estilo de vida más rico, más completo y más atractivo que el modelo actual: un nuevo arte de vivir que integre la fusión ya inseparable de lo offline y lo online y lo ponga al servicio de la vida humana y no de potentados cada vez más incontrolables ni de una forma de inteligencia posthumana destinada a ocupar nuestro lugar en la escala evolutiva. Lo “Onlife”, como lo llama el filósofo Luciano Floridi²¹, podría ser una forma de vida. Lo principal es poder darle un significado concreto. Por supuesto, para eso, necesitamos normas que rechacen la excepción digital para hacer valer, en este ámbito, los valores que sustentan nuestras democracias. Sin embargo, lo que necesitamos, sobre todo, es una práctica positiva y alegre, capaz de revelar que los trucos del capitalismo de la vigilancia son como la comida rápida para nuestros cerebros: superficialmente atractivos, pero fundamentalmente dañinos.

 He aquí donde el papel de Europa puede ser decisivo. No es sólo, como se suele decir, imponiendo normas que sólo sirvan para defender, en el ámbito digital, los principios en los que se basan nuestras democracias, sino que se trata de poner en práctica, en esta dimensión, los valores en los que siempre se ha basado nuestro modo de vida. Más allá de todo acto de proclamar, ¿qué es Europa, si no “una forma de vivir, de entender el mundo en el que vivimos y de entendernos a nosotros mismos”²²?

El arte de vivir ha sido el antídoto contra todas las formas de totalitarismo desde tiempos inmemoriales. En efecto, la aspiración totalitaria, ya sea religiosa o tecnológica, es controlar el tiempo, normalizar el comportamiento. Su sueño es que el hombre se reduzca a una máquina, que sea predecible, uniforme, transparente. La calidad de vida es lo contrario. Libertad, placer, capricho y pérdida de tiempo. Todo lo que hace único al individuo y que deberíamos ser capaces de proteger y hacer florecer en la nueva dimensión de lo onlife. 

Paradójicamente, un filósofo de Hong Kong, que ahora vive en Alemania, nos recuerda que, desde un punto de vista antropológico, la tecnología no es universal, sino que está ligada en su evolución a cosmologías particulares que van más allá de la mera funcionalidad. Para Yuk Hui, no existe una única tecnología, sino múltiples cosmotecnias cuyas características están determinadas por los diferentes contextos culturales a los que pertenecen²³.

Por lo tanto, podemos oponernos a la ingenuidad de quienes piensan que el desarrollo de la tecnología hará que las diferencias entre culturas y modos de vida se desvanezcan: su visión está destinada, una vez más, a ser desmentida por los hechos; siempre que el impulso totalizador, y totalitario, del universalismo tecnológico sea contrarrestado por la voluntad de reapropiarse de la tecnología en una perspectiva localizada e históricamente situada. Reabrir la cuestión de la tecnología significa rechazar el futuro homogéneo que nos presentan los poderes del capitalismo digital como única opción, para explorar la posibilidad de futuros tecnológicos diferenciados.

No hay por qué creer que los regímenes cosmotécnicos que se desarrollan actualmente en China y en Silicon Valley están inevitablemente destinados a dominar el resto del mundo, a menos que Europa renuncie, por cansancio y pesimismo, a desarrollar su propia versión del futuro tecnológico con base en su cultura y sus valores."                       (Giuliano da Empoli , El Grand Continent, 24/03/23)

¿Cuál es la mejor manera de desarrollar la inteligencia artificial? Estamos viendo cómo se desarrollan ante nuestros ojos dos enfoques completamente diferentes... Uno es la carrera entre gigantes tecnológicos mundiales que comenzó con el reciente lanzamiento del ChatGPT, financiado por Microsoft, y que ya ha provocado promesas de sistemas similares por parte de Google y la empresa china Baidu... El otro es el proceso de la Unión Europea para regular la inteligencia artificial, especialmente a través del amplio paquete legislativo de la Ley de IA y las normas relacionadas. Esto clasificará los sistemas según cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo/cero. Aquí, el modus operandi es democrático y político, expresado a través de la legislación y otras formas de regulación... No se puede dar rienda suelta a las mayores empresas del mundo en su competición por capitalizar la inteligencia artificial.

 "¿Cuál es la mejor manera de desarrollar la inteligencia artificial? Esta pregunta, durante mucho tiempo teórica, se está convirtiendo rápidamente en una preocupación práctica, que pronto exigirá que se tomen importantes decisiones estratégicas. Estamos viendo cómo se desarrollan ante nuestros ojos dos enfoques completamente diferentes.

Uno es la carrera entre gigantes tecnológicos mundiales que comenzó con el reciente lanzamiento del ChatGPT, financiado por Microsoft, y que ya ha provocado promesas de sistemas similares por parte de Google y la empresa china Baidu. En estos casos, el mercado (o, más bien, el afán de lucro) es el mecanismo que impulsa a las empresas a tomar decisiones que probablemente deberían -y quizá preferirían- posponer.

El otro es el proceso de la Unión Europea para regular la inteligencia artificial, especialmente a través del amplio paquete legislativo de la Ley de IA y las normas relacionadas. Esto clasificará los sistemas según cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo/cero. Aquí, el modus operandi es democrático y político, expresado a través de la legislación y otras formas de regulación.

Hasta ahora, el mercado ha sido dominante, aunque a menudo apoyado por préstamos gubernamentales e inversiones públicas en investigación y espíritu empresarial. Esto se debe en parte al rápido ritmo del cambio tecnológico, que dificulta a las instituciones democráticas y a los Estados-nación seguir el ritmo. Tanto jurídica como técnicamente, la regulación de la IA ha resultado extremadamente difícil.

 ChatGPT ilustra algunas de las dificultades y riesgos. El sistema es accesible en todo el mundo y probablemente se difundirá rápidamente cuando Microsoft lo incorpore a sus numerosos productos y permita a otras empresas hacer lo mismo. Es probable que los sistemas de IA de Google y Baidu tengan efectos de difusión similares.

No está claro cómo regular eficazmente esta tecnología intrínsecamente global y amorfa, y la influencia de cada país puede ser muy limitada. Por esta razón, se están llevando a cabo esfuerzos internacionales. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura lanzó el primer acuerdo mundial sobre la ética de la IA en 2021 y ahora hay procesos en todo el mundo -incluso en Estados Unidos- para regular la IA de diversas maneras.

La iniciativa de la UE de crear legislación y normas para garantizar una IA ética y sostenible ha sido un catalizador. No hay que subestimar la influencia de la Unión: un mercado de 500 millones de personas con ingresos elevados a escala mundial no es insignificante. La esperanza es que una normativa de la UE que se desarrolle rápidamente pueda tener un efecto normalizador en el mercado mundial, aunque se trata de una perspectiva muy incierta.

 Un obstáculo tiene que ver con la participación de Baidu en la carrera: los gobiernos autoritarios pretenden utilizar la tecnología de IA para la vigilancia y la represión, y no es muy plausible que tales Estados cumplan voluntariamente la normativa de la UE. En el caso de China ni siquiera es necesario, ya que el mercado nacional es lo suficientemente grande como para que la tecnología de IA se desarrolle rápidamente y según reglas y normas completamente diferentes a las de EE.UU. o Europa.
Difusión explosiva

A los dos meses de su lanzamiento, ChatGPT había acumulado 100 millones de usuarios. Las fuerzas del mercado pueden provocar la propagación explosiva de tecnologías de IA que las empresas que las desarrollan no comprenden del todo y que se resisten a explicar a extraños. Varios usuarios han conseguido "engañar" a ChatGPT para que dé respuestas de las que se supone que no es capaz: proporcionar recetas de drogas o explosivos y expresar opiniones racistas.

¿Por qué ChatGPT muestra este comportamiento inesperado y contradictorio? Nadie lo sabe realmente y la empresa que está detrás de esta tecnología, OpenAI, no es muy abierta en lo que a información se refiere. Así que le pregunté a ChatGPT. Me respondió crípticamente: "Como modelo de IA entrenado por OpenAI, estoy en constante desarrollo y mejora".

Parece muy difícil, incluso para los creadores del sistema, regular su uso y funcionalidad. Aún más cautela debería guiar el uso y la difusión de sistemas más complejos con consecuencias aún más graves que no podemos predecir ni evitar. Los riesgos de dejar que el mercado difunda la tecnología de IA y desencadene una carrera armamentística entre competidores deberían ser evidentes.
Daños potenciales

Muchos estudiosos han señalado los peligros sociales del desarrollo rápido e incontrolado de la IA. Daron Acemoglu, catedrático de Economía del Instituto Tecnológico de Massachusetts, ha advertido de que el rápido cambio tecnológico debe ir acompañado de reformas del bienestar y del mercado laboral para evitar la creciente desigualdad, la erosión de la democracia y el aumento de la polarización. Dani Rodrik, economista de Harvard, ha propuesto un enfoque similar: "Las políticas gubernamentales pueden ayudar a guiar la automatización y las tecnologías de inteligencia artificial por una senda más favorable al trabajo que complemente las capacidades de los trabajadores en lugar de sustituirlas".

 El matemático sueco Olle Häggström, experto en los riesgos existenciales de la IA, lleva mucho tiempo advirtiendo de los posibles perjuicios, desde la vigilancia y el desempleo hasta los sistemas de armamento autónomos y un futuro en el que las máquinas simplemente se apoderen del mundo. Le preocupa el lanzamiento de ChatGPT. Lo ve como un indicio de lo difícil que será el llamado problema de alineación de la IA -diseñar en un sistema de IA todas las barandillas para evitar que se desvíe del camino- para sistemas más capaces y, en consecuencia, más peligrosos.

Hay razones para detener o restringir severamente ciertos tipos de sistemas hasta que los comprendamos mejor. Esto requeriría un amplio debate, educación y comunicación, fundamentados democráticamente. De lo contrario, es probable que se produzcan reacciones negativas por parte de los ciudadanos privados de estas tecnologías (especialmente si personas de otros países pueden utilizarlas). Esto ya ha sucedido con el Reglamento General de Protección de Datos (RGPD): aunque tiene muchos aspectos positivos, es ampliamente rechazado y ridiculizado, ya que la UE ha conseguido presentarse como un coloso burocrático empeñado en dificultar el uso de internet a la gente corriente.
Más y mejor

Algunos ven la regulación de la IA como un obstáculo a la innovación y advierten de que el enfoque europeo podría reducir a la UE a un remanso de IA. Mientras tanto, Estados Unidos y China irían por delante, menos preocupados por la legislación, las normas industriales y las directrices éticas.

Por supuesto, la regulación no es perfecta y los Estados no siempre son benévolos ni sabios. Está claro que necesitamos una combinación de mercado y regulación. Pero dados los riesgos potenciales y el rápido ritmo de desarrollo y difusión de la tecnología, hemos tenido demasiado de lo primero y muy poco de lo segundo.

Los mercados no contrarrestan suficientemente las "externalidades negativas" (efectos secundarios indeseables). No distribuyen el valor económico creado por la tecnología de forma sostenible y equitativa. No incorporan consideraciones sociales o políticas. Y rara vez contribuyen a soluciones tecnológicas que beneficien a la sociedad en su conjunto."                     (German Bender , Social Europe, 15th February 2023)

Las empresas estadounidenses que procesan gran parte de nuestros datos, tienen que lidiar con todos los problemas que el diseño de la tecnología de primera generación ha provocado en los últimos 20 años. Se están hundiendo en la entropía. ¿Debe Europa seguir su ejemplo, sólo porque China lo hace? Necesitamos restablecer una esfera pública digital de confianza... es sin duda vital que Europa recupere la soberanía de los datos y controle su propia infraestructura de red en el continente... garantizar por ley que las instituciones públicas europeas (como las escuelas) compren sus suministros digitales principalmente a empresas europeas podría ser un motor para el emprendimiento digital europeo. Se trata de un modelo de éxito, por cierto, muy utilizado tanto en Estados Unidos como en China para apoyar sus propias industrias digitales. ¿Cómo puede aprenderse y fomentarse esta vía de innovación eudaemónica? Distinguiendo el verdadero valor humano y social de la ganancia monetaria que pueda guiar a las empresas, instituciones y proyectos hacia la creación de algo bueno por sí mismo... estableciendo un camino de ingeniería trazable y basado en el valor, que incluya la responsabilidad y el control del ecosistema sobre todos los componentes técnicos que intervienen en la prestación del servicio al cliente... No deben asumirse riesgos elevados en nombre de un progreso tecnológico abstracto o de una ganancia monetaria, especialmente cuando éstos pueden ser perjudiciales para los seres humanos o la naturaleza... Hay que diseñar una esfera pública digital europea, pero eso no significa perseguir una distopía de la IA o crear un Facebook europeo.

 "A principios del siglo XX, Simone Weil escribió: "El mal imaginario es romántico y variado; el mal real es sombrío, monótono, estéril, aburrido. El bien imaginario es aburrido; el bien real es siempre nuevo, maravilloso, embriagador".

Fascinados por los románticos y variados males que presumiblemente esperan a la humanidad ante la "singularidad" de la inteligencia artificial de Ray Kurzweil, muchas instituciones y grupos de expertos de todo el mundo procedieron a elaborar listas de valores que deben respetarse, por muy distópico que sea nuestro futuro transhumanista. Algunos ejemplos destacados son la Organización para la Cooperación y el Desarrollo Económico y la Comisión Europea, con su grupo de expertos de alto nivel sobre IA. Se aprobaron importantes principios de valor para los futuros sistemas de IA, como la supervisión humana, la seguridad, la privacidad, la transparencia, la equidad y el bienestar.

No quiero dudar de la importancia y la buena voluntad de estos esfuerzos. Pero hay dos cosas que llaman la atención en ellos.

No están grabados en piedra

La primera es que abordan problemas para una narrativa futura que no está en absoluto grabada en piedra. La "captura creativa" que los cuentos de Silicon Valley ejercen sobre nosotros nos hace creer que todos formamos parte de una evolución robótica, cósmica y de superinteligencia de IA. Es un cuento con el que la industria de la tecnología de la información gana dinero. Pero, ¿realmente tenemos que creer que todo tipo de servicios humanos, desde la contratación laboral hasta las artes, deben ser digitales? En sentido estricto, éste es sólo uno de los muchos caminos que puede tomar la humanidad, y probablemente uno que ni siquiera desean más que unos pocos fanáticos.

Así que la pregunta es: ¿por qué en Europa nos sometemos a ese "espíritu de la época", que no parece beneficioso para los ciudadanos europeos e incluso se siente desajustado con el patrimonio y la cultura europeos, mucho más ricos que la oscura ciencia ficción? ¿Por qué llegamos incluso a aprobar leyes para prepararnos para ese futuro, reconociendo así su inevitabilidad?

Un segundo aspecto es por qué valores tan fundamentales como la seguridad y robustez de los sistemas, el control humano, la transparencia y la equidad sólo se discuten con vistas a la IA, o incluso a la IA de "alto riesgo". ¿No deberían ser factores de higiene para todos los sistemas digitales existentes? ¿Será que la pista falsa de nuestro futuro transhumanista está desviando la atención de los verdaderos retos que la digitalización presenta aquí y ahora sobre el terreno, donde todos estos principios de valor son muy necesarios?

Cualquiera que se haya asomado a los entresijos de la industria informática sabe muy bien que la digitalización, independientemente de sus numerosas ventajas, ha llevado a las empresas a un costoso caos. Los retos más importantes para un humanismo digital están, en efecto, sobre la mesa y hay que abordarlos rápidamente antes de pensar en poner rumbo a las costas de otros proyectos.

Se trata de cuestiones relacionadas con la calidad del software y el hardware, la arquitectura distribuida y la complejidad de la red, los modelos de negocio erróneos de la disrupción y el "capitalismo de la vigilancia", los retos del suministro de componentes a largo plazo, la sostenibilidad medioambiental y, por último, pero no por ello menos importante, el odio, la envidia y la adicción imprevistos que se extienden por las redes sociales como un reguero de pólvora y que erosionan nuestras democracias mediante formas de tribalismo inducidas por los algoritmos.

La falacia del deseo

Frente a todos estos costosos desafíos, se podría perdonar que uno se pregunte por qué, en realidad, Europa debería sentirse tan presionada para emprender una digitalización cada vez mayor. ¿Podría tratarse de la falacia del deseo de René Girard, es decir, que uno siempre quiere algo sólo porque la otra parte también lo quiere? ¿Podría ser que Europa sólo sienta la necesidad de convertirse en líder de la IA porque Estados Unidos y China están muy interesados en esa posición?

No hay que olvidar que las empresas estadounidenses, que procesan gran parte de nuestros datos, también tienen que lidiar con todos los problemas señalados, que el diseño de la tecnología de primera generación ha provocado en los últimos 20 años. Se están hundiendo en la entropía. ¿Debe Europa seguir su ejemplo, sólo porque China lo hace?

Si Europa reflexionara sobre sus competencias básicas y sus ventajas competitivas actuales, probablemente vería que su cultura desarrollada y su comportamiento ciudadano guiado por valores es lo que la ha hecho tan exitosa. Nuestros cascos urbanos aún prosperan con los valores de la belleza, el esplendor y la perfección. Nuestro paisaje de catedrales góticas sigue respirando el aire de santidad y magnanimidad del cristianismo medieval: el mundo entero lloró ante el incendio de "Notre" Dame. Nuestra maquinaria es conocida por su precisión, robustez, seguridad y longevidad. Si queremos sobrevivir como un continente vibrante, es sólo a través de la alimentación y el fortalecimiento de esta "cultura del valor".

Imitando a los monolitos

¿Cómo podemos fomentar una cultura del valor en la era digital que llega? Hasta ahora, la respuesta parece ser imitar los monolitos tecnológicos, los sistemas en la nube, las plataformas de streaming y las redes sociales que poseen Estados Unidos y China, como ocurre con el sistema en la nube Gaia-X.

Para mantener un equilibrio político de respeto entre continentes y restablecer una esfera pública digital de confianza, es sin duda vital que Europa recupere la soberanía de los datos, controle su propia infraestructura de red en el continente, controle los datos obtenidos de los ciudadanos europeos, prohíba la compra competitiva de las empresas europeas de tecnología unicornio y garantice los recursos necesarios para el mantenimiento a largo plazo de la infraestructura digital.

De hecho, aquí Bruselas podría -si fuera políticamente más independiente de Estados Unidos y más valiente- hacer mucho más por los ciudadanos europeos. Por ejemplo, garantizar por ley que las instituciones públicas europeas (como las escuelas) compren sus suministros digitales principalmente a empresas europeas podría ser un motor para el emprendimiento digital europeo. Se trata de un modelo de éxito, por cierto, muy utilizado tanto en Estados Unidos como en China para apoyar sus propias industrias digitales.

Una vía europea alternativa

Pero estas normativas de arriba abajo y las iniciativas de deslocalización de infraestructuras son sólo la mitad de la historia. No crean automáticamente el tipo de cultura que realmente necesitamos para forjar una vía europea alternativa, alejada del capitalismo transhumanista, neoliberal y de vigilancia digital. Si los ciudadanos europeos fueran atendidos por start-ups locales que adoptaran el ethos distópico de Silicon Valley, esto podría servir a nuestra balanza comercial, pero no conduciría a un futuro digital rico y positivo en el que una Europa social estuviera a la altura de su herencia.

Lo que necesitamos, en cambio, es una nueva forma de perseguir nuestras innovaciones digitales: un nuevo honor empresarial sobre el terreno. Un renacimiento del espíritu europeo de bondad, perfección, convivencia, fiabilidad y belleza que nos ha llevado hasta donde aún queremos permanecer.

Esto implica una forma más cuidadosa y reflexiva de definir las misiones empresariales. Los jóvenes empresarios deben alejarse de los "malabares con el lienzo del negocio" y de los lanzamientos de prototipos inmaduros y, en cambio, volver a aprender lo que significa construir una verdadera "propuesta de valor".

Ingeniería basada en el valor

¿Cómo puede aprenderse y fomentarse esta vía de innovación eudaemónica? Las listas de valores de arriba a abajo, plantadas en un Weltgeist erróneo y transhumanista, no harán el trabajo. En su lugar, necesitamos -en comunión con Weil- volver a abrazar el bien "aburrido", en una práctica de ingeniería e innovación basada en valores, para lo cual se han dado los primeros pasos.

Lo más importante es educar a una generación de gestores, empresarios, innovadores e ingenieros para que se conviertan en lo que el IEEE, en sus nuevas normas éticas, ha empezado a llamar "líderes en valores". Se trata de personas que pueden distinguir el verdadero valor humano y social de la ganancia monetaria y que pueden guiar a las empresas, instituciones y proyectos hacia la creación de algo bueno por sí mismo, en lugar de crear lo que Martin Heidegger habría llamado "cosas" para una oferta pública inicial.

Los líderes de valor pueden ayudar a las empresas a entender su misión de valor tecnológico única, derivada de diálogos con las partes interesadas sensibles al contexto. Pueden apoyar a los altos ejecutivos para que adopten y defiendan esa misión de valor, que no sólo debe estar ahí para las relaciones públicas, sino que debe ser detectable en el producto. Para ello, es necesario establecer un camino de ingeniería trazable y basado en el valor, que incluya la responsabilidad y el control del ecosistema sobre todos los componentes técnicos que intervienen en la prestación del servicio al cliente.

Este camino también implica una conciencia del riesgo, que puede guiar eficazmente la identificación de los requisitos del sistema antes de que éstos se entreguen a formas ágiles e iterativas de desarrollo del sistema. Por último, la conciencia del riesgo también debe llevar a las empresas a renunciar a una inversión si es necesario. No deben asumirse riesgos elevados en nombre de un progreso tecnológico abstracto o de una ganancia monetaria, especialmente cuando éstos pueden ser perjudiciales para los seres humanos o la naturaleza."

(Sarah Spiekermann  es presidenta del Instituto de Sistemas de Información y Sociedad de la Universidad de Economía y Empresa de Viena, Social Europe, 22/12/21; Traducción realizada con la versión gratuita del traductor www.DeepL.com/Translator)

Los Estados Miembros de la UNESCO adoptan el primer acuerdo mundial sobre la ética de la inteligencia artificial

 "Audrey Azoulay, Directora General de la UNESCO, presentó el jueves la primera norma mundial sobre la ética de la inteligencia artificial, adoptada por los Estados Miembros de la UNESCO en la Conferencia General.

Este texto histórico establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA.

La IA es omnipresente, y hace posibles muchas de nuestras rutinas diarias, desde la reserva de un vuelo, la conducción de automóviles sin conductor y la personalización de nuestras noticias matutinas. La IA apoya también la toma de decisiones de los gobiernos y el sector privado. 

Las tecnologías de la IA están dando resultados notables en ámbitos muy especializados, como la detección del cáncer y la construcción de entornos inclusivos para personas con discapacidad. También puede ayudar a combatir problemas globales como el cambio climático y el hambre en el mundo y a reducir la pobreza optimizando la ayuda económica.

Pero la tecnología también está trayendo consigo nuevos retos sin precedentes. Asistimos a un aumento de los prejuicios de género y étnicos, a amenazas significativas contra la privacidad, la dignidad y la capacidad de acción, a los peligros de la vigilancia masiva y al aumento del uso de tecnologías de la IA poco fiables en la aplicación de la ley, por nombrar algunos. Hasta ahora, no había normas universales que dieran respuesta a estos problemas.

En 2018, Audrey Azoulay, Directora General de la UNESCO, lanzó un ambicioso proyecto: dar al mundo un marco ético para el uso de la inteligencia artificial. Tres años después, gracias a la movilización de cientos de expertos de todo el mundo y a intensas negociaciones internacionales, los 193 Estados Miembros de la UNESCO acaban de adoptar oficialmente este marco ético.

El contenido de la recomendación

La Recomendación tiene como objetivo hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos que conlleva. Garantiza que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, con capítulos políticos orientados a la acción sobre la gobernanza de los datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.

1.         Protección de datos

La Recomendación pide que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales. Afirma que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos. También incluye acciones para mejorar la protección de los datos y el conocimiento y derecho del individuo a controlar sus propios datos. También aumenta la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir.

2.         Prohibición de los marcadores sociales y la vigilancia masiva

La Recomendación prohíbe explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva. Este tipo de tecnologías son muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada. La Recomendación subraya que, a la hora de desarrollar marcos normativos, los Estados Miembros deben tener en cuenta que la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas.

3.         Ayudar a supervisar y evaluar

La Recomendación también sienta las bases de las herramientas que ayudarán a su aplicación. La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente. La metodología de evaluación del grado de preparación ayuda a los Estados Miembros a evaluar su grado de preparación en términos de infraestructura jurídica y técnica. Esta herramienta ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica. Además, la Recomendación anima a los Estados Miembros a considerar la posibilidad de añadir el papel de un funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo.

4.         Protección del medio ambiente

La Recomendación subraya que los actores de la IA deben favorecer métodos de IA eficaces en cuanto a datos, energía y recursos que ayuden a garantizar que la IA se convierta en una herramienta más destacada en la lucha contra el cambio climático y en el tratamiento de los problemas medioambientales. La Recomendación pide a los gobiernos que evalúen el impacto medioambiental directo e indirecto a lo largo del ciclo de vida del sistema de IA. Esto incluye su huella de carbono, el consumo de energía y el impacto ambiental de la extracción de materias primas para apoyar la fabricación de tecnologías de IA. También pretende reducir el impacto medioambiental de los sistemas de IA y las infraestructuras de datos. Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen.

 Las tecnologías emergentes tales como la IA han demostrado su inmensa capacidad para hacer el bien. Sin embargo, hay que controlar sus impactos negativos, que están exacerbando un mundo ya dividido y desigual. Los desarrollos de la IA deben respetar el estado de derecho, evitar los daños y garantizar que, cuando éstos se produzcan, los afectados tengan a su alcance mecanismos de responsabilidad y reparación.

Texto completo de la Recomendación

Más sobre la ética de la inteligencia artificial

Más sobre los 24 expertos que redactaron el borrador de Recomendación

Contacto de prensa: Clare O’Hagan, c.o-hagan@unesco.org(link sends e-mail), +33(0)145681729"               (UNESCO, 25/11/21)

La cooperación a la carta es el camino a seguir para la regulación de la Inteligencia Artificial en la UE... Las preocupaciones van desde la discriminación algorítmica y la distorsión de la democracia hasta la vigilancia omnipresente y la opresión absoluta... Un mundo saturado de máquinas capaces de predecir y explotar nuestros miedos y deseos desafía fundamentalmente la autonomía humana... en lugar de dejar que los algoritmos estén al servicio del Estado (como en China) o de las grandes empresas (como en Estados Unidos), el enfoque de Bruselas pretende ponerlos al servicio de las personas: una "IA fiable"... Ello implica restringir la libertad de los dueños de la IA, ya sean gobiernos o empresas... por contra, la Comisión de Seguridad Nacional de EE.UU. sugiere que los europeos harían bien en sentarse en el asiento del copiloto de una alianza liderada por Estados Unidos de potencias tecnológicas "amantes de la libertad" y dejar la dirección a Washington y Silicon Valley

"Las disputas sobre cómo regular la inteligencia artificial han ascendido rápidamente en la agenda mundial en los últimos años. Pero, ¿es un conjunto único de normas mundiales, o incluso sólo transatlánticas, la manera de abordar la cuestión? Daniel Mügge sostiene que para la Unión Europea, con sus enormes ambiciones éticas, la respuesta puede ser "no".

A principios de este año, la UE se convirtió en la primera gran jurisdicción en publicar un proyecto de normas para la inteligencia artificial (IA). Hay buenas razones para mantener un estrecho control legislativo sobre la tecnología de la IA. Las preocupaciones van desde la discriminación algorítmica y la distorsión de la democracia hasta la vigilancia omnipresente y la opresión absoluta.

Más allá de estas cuestiones, surgen preocupaciones más profundas. Un mundo saturado de máquinas capaces de predecir y explotar nuestros miedos y deseos desafía fundamentalmente la autonomía humana. Al mismo tiempo, la automatización impulsada por la IA tiene el potencial de privar a muchas personas de sus puestos de trabajo una vez que el auge post-pandémico alimentado por la deuda del gobierno desaparezca. La automatización ya ha abierto una brecha entre los niveles superior e inferior del mercado laboral. Con la ayuda de máquinas inteligentes, muchos trabajadores con alto nivel de formación han visto aumentar su productividad, mientras que los empleos con tareas más rutinarias, por el contrario, han desaparecido lentamente.

La Comisión Europea se enorgullece de ofrecer una tercera vía europea de regulación de la IA: en lugar de dejar que los algoritmos estén al servicio del Estado (como en China) o de las grandes empresas (como en Estados Unidos), el enfoque de Bruselas pretende ponerlos al servicio de las personas: una "IA fiable", como reza el eslogan de la UE. Ello implica restringir la libertad de los dueños de la IA, ya sean gobiernos o empresas.

Este enfoque europeo encontrará dos obstáculos fundamentales. En primer lugar, en la mayoría de los casos, el sector tecnológico de la UE ya va a la zaga de los de China y Estados Unidos. Si se cierra el grifo de las aplicaciones de IA, la brecha aumentará. Al fin y al cabo, los algoritmos prosperan al "aprender haciendo". La creación de un espacio europeo de datos y la coordinación de las inversiones iniciales por parte de los Estados miembros de la UE pretenden impulsar el sector nacional. Pero nadie sabe si eso será suficiente para que la IA europea sea algo más que un espectáculo secundario en la escena mundial.

En segundo lugar, tanto los políticos como los expertos estadounidenses consideran cada vez más que la IA es un problema de seguridad. A principios de este año, el informe final publicado por la Comisión de Seguridad Nacional de EE.UU. sobre la IA describió la IA como una carrera tecnológica entre China y Estados Unidos, en la que el perdedor sería vulnerable a la supremacía de la IA del ganador. Un mundo tecnológico que se come al perro tiene poca paciencia para los detalles de la ética de la IA. Por ello, el informe sugiere que los europeos harían bien en sentarse en el asiento del copiloto de una alianza liderada por Estados Unidos de potencias tecnológicas "amantes de la libertad" y dejar la dirección a Washington y Silicon Valley.

Estas fuerzas tiran de los Estados europeos en direcciones opuestas. Las preocupaciones éticas inspiran cautela, las preocupaciones de competitividad alientan la audacia europea, mientras que el marco de seguridad de la IA sugiere que Europa debería desempeñar un papel menor en una alianza occidental. Entonces, ¿cuál es el camino a seguir?

Cooperación a la carta

Gran parte del debate actual sobre la dinámica global de la regulación de la IA es excesivamente simplista, tratando la "regulación de la IA" como si fuera un bloque único y monolítico, que debe abordarse solo o en cooperación con uno u otro socio. En cambio, una perspectiva matizada consistiría en reconocer la enorme amplitud de usos y preocupaciones reguladoras que actualmente se agrupan bajo el título de IA.

No cabe duda de que, con la apertura de las fronteras económicas, la eficacia de las normas europeas sobre IA depende de lo que hagan otras jurisdicciones importantes: el campo de la IA está plagado de "interdependencia normativa". ¿De qué sirven las normas de la UE contra la discriminación invisible en la clasificación automatizada de currículos si los clientes pueden utilizar simplemente servicios basados en Estados Unidos? ¿De qué sirven las estrictas normas de privacidad si podemos importar sistemas de IA entrenados con datos obtenidos de forma poco ética de ciudadanos extranjeros?

Sin embargo, esta interdependencia normativa es variada: en algunos ámbitos -por ejemplo, la difusión mundial de sistemas de armas automatizados- la UE depende totalmente de la cooperación con otras grandes potencias. En otros, como las normas de seguridad para los coches que se conducen solos, puede elaborar sus propias normas y procedimientos de prueba, independientemente de lo que hagan los demás. Algunas aplicaciones, como la resiliencia de las infraestructuras impulsadas por la IA, tienen una relevancia directa para la OTAN como alianza de seguridad; otras, como las normas para los algoritmos de Twitter o la aprobación automática de préstamos, no son en absoluto relevantes para la seguridad.

Esta variada interdependencia regulatoria -alta en algunos casos, baja en otros- invita a un enfoque diferenciado de la regulación global de la IA. Cuando las normas mundiales pueden alinearse con los objetivos reguladores europeos, son claramente preferibles. Cuando ese acuerdo no está al alcance, surgen las segundas mejores opciones: soluciones mini-laterales como las normas compartidas elaboradas en el recién creado Consejo Tecnológico Transatlántico. El reconocimiento mutuo de normas diferentes pero igualmente estrictas también es una opción, al igual que el apoyo a las normas privadas de la industria tecnológica.

Pero cuando los objetivos éticos de la UE se cumplen mejor si Bruselas avanza por su cuenta -como hizo con el Reglamento General de Protección de Datos- debería tener el valor de hacerlo. No hay ninguna razón para pensar que la UE estará bien servida por un enfoque de talla única para todos los usos de la IA en la cooperación reguladora internacional. No debería ceder ciegamente a la lógica de "estás con nosotros o contra nosotros", tan habitual en el pensamiento estadounidense. Las diversas compensaciones éticas que plantea la IA pesan demasiado como para ser abordadas con un molde internacional uniforme.

Siempre atenta a qué enfoque le permite maximizar su soberanía digital en cualquier cuestión concreta, la UE debería cooperar cuando sea posible y atreverse a ir sola cuando deba hacerlo. Este enfoque a la carta de la regulación global ha servido a la UE en muchos otros campos, desde las finanzas y la seguridad alimentaria hasta los productos farmacéuticos. No hay razón para pensar que fracasaría en relación con la IA." 

(Daniel Mügge es profesor de Aritmética Política en la Universidad de Ámsterdam. LSE EUROPP, 26/11/21; Traducción realizada con la versión gratuita del traductor www.DeepL.com/Translator)

La ley de hierro de la digitalización: digitalizar es vigilar. No existe tal cosa como una digitalización sin vigilancia... Digitalizar implica crear un registro, poner etiquetas a las cosas para que sea más fácil encontrarlas y seguirlas. Digitalizar equivale a hacer rastreable aquello que no lo era. ¿Y qué es rastrear, si no vigilar?... Necesitamos áreas protegidas cuando se trata de la vigilancia... La vigilancia conduce a sociedades de control, lo que a su vez conduce a la disminución de la libertad... Cuando sabemos que nos vigilan, nos autocensuramos, y cuando otros saben demasiado sobre nosotros, pueden predecir, influir y manipular nuestro comportamiento... Solo con rastrear tu mirada, las empresas podrán reconocer tu identidad, tu etnicidad, tus emociones, aspectos de tu salud mental y física, y más... por eso, me gustaría tener un teléfono que no creara datos sin que se lo pida, o que los borrara poco tiempo después de haberlos creado. Quiero un teléfono sin reconocimiento facial, en el que la cámara y los micrófonos se puedan desactivar mecánicamente, por ejemplo. Hace poco más de una década, disfrutar de la tecnología digital era un lujo. Cada vez más, el lujo es poder disfrutar de espacio y tiempo lejos de la tecnología digital... por cierto, el nuevo grupo de interés para la tecnológica son niños de seis a nueve años... Por eso las élites de Silicon Valley crían a sus hijos sin pantallas

 "Las grandes tecnológicas quieren seguir creciendo, porque las empresas que no van de subida van de bajada, y nadie quiere ir de bajada. Pero han sido tan exitosas y son tan gigantescas, que no es fácil encontrar sitio hacia donde crecer. Como Alicia en el País de las Maravillas, atrapada en la casa del conejo después de haber crecido demasiado, las tecnológicas tienen los brazos y las piernas saliéndoseles por las ventanas y la chimenea de la casa de la democracia.

Una posibilidad para crecer aún más es intentar atraer nuevos clientes. ¿Pero cómo encontrar un público nuevo cuando la gran mayoría de los adultos con acceso a internet en el mundo entero ya son tus usuarios? Una opción, que Facebook está persiguiendo sin escrúpulos, es concentrarse en niños cada vez más pequeños. El nuevo grupo de interés para la tecnológica son niños de seis a nueve años. Si por la empresa fuera, todo bebé nacería con cuenta de Facebook. Esta opción es limitada, porque tarde o temprano se captará a todos los niños vulnerables a ser expuestos a su tecnología, y también tiene sus riesgos. Hay varias investigaciones a Facebook e Instagram en Estados Unidos por haber causado daños a menores a sabiendas. ¿Y hacia dónde se crece entonces?

Otra posibilidad es digitalizar cada vez más aspectos del mundo. A pesar del rápido avance de las tecnologías digitales, la mayor parte de nuestra realidad sigue siendo analógica, aún después de la pandemia del coronavirus. La mayoría de nuestras compras no son por internet. La mayoría de los lectores prefieren libros en papel. Son analógicos muchos de nuestros espacios urbanos, nuestras casas, nuestra ropa, muchas de nuestras conversaciones, nuestras percepciones, nuestros pensamientos y nuestros seres queridos.

 Los gigantes tecnológicos comparten el deseo de digitalizar el mundo porque es una forma fácil de ganar terreno, de agrandar la casa. Todo lo analógico es un recurso en potencia. Algo que se puede convertir en datos para luego comercializar. Por eso Facebook ha sacado unas nuevas gafas con Ray-Ban que tienen micrófonos y cámara. Más captura de datos. Por eso el nuevo sistema operativo del iPhone puede digitalizar texto y números desde una imagen, puede escanear edificios para que sean reconocidos en la aplicación de mapas, tiene algoritmos que pueden identificar objetos en un vídeo en tiempo real, y hace posible convertir fotos en modelos tridimensionales para usarse en la realidad virtual. Por eso Microsoft está proponiendo una plataforma que crea avatares tridimensionales para tener reuniones más interactivas. Y por eso Facebook —perdón, Meta— está insistiendo en su metaverso.

 

Los titanes tecnológicos nos aseguran que sus nuevas invenciones respetarán nuestra privacidad, por supuesto. Lo que omiten es lo que llamo la ley de hierro de la digitalización: digitalizar es vigilar. No existe tal cosa como una digitalización sin vigilancia. El acto mismo de convertir en datos lo que no lo era es una forma de vigilancia. Digitalizar implica crear un registro, poner etiquetas a las cosas para que sea más fácil encontrarlas y seguirlas. Digitalizar equivale a hacer rastreable aquello que no lo era. ¿Y qué es rastrear, si no vigilar?

Hace unas semanas tuve una conversación con un par de ingenieros que no concebían que pudiera haber un problema de privacidad por digitalizar el mundo. Demasiada gente entusiasta de la tecnología digital está bajo la impresión, tan conveniente como equivocada, de que si las personas consienten a la recolección de datos, y si el procesamiento de datos sucede dentro de nuestro propio teléfono u ordenador, no hay ningún problema de privacidad.

Primero: no existe consentimiento informado en la recolección de datos. El consentimiento que damos ni es consentimiento, porque no es verdaderamente voluntario, ni es informado, porque nadie tiene ni idea de dónde pueden acabar esos datos y qué inferencias pueden sugerir en el futuro. Segundo: la creación de datos es moralmente problemática en sí misma. Los datos no son fenómenos naturales, como setas que vamos encontrando por el bosque. Los datos los creamos, y ese acto de creación conlleva una responsabilidad moral y un deber de cuidado hacia los sujetos de datos.

¿Qué problema de privacidad puede haber si los datos están en el teléfono de cada usuario?, me pregunta el ingeniero, asumiendo que los usuarios tienen control sobre sus teléfonos, e ignorando los muchos ejemplos que muestran lo contrario.

En el mejor de los casos, nuestros teléfonos tienen vida propia. Tienen habilidades autónomas, como la capacidad de mandar datos a terceros sin que nos demos cuenta, y la mayoría de nosotros tiene poca idea de cómo funcionan. Además, todo teléfono conectado a internet es hackeable. ¿Y qué hay de los maltratadores que están aprovechando las tecnologías para controlar a sus parejas e hijos? Si un maltratador te fuerza a compartir tu contraseña, esos datos que ha creado tu teléfono sin que tú se lo pidas (dónde has estado, a quién has llamado, etcétera) pueden jugar en tu contra. ¿Y qué pasa cuando un agente de aduanas te pide en la frontera de Estados Unidos que desbloquees el teléfono? ¿O si te lo pide la policía? ¿Y quién te puede garantizar que una aseguradora no te pedirá acceso a esos datos en el futuro? Tan pronto como los datos personales han sido creados y guardados, hay un riesgo de privacidad para el sujeto de datos.

Por supuesto, pedir a las empresas tecnológicas que no digitalicen el mundo es como pedir a los constructores que hagan el favor de no pavimentar los espacios naturales. A menos que la sociedad ponga límites legales, nadie hace caso. Por eso los gobiernos establecen áreas protegidas cuando se trata de construir.

Necesitamos áreas protegidas similares cuando se trata de la vigilancia. Está en la naturaleza de las empresas tecnológicas convertir lo analógico en digital. Pero convertir todo en un espía potencial es una amenaza para la libertad y la democracia. La vigilancia conduce a sociedades de control, lo que a su vez conduce a la disminución de la libertad. Cuando sabemos que nos vigilan, nos autocensuramos, y cuando otros saben demasiado sobre nosotros, pueden predecir, influir y manipular nuestro comportamiento.

Hay algunos datos que es mejor no crear. Hay datos que es mejor no tener. Hay algunas experiencias de las que nunca debería quedar registro.

Me gustaría tener un teléfono que no creara datos sin que se lo pida, o que los borrara poco tiempo después de haberlos creado. Quiero un teléfono sin reconocimiento facial, en el que la cámara y los micrófonos se puedan desactivar mecánicamente, por ejemplo.

Hace poco más de una década, disfrutar de la tecnología digital era un lujo. Cada vez más, el lujo es poder disfrutar de espacio y tiempo lejos de la tecnología digital. Por eso las élites de Silicon Valley crían a sus hijos sin pantallas. Hace falta defender el mundo analógico. Si dejamos que la realidad virtual prolifere sin límites, la vigilancia será igualmente ilimitada. Solo con rastrear tu mirada, las empresas podrían reconocer tu identidad, tu etnicidad, tus emociones, aspectos de tu salud mental y física, y más. Si queremos mantener nuestras democracias y libertad en la era digital, más nos vale poner límites a aquello que se digitaliza."                   (Carissa Véliz , El País, 03/12/21)

La crisis de suministros frustra el lanzamiento de IUVIA, una innovadora 'nube' gallega para escapar de Google... Dos emprendedores de Lugo han paralizado su proyecto de una 'nube' alternativa que podría devolver la soberanía de los datos a los ciudadanos... desde Lugo

 "Uno de los proyectos más sólidos e innovadores dentro del mundo de las start-up españolas está paralizado antes de nacer por culpa de la crisis de suministros que afecta a todo el mundo. Se trata de IUVIA, una iniciativa de dos emprendedores de Lugo —la arquitecta Sofía Prósper y el ingeniero Santiago Saavedra— pensada para evitar el rastreo de datos personales en la red mediante una suerte de 'nube distribuida'.

"Se trata de un microservidor para tener en casa o en la oficina, que te permite alojar tanto tus propios datos como tus propios servicios", explica Sofía Prósper a Público. Es decir, gracias a un dispositivo sencillo de manejar y con gran capacidad de memoria uno puede tener en casa (o en la empresa) y protegidos absolutamente todos sus datos y herramientas para usarlos: dominios, cuentas de correo, calendario y almacenamiento de contactos. De este modo, se evita de forma fácil depender de terceros, como Google, Amazon Web Service, Microsoft y otros servicios de software en la 'nube'.

Para ello, tenían previsto lanzar el próximo 30 de noviembre un aparato muy fácil de utilizar gracias al cual cada usuario podrá controlar plenamente sus datos, sin necesidad de cederlos a terceros. Pero no podrá ser: a pesar de que tenían cerca de 1.500 prerreservas (personas y empresas) y un crowfunding en marcha en KickStarter, han tenido que echar el freno.

 "El proveedor que teníamos ha suspendido la fabricación del dispositivo, y las alternativas que nos quedaban eran o subir el precio un 25% [el paquete básico que ofrecían constaba de un solo pago de 500 euros] o esperar hasta 2024, porque hay componentes que se daban por sentado y ya no es así", lamenta Saavedra.

Este proyecto, que nació de la necesidad de proteger los datos personales sobre todo tras el escándalo de Cambridge Analytica, no tiene necesariamente por qué morir ahora; el software en el que se sustenta es libre y, como apunta Saavedra, podrían haber spin-offs o derivadas del mismo, de forma que sea compatible esta manera de generar una 'nube' alternativa a la que ofrecen los gigantes de la red y en la que la confianza lo sea todo. "Generar un estándar sería lo ideal", dice Prósper.

La iniciativa, de alguna manera fruto del activismo de Prósper y Saavedra contra el llamado capitalismo de vigilancia y la preocupación por la privacidad de los datos personales, recibió 150.000 euros de fondos europeos a través del proyecto LEDGER. Y partía de una premisa que es siempre válida: no sólo hace falta tener ideas, sino que hay que llevarlas a cabo. "La única manera de cambiar de verdad las cosas es hacer el bien y ganar dinero, que sea rentable", afirma Prósper, que añade: "Es muy fácil criticar las cosas que no funcionan, pero lo que es difícil es ofrecer una alternativa real que funcione".

 Preservar la soberanía de los datos es, por tanto, el núcleo de este proyecto; es muy importante saber dónde y cómo se tratan los datos personales en la red, dado que España está sujeta al Reglamento General de Protección de Datos (RGPD), muy garantista, traspuesta en la renovada Ley Orgánica de Protección de Datos. Conocer dónde se almacenan y se tratan los datos es crucial para aplicar (o no) las normativas más protectoras para los ciudadanos.

"Nuestra aproximación a la nube distribuida es que cada uno sea dueño de sus propios datos, pero si necesitas una copia de seguridad de tus datos, exista una capa superior en la que se pueda almacenar esos datos en otros dispositivos de tu confianza", apunta Santiago Saavedra. "Porque uno de nuestros objetivos es que se crean esas redes de confianza", apunta Prósper, "de modo que existan personas o empresas afines que decidan establecer esas redes para alojar mutuamente copias de seguridad".

Un mal momento

Ambos emprendedores reconocen, sin embargo, que ahora no es el momento para lanzar comercialmente su idea ("hay tanta incertidumbre en el mercado que ni siquiera podemos fijar ahora mismo un precio", comenta Saavedra), no pueden pedir a ningún inversor que apuesten por un producto que ni siquiera pueden lanzar; están convencidos de su viabilidad económica pero, desgraciadamente para ellos, han sido una víctima más de la crisis de suministros que vive la industria de medio planeta.

 Varios factores han convergido en este último año marcado por la pandemia de la covid-19: la escasez de determinados minerales, el encarecimiento de los combustibles y el parón del comercio marítimo convergen en un momento crítico y lastran el esperado crecimiento de la economía.

Estamos asistiendo a una escasez generalizada de materiales tan básicos como el cobre, el cobalto, el litio y el manganeso, además de las llamadas tierras raras, indispensables para la fabricación de productos de alta tecnología. Si a ello le sumamos que los fletes de los barcos entre Asia y Europa se han encarecido entre un 800% y un 1000% en los últimos dos años, y los precios de los combustibles se mantienen en máximos históricos, nos encontramos con una tormenta perfecta que puede ahogar iniciativas emergentes como la de estos emprendedores lucenses.

Estos problemas de suministros, para algunos organismos como la Organización Mundial del Comercio (OMC), son "coyunturales" y durarán "algunos meses", en un intento por tranquilizar a los mercados. No obstante, la recuperación de los ritmos de producción y entregas, para algunas iniciativas, puede ser cuestión de vida o muerte."                   (Pablo Romero, Público, 22/11/21)

Muévete rápido y rompe el poder de las grandes tecnológicas... Europa lo podría hacer con tres medidas: Introducir una fuerte regulación y aplicación para eliminar gradualmente el modelo de negocio basado en la vigilancia... Regular los problemas sistémicos de la economía de las plataformas, no la expresión en línea... Dando poder a los usuarios y promoviendo la redistribución de la web

 "Vivimos en una era de dominio de las grandes tecnologías, que ha dado lugar a una economía descrita por Shoshana Zuboff como "capitalismo de la vigilancia". Es necesario cambiar mucho para que el mundo digital respete los derechos de los ciudadanos, en lugar de atender únicamente a la codicia en constante expansión.

La Unión Europea, al igual que otras regiones reguladoras mundiales, está dispuesta a cambiar el statu quo proponiendo un conjunto de nuevas leyes y normas. Éstas intentan, por un lado, reformar la forma en que las plataformas en línea pueden ser consideradas responsables de sus acciones (la Ley de Servicios Digitales) y, por otro, imponer normas más estrictas a las plataformas que abusan de su posición como guardianes digitales para evitar la competencia (la Ley de Mercados Digitales).

¿Serán estas normas, la DSA y la DMA, suficientes para domar a las grandes tecnológicas?

Un puñado de empresas

A medida que dependemos de la tecnología para vivir, trabajar, estudiar o conseguir servicios esenciales, el poder de un puñado de empresas es cada vez mayor. Mientras Facebook media en la vida social y los mensajes personales de más de 3.000 millones de personas, Google se ha hecho con el control de los dispositivos móviles, los buzones de correo electrónico y las consultas de búsqueda. Las empresas de reparto utilizan ahora algoritmos para enviar pedidos a sus conductores -o despedirlos automáticamente si la inteligencia artificial determina que no rinden lo suficiente- y Amazon no sólo vende libros, sino que centraliza la mayor parte de la capacidad de computación en la nube del mundo.

 Cuando llegó la pandemia, las grandes tecnológicas estaban dispuestas a "ayudar" en la preparación de las aplicaciones de rastreo Covid-19 y Google intentó dominar aún más los sistemas escolares públicos, todo ello "gratis".  Algunas empresas, como Amazon, son tan poderosas que no sólo son monopolios, sino que ejercen un "feudalismo digital": todo y todos pertenecen o dependen del mismo señor tecnológico.

El modelo de negocio basado en la vigilancia de las empresas tecnológicas dominantes se basa en la extracción de toda la información personal y la elaboración de perfiles posibles para dirigirse a las personas, dentro y fuera de la red.  Con el tiempo, las grandes empresas tecnológicas construyen una imagen aterradoramente detallada sobre miles de millones de individuos, y ese conocimiento se traduce directamente en poder (de mercado).
Extracción de datos personales

Esto permite a las plataformas asegurarse de que los usuarios permanezcan conectados. Cuanto más tiempo permanezcan los ojos pegados a la pantalla, más anuncios personalizados se pueden mostrar y más datos personales se pueden extraer (y acumular beneficios).

 Las plataformas llaman a esto "compromiso", pero en realidad sólo se trata de espectadores que consumen más anuncios. Empresas como Facebook están incentivadas para mantener a grupos de usuarios rivales "comprometidos", polarizando a la sociedad con información errónea y otros contenidos que socavan la democracia.

Esto se agrava con el bloqueo: una persona puede haberse unido a Facebook por interés, pero si se va perderá todas sus conexiones allí. El "tengo que estar en esta plataforma porque todo el mundo lo está" es para los economistas un "efecto red", una poderosa palanca para que las grandes plataformas consoliden su dominio.

Llegamos a este punto gracias a la ola neoliberal que llevó a los políticos de ambos lados del Atlántico a decidir no regular las empresas de Internet, empresas que en algunos casos comenzaron y crecieron con una importante financiación pública. Sin embargo, la marea ha cambiado finalmente, ya que los ciudadanos, las organizaciones no gubernamentales, los académicos, las instituciones internacionales y los responsables políticos por igual han visto los innegables impactos de las empresas privadas no reguladas en los derechos humanos y se están volviendo cada vez más activos en el tema. Incluso las administraciones nacionales y transnacionales -especialmente la UE- ven la necesidad de detener esta locura.

Tres soluciones

European Digital Rights (EDRi) sugiere tres tipos de soluciones, que mejorarían drásticamente el entorno de las plataformas digitales en beneficio de todos.

 Introducir una fuerte regulación y aplicación para eliminar gradualmente el modelo de negocio basado en la vigilancia: desde la Coalición de Anuncios Libres de Seguimiento en el Parlamento Europeo y Stop Stalker Ads, hasta la prohibición mundial de la publicidad de vigilancia y el Supervisor Europeo de Protección de Datos, existe una amplia comprensión de que la publicidad online dirigida debe preservar la privacidad y centrarse en el ser humano. No debe permitir a las empresas tecnológicas manipular el debate público, ni permitir que otros lo hagan. El objetivo es atajar las fuentes sistémicas de un modelo de negocio que promueve la circulación de contenidos nocivos y polarizantes y la desinformación.

Regular estos problemas sistémicos de la economía de las plataformas, no la expresión en línea: un enfoque holístico, basado en los derechos humanos, de la moderación de contenidos debería garantizar una participación y expresión seguras para todos. Aunque pueda parecer lógico que quienes se benefician de los contenidos perjudiciales que se hacen virales sean responsables de su impacto, la UE no debería crear incentivos regulatorios para que las plataformas eliminen contenidos legítimos. Los defensores de los derechos humanos dependen a menudo de las plataformas para denunciar todo tipo de atrocidades, pero confiar a estas empresas un poder aún más desregulado sobre los contenidos conduciría a problemas mayores, como demuestra el silenciamiento de los activistas palestinos en las "redes sociales" y de los activistas políticos en Europa. Al mismo tiempo que fomentamos la transparencia en las denuncias y el acceso a los recursos para las víctimas de los daños, también abogamos por un enfoque basado en el Estado de Derecho que ayude rápidamente a las víctimas pero que proteja la expresión legítima.

 Dar poder a los usuarios y promover la redistribución de la web: hay que poner en marcha leyes de competencia fuertes y la Comisión debe hacerlas cumplir. Tomasso Valletti, economista jefe de competencia de la Comisión desde 2016 hasta 2019, expuso la escandalosa inacción en materia de competencia en el sector de las grandes tecnologías: "Los GAFAM (Google, Amazon, Facebook, Apple, Microsoft) han adquirido más de 1.000 empresas en los últimos 20 años, y cero de esas transacciones han sido bloqueadas, y el 97% ni siquiera fueron evaluadas por nadie". De hecho, muchas de estas fusiones recientes han creado enormes problemas de privacidad y protección de datos: Google y FitBit y Facebook y WhatsApp son dos de los ejemplos más conocidos.

Además, las personas deben tener la posibilidad de abandonar las plataformas invasoras de la privacidad y los guardianes de los servicios equivalentes sin perder el acceso a las conexiones, las preferencias y los contenidos compartidos. Una de las principales demandas de EDRi a la DMA y a la DSA es la interoperabilidad obligatoria (para que los individuos puedan usar alternativas a las plataformas y sistemas operativos de las grandes tecnologías) para los gatekeepers o las plataformas muy grandes. En contra de la propuesta original de la Comisión, insistimos en que la interoperabilidad obligatoria debe incluir servicios básicos, como la moderación de contenidos de terceros y los sistemas de recomendación.

 Un apoyo público abrumador

La DSA y la DMA podrían convertirse en dos piedras angulares de un entorno radicalmente cambiado en cuanto a la forma en que los ciudadanos utilizan la tecnología y se ven afectados por ella. Si se añade una aplicación más estricta del Reglamento General de Protección de Datos (RGPD), un sólido Reglamento de Privacidad Electrónica y la prevista Ley de Inteligencia Artificial, el impacto en la regulación de las tecnologías digitales podría ser profundo.

El cambio está al alcance de la mano, el público lo apoya de forma abrumadora y los responsables políticos también están comprendiendo por qué es necesario. Todos los que luchan por una sociedad más igualitaria, justa y equitativa tienen que hacerlo ahora."                     

 (Diego Naranjo, jefe de política de European Digital Rights (EDRi). Social Europe, 27/07/21)