"A principios del siglo XX, Simone Weil escribió: "El mal imaginario es romántico y variado; el mal real es sombrío, monótono, estéril, aburrido. El bien imaginario es aburrido; el bien real es siempre nuevo, maravilloso, embriagador".
Fascinados por los románticos y variados males que presumiblemente esperan a la humanidad ante la "singularidad" de la inteligencia artificial de Ray Kurzweil, muchas instituciones y grupos de expertos de todo el mundo procedieron a elaborar listas de valores que deben respetarse, por muy distópico que sea nuestro futuro transhumanista. Algunos ejemplos destacados son la Organización para la Cooperación y el Desarrollo Económico y la Comisión Europea, con su grupo de expertos de alto nivel sobre IA. Se aprobaron importantes principios de valor para los futuros sistemas de IA, como la supervisión humana, la seguridad, la privacidad, la transparencia, la equidad y el bienestar.
No quiero dudar de la importancia y la buena voluntad de estos esfuerzos. Pero hay dos cosas que llaman la atención en ellos.
No están grabados en piedra
La primera es que abordan problemas para una narrativa futura que no está en absoluto grabada en piedra. La "captura creativa" que los cuentos de Silicon Valley ejercen sobre nosotros nos hace creer que todos formamos parte de una evolución robótica, cósmica y de superinteligencia de IA. Es un cuento con el que la industria de la tecnología de la información gana dinero. Pero, ¿realmente tenemos que creer que todo tipo de servicios humanos, desde la contratación laboral hasta las artes, deben ser digitales? En sentido estricto, éste es sólo uno de los muchos caminos que puede tomar la humanidad, y probablemente uno que ni siquiera desean más que unos pocos fanáticos.
Así que la pregunta es: ¿por qué en Europa nos sometemos a ese "espíritu de la época", que no parece beneficioso para los ciudadanos europeos e incluso se siente desajustado con el patrimonio y la cultura europeos, mucho más ricos que la oscura ciencia ficción? ¿Por qué llegamos incluso a aprobar leyes para prepararnos para ese futuro, reconociendo así su inevitabilidad?
Un segundo aspecto es por qué valores tan fundamentales como la seguridad y robustez de los sistemas, el control humano, la transparencia y la equidad sólo se discuten con vistas a la IA, o incluso a la IA de "alto riesgo". ¿No deberían ser factores de higiene para todos los sistemas digitales existentes? ¿Será que la pista falsa de nuestro futuro transhumanista está desviando la atención de los verdaderos retos que la digitalización presenta aquí y ahora sobre el terreno, donde todos estos principios de valor son muy necesarios?
Cualquiera que se haya asomado a los entresijos de la industria informática sabe muy bien que la digitalización, independientemente de sus numerosas ventajas, ha llevado a las empresas a un costoso caos. Los retos más importantes para un humanismo digital están, en efecto, sobre la mesa y hay que abordarlos rápidamente antes de pensar en poner rumbo a las costas de otros proyectos.
Se trata de cuestiones relacionadas con la calidad del software y el hardware, la arquitectura distribuida y la complejidad de la red, los modelos de negocio erróneos de la disrupción y el "capitalismo de la vigilancia", los retos del suministro de componentes a largo plazo, la sostenibilidad medioambiental y, por último, pero no por ello menos importante, el odio, la envidia y la adicción imprevistos que se extienden por las redes sociales como un reguero de pólvora y que erosionan nuestras democracias mediante formas de tribalismo inducidas por los algoritmos.
La falacia del deseo
Frente a todos estos costosos desafíos, se podría perdonar que uno se pregunte por qué, en realidad, Europa debería sentirse tan presionada para emprender una digitalización cada vez mayor. ¿Podría tratarse de la falacia del deseo de René Girard, es decir, que uno siempre quiere algo sólo porque la otra parte también lo quiere? ¿Podría ser que Europa sólo sienta la necesidad de convertirse en líder de la IA porque Estados Unidos y China están muy interesados en esa posición?
No hay que olvidar que las empresas estadounidenses, que procesan gran parte de nuestros datos, también tienen que lidiar con todos los problemas señalados, que el diseño de la tecnología de primera generación ha provocado en los últimos 20 años. Se están hundiendo en la entropía. ¿Debe Europa seguir su ejemplo, sólo porque China lo hace?
Si Europa reflexionara sobre sus competencias básicas y sus ventajas competitivas actuales, probablemente vería que su cultura desarrollada y su comportamiento ciudadano guiado por valores es lo que la ha hecho tan exitosa. Nuestros cascos urbanos aún prosperan con los valores de la belleza, el esplendor y la perfección. Nuestro paisaje de catedrales góticas sigue respirando el aire de santidad y magnanimidad del cristianismo medieval: el mundo entero lloró ante el incendio de "Notre" Dame. Nuestra maquinaria es conocida por su precisión, robustez, seguridad y longevidad. Si queremos sobrevivir como un continente vibrante, es sólo a través de la alimentación y el fortalecimiento de esta "cultura del valor".
Imitando a los monolitos
¿Cómo podemos fomentar una cultura del valor en la era digital que llega? Hasta ahora, la respuesta parece ser imitar los monolitos tecnológicos, los sistemas en la nube, las plataformas de streaming y las redes sociales que poseen Estados Unidos y China, como ocurre con el sistema en la nube Gaia-X.
Para mantener un equilibrio político de respeto entre continentes y restablecer una esfera pública digital de confianza, es sin duda vital que Europa recupere la soberanía de los datos, controle su propia infraestructura de red en el continente, controle los datos obtenidos de los ciudadanos europeos, prohíba la compra competitiva de las empresas europeas de tecnología unicornio y garantice los recursos necesarios para el mantenimiento a largo plazo de la infraestructura digital.
De hecho, aquí Bruselas podría -si fuera políticamente más independiente de Estados Unidos y más valiente- hacer mucho más por los ciudadanos europeos. Por ejemplo, garantizar por ley que las instituciones públicas europeas (como las escuelas) compren sus suministros digitales principalmente a empresas europeas podría ser un motor para el emprendimiento digital europeo. Se trata de un modelo de éxito, por cierto, muy utilizado tanto en Estados Unidos como en China para apoyar sus propias industrias digitales.
Una vía europea alternativa
Pero estas normativas de arriba abajo y las iniciativas de deslocalización de infraestructuras son sólo la mitad de la historia. No crean automáticamente el tipo de cultura que realmente necesitamos para forjar una vía europea alternativa, alejada del capitalismo transhumanista, neoliberal y de vigilancia digital. Si los ciudadanos europeos fueran atendidos por start-ups locales que adoptaran el ethos distópico de Silicon Valley, esto podría servir a nuestra balanza comercial, pero no conduciría a un futuro digital rico y positivo en el que una Europa social estuviera a la altura de su herencia.
Lo que necesitamos, en cambio, es una nueva forma de perseguir nuestras innovaciones digitales: un nuevo honor empresarial sobre el terreno. Un renacimiento del espíritu europeo de bondad, perfección, convivencia, fiabilidad y belleza que nos ha llevado hasta donde aún queremos permanecer.
Esto implica una forma más cuidadosa y reflexiva de definir las misiones empresariales. Los jóvenes empresarios deben alejarse de los "malabares con el lienzo del negocio" y de los lanzamientos de prototipos inmaduros y, en cambio, volver a aprender lo que significa construir una verdadera "propuesta de valor".
Ingeniería basada en el valor
¿Cómo puede aprenderse y fomentarse esta vía de innovación eudaemónica? Las listas de valores de arriba a abajo, plantadas en un Weltgeist erróneo y transhumanista, no harán el trabajo. En su lugar, necesitamos -en comunión con Weil- volver a abrazar el bien "aburrido", en una práctica de ingeniería e innovación basada en valores, para lo cual se han dado los primeros pasos.
Lo más importante es educar a una generación de gestores, empresarios, innovadores e ingenieros para que se conviertan en lo que el IEEE, en sus nuevas normas éticas, ha empezado a llamar "líderes en valores". Se trata de personas que pueden distinguir el verdadero valor humano y social de la ganancia monetaria y que pueden guiar a las empresas, instituciones y proyectos hacia la creación de algo bueno por sí mismo, en lugar de crear lo que Martin Heidegger habría llamado "cosas" para una oferta pública inicial.
Los líderes de valor pueden ayudar a las empresas a entender su misión de valor tecnológico única, derivada de diálogos con las partes interesadas sensibles al contexto. Pueden apoyar a los altos ejecutivos para que adopten y defiendan esa misión de valor, que no sólo debe estar ahí para las relaciones públicas, sino que debe ser detectable en el producto. Para ello, es necesario establecer un camino de ingeniería trazable y basado en el valor, que incluya la responsabilidad y el control del ecosistema sobre todos los componentes técnicos que intervienen en la prestación del servicio al cliente.
Este camino también implica una conciencia del riesgo, que puede guiar eficazmente la identificación de los requisitos del sistema antes de que éstos se entreguen a formas ágiles e iterativas de desarrollo del sistema. Por último, la conciencia del riesgo también debe llevar a las empresas a renunciar a una inversión si es necesario. No deben asumirse riesgos elevados en nombre de un progreso tecnológico abstracto o de una ganancia monetaria, especialmente cuando éstos pueden ser perjudiciales para los seres humanos o la naturaleza."
(Sarah Spiekermann es presidenta del Instituto de Sistemas de Información y Sociedad de la Universidad de Economía y Empresa de Viena, Social Europe, 22/12/21; Traducción realizada con la versión gratuita del traductor www.DeepL.com/Translator)
No hay comentarios:
Publicar un comentario