"(...) En
el caso de Facebook, nos quedamos con la desalentadora pregunta de si
el Sr. Zuckerberg y sus genios de la informática realmente entienden su
propia creación.
La
inteligencia artificial de Facebook se ha construido (o más
exactamente, improvisado) a lo largo de varios años por cientos de
desarrolladores y programadores diferentes. La
profesora Zeynep Tufekci de la Universidad de Harvard describe el
algoritmo de Facebook como "matrices gigantes, tal vez millones de filas
y columnas, y ni siquiera los programadores entienden cómo funciona
exactamente".
Hay tantas variables que entran en su clasificación
compleja y patentada que Facebook
no puede decir con autoridad por qué algo aparecerá o no en las
noticias de un usuario, o cómo y por qué, de repente, los trols rusos y
sus bots pudieron manipular los algoritmos para llegar a casi la mitad
de todos los votantes estadounidenses con noticias falsas. (Esto incluyó cosas tan impactantes como que el Papa apoyaba a
Donald Trump para presidente, que recibió casi 2 millones de
"compromisos" de Facebook (cantidad total de acciones, me gusta y
comentarios) en los tres meses previos a la elección de los EE. UU.).Sin
embargo, varios expertos han estado observando de cerca a esta compañía
y han descubierto algunos de sus patrones de comportamiento. Combinado
con las revelaciones recientes de un denunciante, esto es lo que hemos
aprendido sobre cómo funcionan realmente Facebook y sus algoritmos. Es aún más alarmante de lo que nadie pensó.AI se dirige a los usuarios para que no solo les afecten la publicidad, sino también las noticias y las elecciones. Dado el uso e influencia generalizados de Facebook, con 2 mil millones
de usuarios globales, está reemplazando rápidamente a la televisión
como el medio de noticias, entretenimiento y comercial más dominante en
el mundo; esta manipulación afecta al corazón mismo de nuestras
sociedades democráticas. (...)
La plataforma está específicamente diseñada para mantener a los usuarios haciendo clic, tocando y desplazándose por un clickeo sin fondo, y en el proceso nos entrega a varios anunciantes.
Pero eso no es todo. Con base en nuestros perfiles individuales, los algoritmos de participación de Facebook también están diseñados para alimentarnos con noticias sensacionalistas (tanto falsas como reales) seleccionadas para provocar emociones poderosas de ira y miedo. Al reaccionar, al hacer clic y al compartir estas historias, los usuarios son llevados por la "arquitectura de persuasión" de Facebook a ghettos de información hiperpartidistas de opinión y hechos alternativos, conocidos como "burbujas cognitivas".
Un
ejemplo escandaloso fue la falsa teoría de la conspiración criticada en
Facebook durante la campaña presidencial de que Hillary Clinton y su ex
presidenta de campaña dirigían una red de sexo infantil en el sótano de
una pizzería en Washington DC.
Además
del hecho de que el restaurante, Comet Ping Pong, ni siquiera tiene un
sótano, el personal del restaurante y su dueño fueron golpeados con una
andanada de insultos y amenazas de muerte en las redes sociales. Las
cosas pasaron de alarmantes a peligrosas cuando un hombre entró al
Cometa Ping Pong con un rifle de asalto y comenzó a disparar
(afortunadamente nadie resultó herido). Esa fue solo una de las docenas de noticias falsas, todas con historias absurdas.
Otras
historias afirmaron que Hillary Clinton vendió armas a Isis, y que un
agente del FBI vinculado a las filtraciones de correo electrónico de
Clinton había sido misteriosamente encontrado muerto. Un
análisis de BuzzFeed News encontró que 17 de las 20 historias de
elecciones falsas de mayor rendimiento fueron abiertamente pro-Donald
Trump o anti-Hillary Clinton.
En los últimos tres meses de la campaña presidencial, las principales
noticias falsas sobre las elecciones generaron casi 9 millones de
compromisos en Facebook, lo que fue un 20% mayor que el número recibido
por las historias electorales de los 19 principales medios de noticias
combinados.
Elegir el objetivo
Pero los impactos son aún más profundos que las noticias falsas. Whistleblower
Christopher Wylie reveló al New York Times y al Observer del Reino
Unido cómo su antigua compañía, Cambridge Analytica, usó información
personal obtenida de 87 millones de usuarios de Facebook para construir
un sistema que creaba perfiles psicológicos y políticos de la mayoría de
los votantes estadounidenses a través de cuestionarios en línea.
Cambridge
Analytica estaba encabezada por el consejero clave de Trump, Steve
Bannon, del medio de comunicación de extrema derecha Breitbart. Para
las elecciones presidenciales estadounidenses de 2016, The Guardian
informa que Cambridge Analytica implementó un conjunto de técnicas que
fueron adoptadas del Departamento de Defensa de los Estados Unidos y del
Ministerio de Defensa del Reino Unido, en particular sus "operaciones
psicológicas" o psyops.
Esos
métodos se centraron en cambiar las mentes de las personas, no a través
de la persuasión, sino a través del "dominio informacional" que depende
de la desinformación, noticias falsas, rumores y "mensajes
psicográficos".
Como señaló el New York Times, podría mostrarse a un
votante neurótico un
anuncio de derechos de armas con la intromisión de ladrones en un hogar,
en lugar de una defensa legal en seco de la Segunda Enmienda; los
votantes preocupados y con ansiedad serían influidos con avisos que
advierten de los peligros que representa el Estado Islámico, aunque tales
avisos se presumirían ineficaces con los identificados como
"optimistas".
El
precursor de Cambridge Analytica, llamado SCL Elections, afirma que ha
utilizado un conjunto similar de herramientas en más de 200 elecciones
en todo el mundo, incluso en Italia, Ucrania, Rumania, Sudáfrica,
Nigeria, Kenia, India, Indonesia, Tailandia y muchos otros democracias.
Cuando
la brecha de datos de Facebook se produjo por primera vez en 2014,
incluía un tercio de los usuarios activos de América del Norte, y casi
una cuarta parte de los posibles votantes estadounidenses. Wylie le dijo a los periódicos; "Aprovechamos
Facebook ... y construimos modelos para explotar lo que sabíamos sobre
[sus usuarios] y centrarnos en sus demonios internos".
Paul-Olivier
Dehaye, experto en datos y académico con sede en Suiza, que publicó
algunas de las primeras investigaciones sobre los procesos de Cambridge
Analytica , dice que cada vez es más evidente que Facebook es "abusivo por diseño".
Incluso
si las técnicas de Cambridge Analytica no fueron totalmente decisivas
en influir en los votantes, como algunos expertos han afirmado, eso
pasa por alto un punto importante. Dejados a su suerte, estas compañías están escribiendo las reglas de nuestro futuro digital colectivo.
Y estamos apenas en la etapa inicial de lo que eventualmente serán capaces estas tecnologías. La
vinculación de poderosas respuestas emotivas que han sido estimuladas
digitalmente para orquestar un tipo de pensamiento grupal partidista
recuerda escalofriantemente a Two Minutes of Hate de George Orwell en su
novela 1984.
El Dr. Tufekci dice que "el modelo de negocio subyacente a
las plataformas de Big Tech: cosechar atención con una infraestructura de vigilancia masiva para permitir la
publicidad dirigida y en su mayoría automatizada a gran escala, es
demasiado compatible con el autoritarismo, la propaganda, la
desinformación y la polarización ".
Más allá de las redes sociales
Con
sus 2.000 millones de usuarios en todo el mundo, Facebook ha pasado de
ser un proyecto mascota iniciado en el dormitorio de Harvard de
Zuckerberg a convertirse en mucho más que una plataforma de redes
sociales.
Se
ha transformado en una gran plataforma de noticias, entretenimiento y
publicidad que es vista por más personas que cualquier red de televisión
estadounidense o europea, cualquier periódico o revista y cualquier
medio de comunicación en línea.
También
llega a cientos de millones de usuarios en el mundo en desarrollo,
donde la compañía ha adaptado su aplicación para conexiones de bajo
ancho de banda y teléfonos Android menos costosos. Muchos emprendedores del mercado negro y gris en el mundo en
desarrollo usan una aplicación de Facebook como puerta de acceso
comercial similar a eBay para comprar y vender.
Google también ha dominado este tipo de arquitecturas, y Amazon está en camino. Al hacerlo, estas compañías se han convertido en tres de las compañías más valiosas del mundo. Juntos,
Google y Facebook ahora representan un sorprendente 73% de todos los
ingresos publicitarios globales en línea (84% fuera de China) y 25% de
todas las ventas publicitarias (en línea o no).
Amazon ahora está jugando lentamente a ponerse al día en el juego publicitario. Pero este creciente duopolio está desplazando a otros medios de
comunicación, forzando incluso a Twitter y Snapchat a luchar por los
desechos publicitarios necesarios para sobrevivir.
En
otras palabras, nosotros, el público, somos los conejillos de Indias
para los experimentos algorítmicos de estos monopolios de plataforma. El
poder de los algoritmos se pone a trabajar para fines muy cuestionables
y tiene una propensión a provocar consecuencias imprevistas.
Viktor
Mayer-Schönberger, profesor de la Universidad de Oxford y coautor de
Reinventing Capitalism in the Age of Big Data, dice: "Los
algoritmos y los conjuntos de datos detrás de ellos se convertirán en cajas negras que no nos ofrecen responsabilidad, trazabilidad o
confianza".
En el pasado, dice, la mayoría del código informático podía
abrirse e inspeccionarse, haciéndolo transparente. Pero con AI y sus enormes conjuntos de datos mejorados por el
"aprendizaje automático", la capacidad humana para monitorear estos
acertijos tecnológicos está disminuyendo.
Europa
ha operado desde hace mucho por el "principio de precaución", que es
como el juramento hipocrático en medicina que dice: "Primero, no hacer
daño". Los productos y servicios que están creando estas compañías de
Silicon Valley han tenido acceso generalizado a mercados y consumidores
europeos .
Los
europeos tienen una gran fe en una Internet abierta, pero las trampas
de este exceso de optimismo son cada vez más evidentes. Ahora
que Facebook se ha convertido en un gran monopolio global, una
importante plataforma de medios para todo el planeta, se ha vuelto menos
benigno y está generando más alarmas.
¿Una plataforma modelo europea?Mucha gente se lamentó durante mucho tiempo: "¿Dónde está el Facebook y Google europeos?" Pero el emperador ya no tiene ropa; Se
ha demostrado que el liderazgo digital de las compañías de plataforma
de Silicon Valley es siniestro e irresponsable y se tambalea al ser
peligroso.
Ahora
es el momento de que algunas start-ups europeas se unan, con capital
riesgo de la UE y / o gobiernos individuales, y creen una nueva versión
de Facebook (y Google y Amazon) que incorpore los valores europeos. Llámalo Facebook 2.0. China lo ha logrado: ¿por qué no puede Europa?
En este punto, una especie de renacionalización de Internet parece natural y casi inevitable. Las
naciones y los bloques regionales como la UE y China deben cada uno
reconfigurar la red de manera que funcione para sus poblaciones, sus
valores y sus necesidades futuras.
Actualmente estas compañías de plataforma parecen existir en todas partes y en ninguna parte, convirtiéndose en gigantes mundiales. Una idea que se ha discutido es convertir estos tipos de servicios en servicios públicos. Otra es la división de ellos como monopolios demasiado grandes.
Otra opción más es la de exigir licencias digitales que tracen las
reglas y regulaciones de funcionamiento para plataformas basadas en
Internet, de forma similar a como se les debe otorgar permisos
comerciales y licencias a las compañías tradicionales.
La evolución de la era digital avanza rápidamente, y al igual que en épocas pasadas cuando el petróleo, el teléfono y los monopolios de Microsoft finalmente necesitaron ser conectados, es hora de descubrir el arnés digital adecuado para estas compañías de plataformas. La alternativa es dejar los estándares y las normas que regirán el futuro a ser definidos por estas compañías Frankenstein de Silicon Valley." ( , Social Europe,
No hay comentarios:
Publicar un comentario