Mientras en 2007 y 2008 las grandes casas de gestión de las deudas privadas en el mundo entraban en quiebra y se declaraba la crisis financiera más importante desde 1929, las empresas tecnológicas más importantes de la historia, por su gran capacidad de concentración (Facebook Inc. Alphabet Inc. o Amazon), comenzaron a romper el mercado. Habían domesticado el algoritmo. Desde entonces esa palabra, “algoritmo”, recorre nuestras vidas y define muchas de nuestras acciones.
La forma en que nos vestimos, los lugares que podemos visitar, el importe que podemos pagar por un billete de avión, la aprobación de un crédito, la definición de nuestro voto o encontrar pareja. Todo puede ser definido, porque así lo hemos establecido de forma consciente o inconsciente, por un algoritmo tecnológico que utiliza nuestra información, nuestras huellas digitales, para brindarnos opciones basadas en sus propias predicciones.
No es un asunto sin importancia. Un algoritmo puede determinar el precio que debes pagar en tu seguro de coche a partir de tus comentarios o fotos publicadas en Instagram. También puede cruzar datos de diferentes bases para determinar el riesgo que tienes al contratar una hipoteca. De hecho, los procesos de inteligencia artificial, ligados a la creación de mejores aplicaciones en línea, a encontrar los candidatos más adecuados al perfil ofertado, a preseleccionar un pequeño grupo de personas de un gran número de solicitantes o a examinar candidatos posiblemente problemáticos, son ya utilizados por algunas empresas en sus procesos de contratación de personas.
Nos movemos, cada día, en el universo de los algoritmos que determinan un espacio fundamental de la economía de la información y de la atención en el siglo XXI. Por eso es imprescindible saber qué es un algoritmo, cómo funcionan en las redes sociales y qué consecuencias tienen para una sociedad democrática.
Detrás de la caja negra: ¿Qué es un algoritmo?
Un algoritmo es una herramienta mecánica utilizada para gestionar un comando determinado (input), evaluar sus variables, todas las posibles, y establecer un resultado (output) en el menor tiempo posible.
Sus cálculos ordenados, aquellos que permiten realizar una determinada operación y establecer un resultado, están integralmente ligados con el concepto de lo intangible. Sus operaciones, normalmente, no se pueden ver o examinar. Vemos y podemos comprobar tanto el input como el output, pero la mayoría de nosotros, los que generalmente damos ese primer input, como publicar una foto, dar un like o simplemente hacer una búsqueda en Google Chrome, no podemos comprender por qué ese primer input o acción determina un resultado concreto en la interfaz que consumimos.
De hecho, muchas veces no somos conscientes de que un determinado input o acción (un clic) tiene relación con un aviso publicitario, con una aparición específica de un post de alguien a quien seguimos o con la recomendación que hace, por ejemplo, Netflix sobre una nueva serie que quizás nos interesa.
Seguro que, en algún momento reciente, te ha sorprendido el hecho que, después de una conversación con amigos o familiares sobre, digamos, pizzas a domicilio, los siguientes anuncios recibidos en tu móvil, estén relacionados con pizzas o comida a domicilio. Sí, es un algoritmo que trabaja, según las grandes compañías, “a tu servicio”.
En términos informáticos, el algoritmo tiene una significación mucho más amplia de lo que se cree. Al igual que una receta de cocina, un algoritmo es una serie de instrucciones, un diagrama lógico y continuo, que permite obtener un resultado. Realiza, a una enorme velocidad, un conjunto de cálculos a partir de gigantescas masas de datos. Con ellos ofrece una predicción. Si la predicción acierta, es decir, logra que el usuario entre en el juego de la retroalimentación, el algoritmo se reproduce a sí mismo y puede mantenerse en un bucle —como en una máquina tragaperras o, lo más moderno, como en una casa de apuestas por internet—.
Pero el poder real del algoritmo viene cuando no acierta. El mecanismo, muchas veces llamado caja negra, porque no se sabe qué pasa en su interior, será capaz, ligado a la inteligencia artificial que le permite aprender de los nuevos datos introducidos por los usuarios, de dar nuevas respuestas, nuevos outputs para satisfacer las necesidades de los consumidores. Por eso el internet colaborativo, pero sobre todo las redes sociales, son la principal fuente de inputs que alimentan y perfeccionan los algoritmos.
Por eso también uno de los científicos más importantes de la historia reciente, Stephen Hawking, declaraba que uno de los cuatro peligros que amenazan la humanidad (junto con el cambio climático, el poco espacio y la escasez de recursos de la tierra o el impulso activo por contactar con civilizaciones alienígenas) es el avance poco controlado de la inteligencia artificial.
Los algoritmos en las redes sociales: ¿mis datos importan?
Según Lori Lewis, experta en la publicidad en las redes sociales y asesora del cambio de imagen de más de 700 marcas comerciales en los Estados Unidos, cada 60 segundos una empresa como Google puede obtener 3.8 millones de datos relativos a búsquedas hechas en su motor de búsqueda, y sumarle a ellos los 4.5 millones de vídeos de YouTube vistos en el mismo periodo de tiempo. Por su parte, cada minuto, un millón de persona se conecta a Facebook, casi 350.000 realizan un paseo por Instagram y 18.1 millones de mensajes se intercambian en WhatsApp.
Los datos que adquieren los algoritmos para funcionar son introducidos de diferentes formas. Pero la mayoría de los algoritmos, en la actualidad, basan sus operaciones en la información que los usuarios aportan a las redes sociales y en cómo ellas monitorizan el uso y el consumo. Las operaciones algorítmicas logran, dadas las enormes dimensiones de los datos, establecer nuevos cruces de herramientas y procesos de más algoritmos, cada vez más complejos, que otorgan, a su vez, nuevos datos a considerar.
El resultado del propio algoritmo tiene, por tanto, dos objetivos. Es, la vez, un resultado, y un nuevo input para incorporar al universo de operaciones del algoritmo. Es, en definitiva, un bucle de retroalimentación cada vez más sofisticada.
En cuanto a lo predictivo, plataformas como YouTube o Netflix, pero también Facebook, Twitter o Google, utilizan los algoritmos para gestionar sus contenidos, los productos a “fabricar” o promover para cada búsqueda y los productos prescindibles por sus bajos consumos.
De esta forma, cada usuario establece un consumo determinado que es entrecruzado por los algoritmos con otros usuarios de gustos o de patrones similares —cientos y cientos de categorías, desde el color de tu pelo, tu peso, tu gusto por el tenis o el lugar en el que vives—. La plataforma es capaz de poder predecir o sugerir nuevos consumos para el usuario seleccionado. Y, sobre todo, aprender de las respuestas que da cada usuario a cada nuevo resultado propuesto por el propio algoritmo.
Los algoritmos trabajan, por tanto, de forma unificada con las bases de datos. Por eso, las bases de datos que todos los usuarios de internet y de las redes creamos, de forma gratuita, son tan valiosas. La interrelación entre el algoritmo y los datos estructurados y no estructurados que volcamos a la red se convierten, cada segundo, en información valiosa para los mercados de la publicidad y la oferta de todos los bienes y servicios existentes.
El procesamiento de grandes volúmenes de datos pasa por el trabajo de los algoritmos y sus posibilidades de análisis de gran velocidad. En definitiva, los algoritmos son alimentados con bases de datos, para que estos realicen sus procesos de análisis matemático y cruces, para luego generar nuevos datos que aportan mayores volúmenes de información especializada.
Por tanto, los datos individuales importan. Mucho. Los algoritmos funcionan porque predicen comportamientos (compras, clics, tiempo de atención). Así, tus datos cumplen con dos objetivos comerciales y estratégicos. Por una parte, como agregados por categorías, permiten describir perfiles comportamentales de grupos. Pueden predecir, por ejemplo, cuándo una manifestación puede tener un perfil violento o pacífico.
Por otra parte, sirven para personalizar bienes y servicios. Y aunque esta práctica es, generalmente, vista como un beneficio, en realidad es una violación a tu propia privacidad, un concepto que, para Mark Zuckerberg, ya no es una norma social.
El inicio: la batalla entre Enigma y Bombe
El avance teórico práctico más significativo del concepto de algoritmo fue desarrollado por Alan Turing. Considerado como uno de los padres de la computación y precursor de la matemática moderna, la máquina de Turing demostró que podría resolver cualquier problema lógico que pudiera representarse mediante un algoritmo. De hecho, uno de sus mayores logros —recogido en la película The Imitation Game (2014)—, fue descifrar, mediante el desarrollo de una máquina (Bombe) guiada por un mecanismo lógico —un algoritmo complejo— las comunicaciones que el ejército alemán enviaba a sus tropas en la II Guerra Mundial a través de Enigma, otra máquina capaz de cifrar la información a través de un sistema de rotores que podía sugerir 10.000 billones de configuraciones distintas, y que cambiaba cada 24 horas.
Trailer: The Imitation Game (Morten Tyldum, 2014)
Bombe fue capaz de gestionar diferentes billones de datos y dar un resultado para decodificar la información encriptada. La máquina lograba establecer un posible punto de ataque de los ejércitos alemanes. Según Jack Copeland, profesor de la Universidad de Canterbury, la máquina creada por el equipo liderado por Turing, ayudó a reducir en al menos dos años la duración de la guerra. La aplicación de la lógica del algoritmo ayudó así a evitar entre 15 y 21 millones de víctimas.
Hay, sin embargo, una diferencia importante entre la aplicación de Bombe y los nuevos algoritmos ligados a la predicción del consumo. En la predicción del paso siguiente, en el equipo de Turing, intervenía una decisión humana con el objetivo de acortar la guerra y sus consecuencias más terribles. En una plataforma como Netflix, en cambio, la predicción es ya realizada por el propio algoritmo, con la única intención de monetizar el consumo del usuario. Netflix pueden convertir en un héroe a Pablo Escobar o minimizar las acciones de ETA con fines publicitarios si los números son una buena justificación para hacerlo.
El test de Turing, desarrollado en 1950, pone a prueba la capacidad de una máquina para hacer pensar a su interlocutor que las respuestas dadas por ella son producto de un pensamiento humano. El experimento ayuda a comprender que la relación establecida entre los algoritmos (grandes bases de datos que dialogan) es lo que permite que la máquina posea una capacidad intrínseca —o poder— de predicción que un humano no puede tener a la velocidad a la que un sistema algorítmico funciona.
Para Turing, en la primera década del siglo XX, era un sueño utópico. Para Google, Facebook y Amazon, es hoy posible y está desarrollado por capas más profundas de inteligencia artificial que se desarrollan en el deep learning, o el aprendizaje profundo (automático) que trata de imitar el comportamiento del cerebro humano (por capas de conocimiento o comunicaciones entre diferentes redes neuronales) y, al mismo tiempo, identifica patrones o características similares sin que sea necesario un entrenamiento previo.
La potencia actual de las máquinas que funcionan con los algoritmos es justamente la superposición de varias capas neuronales: la acción de que un output sea el alimento o input de una nueva capa de construcción de resultados.
Por eso, el algoritmo de consumo automático, tanto en YouTube como en la información que nos aparece en una búsqueda de Google o en el feed de Instagram, es capaz de especializarse cada vez más. Nos ofrece justo lo que hace que nuestros deseos, pensamientos y elementos ideológicos se vean reforzados. Un elemento que contradice la misma naturaleza contradictoria del propio ser humano.
El algoritmo como burbuja mediática
Eli Pariser, autor de El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos, señala que los nuevos filtros de internet, algoritmos activos desde 2009, observan y analizan las cosas que nos gustan. Las grandes empresas utilizan máquinas de predicción “cuyo objetivo es crear y perfeccionar constantemente una teoría acerca de quién eres, lo que harás y lo que desearás a continuación. Juntas elaboran un universo de información único para cada uno de nosotros —lo que he llamado una “burbuja mediática”— que, en esencia, altera nuestra manera de encontrar ideas e información”.
Una burbuja mediática se convierte así, según Pariser, en un “espejo unidireccional” que se limita a reflejar tus propios intereses: “La nueva internet no solo sabe que eres un perro; conoce tu raza y quiere venderte un cuenco de pienso de calidad suprema para mascotas”. El reflejo del espejo, además, se desarrolla con tres características:
La burbuja fomenta aún más la individualización del usuario. Actúa, de acuerdo con Pariser, y en contradicción con el discurso de interconexión de internet, como una “fuerza centrífuga que nos separa”.
La burbuja es invisible y normalmente el usuario acude a ella sin ningún tipo de filtro, básicamente, porque confía en que Google le proporciona la mejor búsqueda posible. En realidad, el motor de búsqueda y las empresas tecnológicas ofrecen unos resultados opacos porque “Google no te dice quién cree que eres o por qué te muestra los resultados que ves. No sabes si lo que supone acerca de ti es correcto o incorrecto; y puede que ni siquiera seas consciente de que está haciendo conjeturas sobre ti”, indica el autor. El usuario no ha decidido entrar en la burbuja, se sumergió en ella de forma inconsciente y, generalmente, se siente a gusto en ella.
La concepción de Pariser se ha hecho patente en otros estudios, con consecuencias aún más peligrosas que la ya inquietante construcción de las burbujas mediáticas. En un estudio coordinado por Alessandro Bessi, investigador de la Universidad del Sur de California, se demostró que los usuarios de Facebook y de YouTube tienden a seleccionar la información que más se acerca a sus pensamientos y creencias y a formar grupos polarizados que comparten sus opiniones.
En su estudio, Users Polarization on Facebook and Youtube, los investigadores subrayan que el contenido publicado y mostrado a los usuarios en ambas plataformas contribuye a la formación de burbujas mediáticas, y que los patrones de los comentarios pueden ser utilizados como predictores precisos para la formación de cámaras de eco ideológico.
En la misma línea, una investigación liderada por Manoel Horta Ribeiro, investigador de la Escuela Politécnica Federal de Lausana, Suiza, y publicada en 2019, demostró que el uso de YouTube conduce al usuario hacia posiciones más radicales que benefician, sobre todo, a la extrema derecha.
En su estudio denominado Auditing Radicalization Pathways on YouTube, los autores, tras analizar más de 330.000 vídeos, indican que los usuarios que consumen vídeos de posiciones moderadas son expuestos a vídeos más radicales debido a la acción del algoritmo emotivo que realiza sugerencias personalizadas al consumidor. Así, los usuarios terminan por migrar hacia contenidos más extremos, lo que se demuestra también con una correspondencia entre los usuarios radicales que, anteriormente, consumían vídeos más moderados.
En otros ámbitos de disputa, el estudio desarrollado en 2017 por Melodie Yun-Ju Song y Anatoliy Gruzd demostró que en la discusión entre pro-vacunación y anti-vacunación los vídeos en YouTube que promueven la no vacunación tienen un promedio más alto de afinidad con los usuarios y, por lo tanto, tienen más posibilidad de ser recomendados, al tiempo que reciben más likes que los vídeos que promueven la vacunación. En el estudio Examining Sentiments and Popularity of Pro- and Anti-Vaccination Videos on YouTube, los autores terminan por no recomendar a YouTube como un canal eficaz de comunicación para la promoción de la vacunación.
Salir (escapar) de la burbuja
La burbuja mediática, alimentada por los algoritmos que se han apoderado de la oferta de contenidos disponibles para un usuario en internet, aísla al individuo de la alta complejidad y de la diversidad propia tanto de una comunidad como de una problemática social, político o cultural específica. Vivir en la burbuja nos hace menos tolerantes, menos plurales y, en definitiva, menos capaces de construir una sociedad dialogante, democrática.
Las únicas posibilidades de enfrentar la burbuja mediática y, por tanto, a los algoritmos que determinan el consumo, es hacer un proceso de autorreflexión sobre las tres características del fenómeno. En primer lugar, es necesario identificar la materialización del aislamiento del individuo en su burbuja. Lo normal es que nos veamos menos propicios a discutir con quien no piensa como nosotros, a encontrar únicamente argumentos que fortalezcan nuestras ideas y que, por tanto, nos aíslan de quienes no comparten nuestra opinión. De hecho, una de las principales muestras de ello, en el universo político, es la falta de argumentación en los parlamentos autonómicos y nacionales. Cada bando habla para sí mismo y, por supuesto, para sus seguidores, su burbuja mediática. Vale la pena repetir la frase de Pariser: internet es una “fuerza centrífuga que nos separa”.
En segundo lugar, el usuario necesita reconocer que Google, Facebook y las demás empresas tecnológicas gigantescas son, en realidad, poco transparentes. Estamos encerrados en su burbuja sin que se nos haya preguntado. Para no ahogarnos tenemos una doble obligación: reconocer que los resultados que nos ofrecen no son limpios, sino que obedecen a un seguimiento sofisticado de nuestro comportamiento, lo que nos obliga a saber leer los resultados, y buscar alternativas seguras de navegación donde lo cómodo y lo fácil, así como la más rápido no sea una barrera autoimpuesta para preferirlos a cambio de la cesión progresiva de la libertad y la privacidad de los usuarios en un número reducido de corporaciones.
Lo último es lo más complicado. Necesitamos abandonar la zona de confort de la burbuja. Reconocer que no hemos entrado en la burbuja por una decisión autónoma debería obligarnos a replantear nuestro contrato —social y económico— con estas plataformas.
Estar fuera de la burbuja no implica ser excluido o estar equivocado. Muy al contrario, comienza a posicionarse como una apuesta importante en contra de la seducción de la vida fácil y el consumo. Tomar decisiones propias, aprovechar mejor el tiempo de ocio, y disminuir los niveles de ansiedad tecnológica, son alternativas que sólo pueden proporcionar resultados positivos.
Lo revolucionario no debería poder ser algoritmizado.
