Mentre el 2007 i 2008 les grans cases de gestió dels deutes privats en el món entraven en fallida i es declarava la crisi financera més important des del 1929, les empreses tecnològiques més importants de la història, per la seva gran capacitat de concentració (Facebook Inc. Alphabet Inc o Amazon), van començar a trencar el mercat. Havien domesticat l’algoritme. Des de llavors aquesta paraula, l’algoritme, recorre les nostres vides i defineix moltes de les nostres accions.
La forma en què ens vestim, els llocs que podem visitar, l’import que podem pagar per un bitllet d’avió, l’aprovació d’un crèdit, la definició del nostre vot o trobar parella. Tot pot ser definit, perquè així ho hem establert de forma conscient o inconscient, per un algoritme tecnològic que utilitza la nostra informació, les nostres empremtes digitals, per brindar-nos opcions basades en les seves pròpies prediccions.
No és un assumpte sense importància. Un algoritme pot determinar el preu que has de pagar a l’assegurança de cotxe a partir dels teus comentaris o fotos publicades a Instagram. També pot creuar dades de diferents bases per determinar el risc que tens en contractar una hipoteca. De fet, els processos d’intel·ligència artificial, lligats a la creació de millors aplicacions en línia, a trobar els candidats més adequats al perfil ofert, a preseleccionar un petit grup de persones d’un gran nombre de sol·licitants o examinar candidats possiblement problemàtics, són ja utilitzats per algunes empreses en els seus processos de contractació de persones.
Ens movem, cada dia, en l’univers dels algoritmes que determinen un espai fonamental de l’economia de la informació i de l’atenció al segle XXI. Per això és imprescindible saber què és un algoritme, com funcionen en les xarxes socials i quines conseqüències tenen per a una societat democràtica.
Darrere de la caixa negra: Què és un algoritme?
Un algoritme és una eina mecànica utilitzada per gestionar una ordre determinada (input), avaluar les seves variables, totes les possibles, i establir un resultat (output) en el menor temps possible.
Els seus càlculs ordenats, aquells que permeten realitzar una determinada operació i establir un resultat, estan integralment lligats amb el concepte de l’intangible. Les seves operacions, normalment, no es poden veure o examinar. Veiem i podem comprovar tant l’input com l’output, però la majoria de nosaltres, els que generalment donem aquest primer input, com publicar una foto, fer un like o simplement fer una cerca a GoogleChrome, no podem comprendre per què (com el nom d’aquesta revista) aquest primer input o acció determina un resultat concret en la interfície que consumim.
De fet, moltes vegades no som conscients que un determinat input o acció (un clic) té relació amb un avís publicitari, amb una aparició específica d’un post d’algú a qui seguim o amb la recomanació que fa, per exemple, Netflix sobre una nova sèrie que potser ens interessa.
Segur que, en algun moment recent, t’ha sorprès el fet que, després d’una conversa amb amics o familiars sobre, diguem, pizzes a domicili, els següents anuncis rebuts al teu mòbil estiguin relacionats amb pizzes o menjar a domicili. Sí, és un algoritme que treballa, segons les grans companyies, “al teu servei”.
El terme informàtic, l’algoritme, té una significació molt més àmplia del que es creu. Igual que una recepta de cuina, un algoritme és una sèrie d’instruccions, un diagrama lògic i continu, que permet obtenir un resultat. Realitza, a una enorme velocitat, un conjunt de càlculs a partir de gegantines masses de dades. Amb ells ofereix una predicció. Si la predicció encerta, és a dir, aconsegueix que l’usuari entri en el joc de la retroalimentació, l’algoritme es reprodueix a si mateix i pot mantenir-se en un bucle -com en una màquina escurabutxaques o, el més modern, com en una casa d’apostes per internet-.
Però el poder real de l’algoritme ve quan no encerta. El mecanisme, moltes vegades anomenat caixa negra, perquè no se sap què passa al seu interior, serà capaç, lligat a la intel·ligència artificial que li permet aprendre de les noves dades introduïdes pels usuaris, de donar noves respostes, nous outputs per satisfer les necessitats dels consumidors. Per això l’anomenat Internet col·laboratiu, però sobretot les xarxes socials, són la principal font d’inputs que alimenten i perfeccionen els algoritmes.
Per això també un dels científics més importants de la història recent, Stephen Hawking, declarava que un dels quatre perills que amenacen la humanitat (junt amb el canvi climàtic, el poc espai i l’escassetat de recursos de la terra o l’impuls actiu per contactar amb civilitzacions extraterrestres) és l’avenç poc controlat de la intel·ligència artificial.
Els algoritmes a les xarxes socials: les meves dades importen?
Segons Lori Lewis, experta en la publicitat a les xarxes socials i assessora del canvi d’imatge de més de 700 marques comercials als Estats Units, cada 60 segons una empresa com Google pot obtenir 3,8 milions de dades relatives a recerques fetes al motor de recerca, i sumar-li els 4,5 milions de vídeos de YouTube vistos en el mateix període de temps. Per la seva banda, cada minut, un milió de persona es connecta a Facebook, gairebé 350.000 realitzen una passejada per Instagram i 18,1 milions de missatges s’intercanvien a WhatsApp.
Les dades que adquireixen els algoritmes per a funcionar són introduïts de diferents formes. Però la majoria dels algoritmes, en l’actualitat, basen les seves operacions en la informació que els usuaris aporten a les xarxes socials i en com elles monitoren l’ús i el consum. Les operacions algorítmiques aconsegueixen, donades les enormes dimensions de les dades, establir nous encreuaments d’eines i processos de més algoritmes, cada vegada més complexos, que atorguen, al seu torn, noves dades a considerar.
El resultat del mateix algoritme té, per tant, dos objectius. És, alhora, un resultat, i un nou input per incorporar a l’univers d’operacions de l’algoritme. És, en definitiva, un bucle de retroalimentació cada vegada més sofisticada.
Quant al valor predictiu, plataformes com YouTube o Netflix, però també Facebook, Twitter o Google, utilitzen els algoritmes per gestionar els seus continguts, els productes a ‘fabricar’ o promoure per a cada cerca i els productes prescindibles pels seus baixos consums.
D’aquesta manera, cada usuari estableix un consum determinat que és entrecreuat pels algoritmes amb altres usuaris de gustos o de patrons similars -centenars i centenars de categories, des del color del teu cabell, el teu pes, el teu gust pel tenis o el lloc en el qual vius-. La plataforma és capaç de poder predir o suggerir nous consums per a l’usuari seleccionat. I, sobretot, aprendre de les respostes que dóna cada usuari a cada nou resultat proposat pel mateix algoritme.
Els algoritmes treballen, per tant, de forma unificada amb les bases de dades. Per això, les bases de dades que tots els usuaris d’internet i de les xarxes creen, de forma gratuïta, són tan valuoses. La interrelació entre l’algoritme i les dades estructurats i no estructurats que bolquem a la xarxa es converteixen, cada segon, en informació valuosa per als mercats de la publicitat i l’oferta de tots els béns i serveis existents.
El processament de grans volums de dades passa pel treball dels algoritmes i les seves possibilitats d’anàlisi de gran velocitat. En definitiva, els algoritmes són alimentats amb bases de dades, perquè aquests realitzin els seus processos d’anàlisi matemàtica i encreuaments, per després generar noves dades que aporten majors volums d’informació especialitzada.
Per tant, les dades individuals importen. Molt. Els algoritmes funcionen perquè prediuen comportaments (compres, clics, temps d’atenció). Així, les teves dades compleixen amb dos objectius comercials i estratègics. D’una banda, com agregats per categories, permeten descriure perfils de comportament de grups. Poden predir, per exemple, quan una manifestació pot tenir un risc de violència o si, al contrari, serà pacífica.
D’altra banda, serveixen per personalitzar béns i serveis. I encara que aquesta pràctica és, generalment, vista com un benefici, en realitat és una violació a la teva pròpia privacitat, un concepte que, per Mark Zuckerberg, fundador de Facebook, ja no és una norma social.
L’inici: la batalla entre Enigma i Bombe
L’avenç teòric pràctic més significatiu del concepte d’algorisme va ser desenvolupat per Alan Turing. Considerat com un dels pares de la computació i precursor de la matemàtica moderna, la màquina de Turing va demostrar que podria resoldre qualsevol problema lògic que pogués representar-se mitjançant un algoritme. De fet, un dels seus majors èxits -recollit en la pel·lícula The Imitation Game (2014) -, va ser desxifrar, mitjançant el desenvolupament d’una màquina (Bombe) guiada per un mecanisme lògic -un algoritme complex- les comunicacions que l’exèrcit alemany enviava a les seves tropes a la II Guerra Mundial a través d’Enigma, una altra màquina capaç de xifrar la informació a través d’un sistema de rotors que podia suggerir 10.000 bilions de configuracions diferents, i que canviava cada 24 hores.
Trailer: The Imitation Game (Morten Tyldum, 2014)
Bombe va ser capaç de gestionar diferents bilions de dades i donar un resultat per descodificar la informació encriptada. La màquina aconseguia establir un possible punt d’atac dels exèrcits alemanys. Segons Jack Copeland, professor de la Universitat de Canterbury, la màquina creada per l’equip liderat per Turing va ajudar a reduir en almenys dos anys la durada de la guerra. L’aplicació de la lògica de l’algoritme va ajudar així a evitar entre 15 i 21 milions de víctimes.
Hi ha, però, una diferència important entre l’aplicació de Bombe i els nous algoritmes lligats a la predicció del consum. En la predicció del pas següent, en l’equip de Turing, intervenia una decisió humana amb l’objectiu d’escurçar la guerra i les seves conseqüències més terribles. En una plataforma com Netflix, en canvi, la predicció és ja realitzada pel mateix algoritme, amb l’única intenció de monetitzar el consum de l’usuari. Netflixpoden convertir en un heroi a Pablo Escobar o minimitzar les accions d’ETA amb finalitats publicitàries si els números són una bona justificació per fer-ho.
El test de Turing, desenvolupat en 1950, posa a prova la capacitat d’una màquina per fer pensar al seu interlocutor que les respostes donades per ella són producte d’un pensament humà. L’experiment ajuda a comprendre que la relació establerta entre els algoritmes (grans bases de dades que dialoguen) és el que permet que la màquina tingui una capacitat intrínseca -o poder- de predicció que un humà no pot tenir a la velocitat a la qual un sistema algorítmic funciona.
Per Turing, en la primera dècada de segle XX, era un somni utòpic. Per a Google, Facebook i Amazon, és avui possible i està formada per capes més profundes d’intel·ligència artificial que es desenvolupen en el deep learning, o l’aprenentatge profund (automàtic) que tracta d’imitar el comportament del cervell humà (per capes de coneixement o comunicacions entre diferents xarxes neuronals) i, al mateix temps, identifica patrons o característiques similars sense que sigui necessari un entrenament previ.
La potència actual de les màquines que funcionen amb els algoritmes és justament la superposició de diverses capes neuronals: l’acció que un output sigui l’aliment o input d’una nova capa de construcció de resultats.
Per això, l’algorisme de consum automàtic, tant a YouTube com en la informació que ens apareix en una cerca de Google o al feed d’Instagram, és capaç d’especialitzar cada vegada més. Ens ofereix just el que fa que els nostres desitjos, pensaments i elements ideològics es vegin reforçats. Un element que contradiu la mateixa naturalesa contradictòria del propi ésser humà.
L’algorisme com bombolla mediàtica
Eli Pariser, autor d’El filtre bombolla. Com la xarxa decideix el que llegim i el que pensem, assenyala que els nous filtres d’internet, algoritmes actius des de 2009, observen i analitzen les coses que ens agraden. Les grans empreses utilitzen màquines de predicció perquè “l’objectiu és crear i perfeccionar constantment una teoria sobre qui ets, el que faràs i el que desitjaràs a continuació. Juntes elaboren un univers d’informació únic per a cada un de nosaltres -el que he anomenat una ‘bombolla mediàtica’ – que, en essència, altera la nostra manera de trobar idees i informació”.
Una bombolla mediàtica es converteix així, segons Pariser, en un “mirall unidireccional” que es limita a reflectir els teus propis interessos: “La nova internet no només sap que ets un gos; coneix la teva raça i vol vendre’t un bol de pinso de qualitat suprema per a mascotes”. El reflex de l’espill, a més, es desenvolupa amb tres característiques:
- La bombolla fomenta encara més la individualització de l’usuari. Actua, segons Pariser i en contradicció amb el discurs d’interconnexió d’internet, com una “força centrífuga que ens separa”.
- La bombolla és invisible, i normalment l’usuari acudeix a ella sense cap mena de filtre, bàsicament, perquè confia que Google li proporciona la millor recerca possible. En realitat, el motor de cerca i les empreses tecnològiques ofereixen uns resultats opacs perquè “Google no et diu qui creu que ets o per què et mostra els resultats que veus. No saps si el que suposa sobre tu és correcte o incorrecte; i pot ser que ni tan sols siguis conscient que està fent conjectures sobre tu”, indica l’autor.
- L’usuari no ha decidit entrar a la bombolla, es va submergint en ella de forma inconscient i, generalment, se sent a gust en ella.
La concepció de Pariser s’ha fet palesa en altres estudis, amb conseqüències encara més perilloses que la ja inquietant construcció de les bombolles mediàtiques. En un estudi coordinat per Alessandro Bessi, investigador de la Universitat de Sud de Califòrnia, es va demostrar que els usuaris de Facebook i de YouTube tendeixen a seleccionar la informació que més s’acosta als seus pensaments i creences i a formar grups polaritzats que comparteixen les seves opinions.
En el seu estudi, Users Polarization on Facebook and Youtube, els investigadors subratllen que el contingut publicat i mostrat als usuaris en les dues plataformes contribueix a la formació de bombolles mediàtiques, i que els patrons dels comentaris poden ser utilitzats com a predictors precisos per a la formació de càmeres de ressò ideològic.
En la mateixa línia, una investigació liderada per Manoel Horta Rierol, investigador de l’Escola Politècnica Federal de Lausanne, Suïssa, i publicada el 2019, va demostrar que l’ús de YouTube condueix a l’usuari cap a posicions més radicals que beneficien, sobretot, a l’extrema dreta.
En el seu estudi denominat Auditing Radicalization Pathways on YouTube, els autors, després d’analitzar més de 330.000 vídeos, indiquen que els usuaris que consumeixen vídeos de posicions moderades són exposats a vídeos més radicals a causa de l’acció de l’algoritme emotiu que realitza suggeriments personalitzats al consumidor. Així, els usuaris acaben per migrar cap a continguts més extrems, el que es demostra també amb una correspondència entre els usuaris radicals que, anteriorment, consumien vídeos més moderats.
En altres àmbits de disputa, l’estudi desenvolupat en 2017 per Melodie Yun-Ju Song i Anatoliy Gruzd va demostrar que en la discussió entre provacunació i antivacunació els vídeos a YouTube que promouen la no vacunació tenen una mitjana més alt d’afinitat amb els usuaris i, per tant, tenen més possibilitat de ser recomanats, al mateix temps que reben més likes que els vídeos que promouen la vacunació. En l’estudi Examining Sentiments and Popularity of Pro- and Anti-vaccination Videos on YouTube, els autors acaben per no recomanar a YouTube com un canal eficaç de comunicació per a la promoció de la vacunació.
Sortir (escapar) de la bombolla
La bombolla mediàtica, alimentada pels algoritmes que s’han apoderat de l’oferta de continguts disponibles per a un usuari a internet, aïlla l’individu de l’alta complexitat i de la diversitat pròpia tant d’una comunitat com d’una problemàtica social, polític o cultural específica. Viure a la bombolla ens fa menys tolerants, menys plurals i, en definitiva, menys capaços de construir una societat dialogant, democràtica.
Les úniques possibilitats d’enfrontar la bombolla mediàtica i, per tant, als algoritmes que determinen el consum, és fer un procés d’autoreflexió sobre les tres característiques del fenomen. En primer lloc, cal identificar la materialització de l’aïllament de l’individu en la seva bombolla. El normal és que ens veiem menys propicis a discutir amb qui no pensa com nosaltres, a trobar únicament arguments que enforteixin les nostres idees i que, per tant, ens aïllen dels que no comparteixen la nostra opinió. De fet, una de les principals mostres d’això, en l’univers polític, és la manca d’argumentació en els parlaments autonòmics i nacionals. Cada bàndol parla per si mateix i, per descomptat, per als seus seguidors, la seva bombolla mediàtica. Val la pena repetir la frase de Pariser: internet és una “força centrífuga que ens separa”.
En segon lloc, l’usuari necessita reconèixer que Google, Facebook i les altres empreses tecnològiques gegantines són, en realitat, poc transparents. Estem tancats en la seva bombolla sense que se’ns hagi preguntat. Per no ofegar-nos tenim una doble obligació: reconèixer que els resultats que ens ofereixen no són nets, sinó que obeeixen a un seguiment sofisticat del nostre comportament, el que ens obliga a saber llegir els resultats, i buscar alternatives segures de navegació on la comoditat i el que és fàcil, així com el més ràpid no sigui una barrera autoimposada per preferir-los a canvi de la cessió progressiva de la llibertat i la privacitat dels usuaris a un nombre reduït de corporacions.
L’últim és el més complicat. Necessitem abandonar la zona de confort de la bombolla. Reconèixer que no hem entrat a la bombolla per una decisió autònoma hauria d’obligar-nos a replantejar el nostre contracte -social i econòmic- amb aquestes plataformes.
Estar fora de la bombolla no implica ser exclòs o estar equivocat. Ben al contrari, aquesta opció comença a posicionar-se com una aposta important en contra de la seducció de la vida fàcil i el consum. Prendre decisions pròpies, aprofitar millor el temps d’oci, i disminuir els nivells d’ansietat tecnològica, són alternatives que només poden proporcionar resultats positius.
El revolucionari no hauria de poder ser ‘algoritmizat’.
Catalunya Plural, 2024 
