Kate Winslet va rebre un premi Bafta pel seu paper a I am Ruth, pel·lícula en què interpreta una mare la filla de la qual està atrapada a les xarxes socials. En el moment de recollir el premi, el 15 de maig de 2023, va llançar un missatge contundent contra el domini de les grans plataformes: «Volem recuperar els nostres fills».
L’actriu es va adreçar a aquells que, segons ella, tenen la capacitat de frenar els perills del món d’internet. “Suplico —va dir— que acabin amb els continguts nocius. Patim per la salut mental dels nostres fills. I demano a qualsevol jove que estigui escoltant, que senti que està atrapat en un món que no és sa, que, si us plau, demani ajuda. No hi ha cap vergonya a admetre que es necessita suport; hi és, simplement demaneu-lo”.
Aquesta no era la primera vegada que Winslet parlava sobre l’impacte de les xarxes socials. El desembre de 2022, l’actriu va denunciar en una entrevista a la BBC que “la manipulació en l’autoestima dels joves arriba fins que perden completament el sentit de qui són, i no saben com comunicar-se amb els seus amics, fins i tot amb les seves famílies, i això els fa deprimir-se. Òbviament és un problema greu. No, no deixis que els teus fills tinguin un telèfon si són massa petits per saber què fer-ne”.
Una denúncia premonitòria
La consciència sobre el dany que causen les xarxes en la salut mental dels adolescents era cada vegada més gran. Coincidint amb les primeres declaracions de Kate Winslet, l’associació que agrupa les escoles públiques de Seattle va presentar una demanda judicial contra TikTok, YouTube, Facebook, Snapchat, Instagram i les seves empreses matrius.
La denúncia al·legava que “els gegants de les xarxes socials han explotat amb èxit els cervells vulnerables dels joves per al seu propi benefici, utilitzant tàctiques psicològiques que han portat a una crisi de salut mental a les escoles […]. Aquesta crisi de salut mental no és un accident —continua la demanda—. És el resultat de les eleccions deliberades i les accions afirmatives dels demandats per dissenyar i comercialitzar les seves plataformes de xarxes socials per atreure els joves”.
En més de noranta pàgines, la demanda ofereix cites extenses en suport de les seves afirmacions, incloses enquestes que mostren que, entre 2009 i 2019, es va produir un augment del 30% en el nombre d’estudiants de les Escoles Públiques de Seattle que van confessar sentir-se “tristos i sense esperança”. La denuncia va desencadenar una onada massiva de litigis similars a tots els Estats Units, iniciant una llarga batalla legal que encara continua oberta.
La presa de consciència sobre els efectes perjudicials de les xarxes socials ha evolucionat en aquests anys. El clima de desencís i saturació s’ha traduït en creixents investigacions sobre l’efecte pervers de les xarxes socials, que les comparen amb el tabac i l’alcohol; investigacions periòdiques del Senat dels Estats Units a les empreses de Silicon Valley; multes milionàries a aquestes empreses per part de la Unió Europea; i problemes reputacionals de magnats de les grans plataformes.
El coratge de Frances Haugen
Les plataformes són cada vegada més conscients de la mirada crítica que reben per part dels ciutadans. I, també, per part dels seus propis empleats i, en especial, dels seus antics treballadors. Un dels casos més notables el va protagonitzar Frances Haugen, que va denunciar que “Facebook anteposa els seus beneficis a la seguretat dels seus usuaris i amaga que les seves plataformes són nocives per als menors, fomenten la divisió social i debiliten la democràcia” davant el subcomitè de Protecció al Consumidor, Seguretat de Productes i de Dades del Senat dels Estats Units, el 5 d’octubre de 2021.
Frances Haugen havia començat a treballar a Facebook com a responsable de producte el 2019. Però va abandonar la companyia perquè, segons els documents lliurats a la comissió, “Facebook ha enganyat el públic de manera repetida sobre el que la seva pròpia investigació revela sobre la seguretat dels nens, l’eficàcia de la seva intel·ligència artificial i el seu paper per expandir missatges divisorios i extremistes”.
“Facebook sap —va explicar Haugen davant els senadors— que el contingut que provoca una reacció extrema té més probabilitat d’aconseguir un clic, un comentari o que algú el comparteixi”. Aquesta estratègia —va advertir— fa que els menors “estiguin més exposats a un contingut que promou l’anorèxia, igual que pot alimentar la violència ètnica”. En alguns casos, va insistir, “aquesta conversa en línia perillosa ha desembocat en violència real que fa mal, i fins i tot mata gent”. Haugen es va mostrar “molt preocupada” per la seguretat nacional a la llum de com funciona Facebook, ja que, va avisar, “no dota de personal suficient les seves unitats dedicades a prevenir els missatges que instiguen el terrorisme o l’espionatge”.
Una demanda pionera contra Meta
El testimoni de Frances Haugen va ser clau perquè el malestar contra les plataformes arribés al seu zenit quan, el 24 d’octubre de 2023, els fiscals generals de 41 estats dels Estats Units van demandar Meta, empresa matriu de Facebook, Instagram, WhatsApp o Messenger, “per desenvolupar productes dissenyats conscientment per enganxar nens, tot i declarar la companyia que les seves xarxes socials són segures per als menors”.
Aquest procés se sumava a una cascada de plets, dos-cents d’ells agrupats en una demanda col·lectiva, presentats per particulars i institucions educatives del país contra diverses xarxes socials (Facebook i Instagram, de Meta, però també Snapchat, TikTok i YouTube) per afectar la salut mental dels joves.
L’acció coordinada d’aquests 41 estats, 33 d’ells agrupats en una sola demanda conjunta, acaba d’entrar en la fase de judici oral. Comencen a celebrar-se els primers judicis en tribunals de Califòrnia i altres estats, on Meta, juntament amb TikTok i YouTube, s’enfronta a acusacions de dissenyar plataformes adictives que danyen la salut mental de menors.
En el text de la demanda, els fiscals generals expliciten que presenten la demanda “en defensa de l’interès públic i per evitar i impedir efectes adversos de les pràctiques de l’empresa”. Aquests són els punts clau de la demanda:
L’argument central de la demanda es basa en l’engany al consumidor, el “menyspreu pel benestar” d’aquest i de la “salut física i mental de l’usuari menor d’edat”, així com en la “violació intencionada i a consciència de les lleis de protecció al consumidor i de protecció de la privacitat dels menors”. Meta, diu el text de la demanda, “ha enganyat el públic sobre els perills substancials de les xarxes socials i ha decidit ignorar els danys que causen a la salut mental i física de la joventut”.
Meta ha creat un model de negoci per a Facebook i Instagram pensat, diu la demanda, per maximitzar el temps que els joves inverteixen en aquests serveis i l’atenció que dediquen a les plataformes. “Ha dissenyat i disseminat un producte amb característiques nocives i que manipulen psicològicament els menors amb la finalitat que el seu ús de les plataformes sigui estès en el temps i compulsiu, mentre, al mateix temps, ha assegurat en públic que aquestes característiques (o prestacions) són segures i apropiades per als menors”.
La demanda afirma que, per potenciar el seu negoci, Meta implementa “el desplaçament infinit (scroll), el contingut efímer, la reproducció automàtica, la quantificació i visualització de ‘M’agrada’ i les alertes pertorbadores, totes elles utilitzades de manera injusta i/o desmesurada per extreure temps i atenció d’usuaris joves els cervells dels quals en desenvolupament no estan preparats per resistir aquestes tàctiques manipuladores (…) Meta explota de manera injusta i/o desmesurada les vulnerabilitats psicològiques dels usuaris joves i cultiva una sensació de ‘por de perdre’s alguna cosa’ amb la finalitat d’induir els usuaris joves a passar més temps a les xarxes del que d’una altra manera triarien”.
La demanda especifica que Meta utilitza els algoritmes “d’acord amb ‘programes de reforç variable’, manipulant així l’alliberament de dopamina en els usuaris joves, induint-los de manera injusta o deslleial a utilitzar repetidament els seus productes, com un jugador en una màquina escurabutxaques”.
Una altra de les claus del procés té a veure amb la privacitat. “Meta va recopilar informació personal d’usuaris menors de 13 anys d’Instagram i Facebook sense obtenir primer el consentiment verificable dels pares, la qual cosa va violar la normativa nord-americana. Aquesta recollida es va fer de manera il·lícita i sense que hi mediès el consentiment dels pares”. Meta “es nega a limitar la recollida i ús de les dades personals tot i que la llei l’hi prohibeix, i no ha fet res per obtenir el consentiment dels pares per recopilar i monetitzar les dades personals dels menors”.
Els fiscals retreuen a Meta que es negui a abandonar “les característiques dels seus serveis que resulten nocives» i persisteixi “en el seu esforç per falsejar, ocultar i minimitzar l’impacte dels seus productes en la salut mental i física dels joves”. No només això, sinó que pretén “expandir l’ús d’aquestes pràctiques il·legals i nocives a altres productes i plataformes (WhatsApp, Messenger i el metavers)”.
Europa: “TikTok és addictiu”
De manera pràcticament paral·lela a la investigació sobre Meta, fiscals generals de quaranta estats dels EUA també van obrir una investigació sobre TikTok, la xarxa social de major progressió entre els joves. El procés també es troba a les portes de la vista oral. Mentrestant, la Comissió Europea considera que “TikTok incompleix la Llei de Serveis Digitals pel seu disseny addictiu. Això inclou característiques com el desplaçament infinit, la reproducció automàtica, les notificacions push i el seu sistema de recomanació altament personalitzat”.
La investigació preliminar de la Comissió indica que TikTok “no va avaluar adequadament com aquestes característiques addictives podrien danyar el benestar físic i mental dels seus usuaris, inclosos menors i adults vulnerables”. Per exemple, cita la Comissió, cuan la xarxa “recompensa” constantment els usuaris amb nous continguts. Determinades característiques de disseny de TikTok alimenten la necessitat de continuar desplaçant-se i canvien el cervell dels usuaris al “mode pilot automàtic”. La investigació científica mostra que això pot conduir a un comportament compulsiu i reduir l’autocontrol dels usuaris, denuncia la Comissió.
El 25 d’agost de 2023 va entrar en vigor la primera legislació que intenta posar fre al poder absolut de les grans plataformes: la Llei de Serveis Digitals (DSA) de la Unió Europea, que afecta directament les dinou plataformes digitals més grans operatives en territori europeu (entre elles Facebook, Instagram, Telegram, TikTok o Twitter) i els gegants comercials (com Amazon, Zalando o AliExpress). Aquesta llei té com a prioritat lluitar contra la propagació de la desinformació o el ciberassetjament, i protegir millor els menors a les xarxes socials.
La DSA comporta, per tant, que les plataformes hauran de detectar i retirar immediatament continguts nocius que vulnerin drets essencials. També hauran de facilitar a les autoritats l’accés al funcionament dels seus algoritmes. Les noves regles prohibeixen la publicitat dirigida a nens, així com l’ús de qualsevol requisit que acrediti la seva identitat. D’altra banda, la llei veta les dades confidencials, com la religió, el gènere, la raça i les opinions polítiques, a més de tots els mètodes per aconseguir, amb enganys, dades personals dels usuaris d’internet.
És una paradoxa que la Xina, mentre expandeix TikTok a tot el món, consideri que l’addicció a les xarxes per part dels menors ja és una «preocupació nacional». El Govern ha implantat sistemes operatius, aplicacions i apps amb una nova funció anomenada ‘mode per a menors’, sota la qual es crea un sistema de classificació de continguts basat en l’edat i s’estableixen límits de temps d’ús dels terminals intel·ligents: limita l’accés a internet per a menors de 18 anys a un màxim de dues hores diàries i prohibeix la connexió entre les deu de la nit i les sis del matí. Les mesures inclouen límits de temps segons l’edat i contingut educatiu o de ‘valor socialista’ (sic).
Contra la desinformació a YouTube
En el combat contra la mentida juguen un paper primordial les entitats de verificació, nascudes de la societat civil i sense ànim de lucre. Més de vuitanta d’elles, de més de quaranta països, van publicar el 12 de desembre de 2021 una Carta oberta a la CEO de YouTube dels fact-checkers del món, demanant a la companyia propietat de Google que es prenguin mesures contra “el greu problema que suposa la desinformació a la seva plataforma”. La carta denunciava “el paper protagonista que ha tingut YouTube en l’organització de xarxes coordinades de difusió de desinformació […] que van utilitzar la plataforma per mentir, teixir aliances i recaptar diners”.
Les entitats de verificació rebutjaven els intents de YouTube d’emmarcar aquest debat com una falsa elecció entre esborrar o no esborrar vídeos. Com a alternativa, proposaven que Google es comprometés a “exercir una transparència significativa sobre com es mou la desinformació a la plataforma”, que actués contra “els infractors reincidents que produeixen continguts constantment marcats com a desinformació i impedir que els seus vídeos siguin recomanats o promocionats pels seus algoritmes», i que ampliés aquests esforços «a les llengües diferents de l’anglès i proporcionés dades específiques per als diferents països i idiomes, així com serveis de transcripció eficaços”.
Els signants de la carta s’oferien a ajudar YouTube “a posar en pràctica aquestes solucions i fer de la plataforma un lloc on sigui molt més difícil que la desinformació i la informació errònia es converteixin en armes contra els seus usuaris”. Google va respondre dient que ha pres mesures contra la desinformació sobre vacunes, eleccions i teories de la conspiració, eliminant canals i vídeos infractors. Les entitats de verificació insisteixen en que YouTube continua sent un camp de desinformació.
