“Som mestres del que creem, o el que creem es converteix en el nostre mestre”, es preguntava Frank Pasquale cap a l’inici de la conferència “Qui ens assisteix als mons virtuals? Cap a una Carta Universal dels Drets Digitals”. Amb la seva intervenció, que va tenir lloc el 14 de juny, va tancar el cicle de debats “En el futur tecnològic, hi ha vida alternativa al metavers?”, organitzat per l’Observatori Social de la Fundació “la Caixa”, a través dels quals es van explorar alternatives davant dels perills de la concentració de l’atenció i el treball humà a les plataformes tecnològiques.
Pasquale és expert en dret de la intel·ligència artificial, algorismes i aprenentatge automàtic. Entre altres coses, s’exerceix com a professor de Dret a la Brooklyn Law School, és membre del Projecte de la Societat de la Informació de la Universitat de Yale i de l’American Law Institute, i recentment ha estat nomenat membre del Comitè Assessor Nacional d’Intel·ligència Artificial dels Estats Units. Al debat que el va tenir com a protagonista, va parlar de les experiències, les iniciatives i les organitzacions principals que han aconseguit guanyar batalles a les plataformes a través de marcs legals i que aposten per la construcció d’una carta de drets digitals que protegeixi la ciutadania .
Abans de la trobada vam tenir l’oportunitat de conversar amb ell, per preguntar algunes qüestions clau sobre la regulació en els mons virtuals:
De què parlem quan fem referència als drets digitals?
Per a mi, els drets digitals comprenen una forma del sistema jurídic que és, simplement, una actualització de formes més velles del dret. Per exemple, tots estem familiaritzats amb la llibertat d’expressió, que implica que qualsevol que es vol aturar en una cantonada pot dir el seu discurs a qui sigui que hi passi. I la pregunta, en aquests casos, és quina és la forma anàloga a internet. És donar a tothom el dret de tenir una pàgina web? De parlar de manera anònima a internet? De parlar de qualsevol cosa a internet? O hi hauria d’haver algun tipus de regulació?
Crec que la transició del món físic, on ens veiem cara a cara, a un món digital, on, en principi, qualsevol persona es pot fer escoltar des de qualsevol lloc del món, obre un ventall de noves preguntes. Per això, penso que la principal diferència és que, en el nou sistema jurídic, hem de començar a concebre els drets de manera més complexa, en la mesura que ens endinsem en l’univers virtual.
Quin nivell de coneixement creu que hi ha a la població respecte dels seus drets a la intimitat, a la privadesa, a la desconnexió ia l’obtenció i circulació de les dades personals? Coneixem els nostres drets?
Generalment no hi ha aquest coneixement. Jo crec que hauria de ser part de l’educació primària, secundària o de grau, perquè les persones haurien de ser capaces d’identificar els límits de la recopilació de dades en línia. Ells haurien de conèixer el seu dret a saber quan estan sent perfilats per un ordinador en sistemes automatitzats. Tots aquests són drets fonamentals, i per això cal més professors ensenyant i més periodistes escrivint sobre això.
D’altra banda, penso que també podria contribuir el fet de tenir sindicats i altres organitzacions de drets civils, que tinguin membres formats que treballin sobre aquestes qüestions.
Tots aquests són drets fonamentals, i per això cal més professors ensenyant i més periodistes escrivint sobre això
Quin és el focus del marc legal als mons virtuals?
Als mons virtuals hi ha molta preocupació, principalment, sobre la propietat intel·lectual. Això és perquè molta gent vol fer servir marques, imatges, o art del món real, i transpolar-los al món virtual. Aleshores, ens hauríem de preguntar si aquest és un ús just d’aquest material, o si l’amo físic mereix alguna compensació a canvi.
I aquesta és una qüestió molt interessant, perquè crec que, d’una banda, vols donar a les persones la llibertat de recrear coses noves al món virtual, però, de l’altra, molts creadors de contingut estan tenint problemes i volen que se’ls garanteixi la seva propietat intel·lectual, per salvaguardar tota la dura feina que van invertir en les seves creacions. Donar un balanç a aquesta situació és realment difícil, i requerirà molta atenció de part dels que creen les normes, i de les persones que les fan complir, perquè tot això es faci bé.
Crec que un altre problema del món virtual és l’anonimat, ja que ser anònim al món digital és molt interessant, perquè, per una banda, volem que les persones sentin que poden participar lliurement i que no estan lligades a la seva identitat del món real. Però, si van molt lluny i fan coses que inciten a la violència, per exemple, aleshores hem de saber qui són. Per això, és important mantenir aquest balanç entre l’anonimat, que et dóna el fet de poder tenir un altre nom a l’espai virtual, amb la sensació que hi ha algunes coses que són massa problemàtiques, o bé van molt lluny, que fan necessari saber qui ho va fer i com es poden controlar.
Aquests són els dos problemes més importants a la realitat virtual, encara que hi ha una tercera qüestió, que és la de l’engany. En aquest aspecte, tenim un gran inconvenient, que s’aborda per exemple al llibre de David J. Chalmers anomenat Reality +, quan descriu les possibilitats del deepfake al ciberespai. Aleshores, podem imaginar un escenari en el qual Barak Obama ingressa al món virtual per ser ell mateix, i després allà dins pot trobar-se amb un fals Barak Obama, i la pregunta llavors es converteix en si hem d’intentar aturar el fals Barak Obama, o si pensem que així estaríem vulnerant el dret a la lliure expressió de qui pretendre ser Obama.
Personalment, crec que ho hauríem de detenir, però segurament els Estats Units i Europa arribarien a diferents conclusions. Europa permetria que Obama detingués el fals Obama d’estar en la realitat virtual, però crec que els Estats Units diria que qualsevol té el dret de crear personalitats falses a internet, i per això no es protegiria tant Obama.
En aquest sentit, penso que aquestes discrepàncies legals són les que donaran lloc a diferents experiències, per això crec que els mons virtuals als Estats Units ia Europa serien, si més no, tan diferents com el món real als Estats Units i Europa.
Quines són les normatives més avançades pel que fa a drets digitals?
Definitivament hi ha diferències en quant als valors entre Europa, els Estats Units i la Xina. Crec que, si parléssim d’una carrera, la Unió Europea seria la que pren la davantera en l’aspecte intel·lectual. Anu Bradford va escriure un llibre anomenat “The Brussels Effect: How the European Union Rules the World”, que mostra el treball conceptual que s’està fent a Europa, la consistència que té, la inversió de recursos i com s’ajusta a les necessitats i als problemes reals.
Aleshores, sense importar la manera com acabin sent les coses en termes de com s’adopti la llei, Europa porta la davantera intel·lectual quant a la complexitat de la regulació de la vida online.
Hi ha diferències en quant als valors entre Europa, els Estats Units i la Xina
I què passa amb els Estats Units i la Xina?
El problema amb els Estats Units és que té un sistema polític disfuncional a nivell federal. Però a nivell Estats, Califòrnia està imitant força el model europeu, i podria desenvolupar fins i tot millors regulacions, la qual cosa és molt interessant.
Lamentablement, la Xina està dividida entre aquells que tenen una mirada més cosmopolita i global, i els que volen que el país segueixi el seu propi rumb. Crec que aquest és un gran problema amb la Xina, i caldrà veure qui és vencedor en aquesta batalla. Crec que és una lluita que s’està donant sota el nivell de govern, que és més una qüestió que afecta a instàncies governamentals més baixes.
En termes d’altres països, és interessant perquè n’hi ha alguns que estan desenvolupant lleis per a la robòtica i per a vehicles autònoms, que després intentaran emmotllar altres circumstàncies.
Podem dir que la llei sempre ve a regular conductes humanes ja existents, i aquest desfasament s’accentua en la regulació dels mons digitals que avancen a gran velocitat. En aquest sentit, hi ha persones que creuen que desenvolupaments com el metavers de Meta, per exemple, són intents de fugir cap endavant. Què opina d’aquesta visió?
Jo qüestionaria la premissa d’aquesta pregunta. Crec que el problema més gran és que les empreses són massa lentes al moment de reconèixer el que requereix la llei. Aleshores, jo diria que haurien d’invertir més diners en personal jurídic, i en donar-los el poder de realment assegurar-se que són capaços de fer tecnologia que reflecteixi els valors públics.
També hi ha instàncies individuals en què hi ha preocupacions i problemes sobre la capacitat de les lleis de seguir el ritme als canvis tecnològics. Des del meu punt de vista, el que hem de fer és incentivar l’Estat i donar més autoritat als organismes que utilitzen personal molt qualificat, com a científics de la computació, programadors, advocats i cientistes socials, que siguin capaços d’entendre això més profundament . No és una qüestió a la qual els legisladors comuns puguin seguir el ritme. No obstant això, sí que podria ser abordada per un organisme dedicat i amb pressupost per poder contractar personal qualificat.
Crec que el problema més gran és que les empreses són massa lentes al moment de reconèixer el que requereix la llei
Com es fa per donar un marc jurídic a una cosa tan global, com ho és el món digital, sense violar la sobirania i la jurisdicció de cada país, que tenen les seves pròpies lleis?
Poden haver-hi estàndards mínims que siguin globals, i que cada país després construeixi sobre això. Per exemple, hi hauria d’haver un estàndard global per a cada sistema d’intel·ligència artificial, sense importar quin sigui, que garanteixi la presència d’una persona responsable d’apagar-lo. Imaginem-nos un drone autònom que està programat per volar a qualsevol lloc, o per volar cap a persones que mesuren més de dos metres d’alçada. Segurament aquest drone molestaria molta gent. Aleshores, per a mi, aquest és un estàndard mínim, i jo no respectaria la llei d’un país que posi a funcionar aquests drones sense un control humà, perquè crec que això és irresponsable.
Però per sobre aquesta base, hi pot haver moltes maneres diferents de construir un marc legal. Alguns països podrien dir que qualsevol persona hauria de poder saber immediatament qui està controlant aquest drone, mentre que altres podrien dir que només les autoritats haurien de poder conèixer aquestes coses de manera immediata, aleshores les persones haurien de passar per processos legals per poder conèixer aquesta informació.
D’aquesta manera, crec que cal tenir un estàndard global, i després, sobre això, construir estàndards específics que siguin particulars de cada país, respectant-ne els valors. Crec que el sistema legal europeu es preocupa molt més per la dignitat i la privadesa que el dels Estats Units, que es preocupa més que Europa per la llibertat d’expressió. Aleshores, en certa manera, això serà manejat de manera diferent per cada país, però crec que sempre podrem acordar en un estàndard bàsic.
Què seria una carta universal dels drets digitals?
Hi ha un grup anomenat Ranking Digital Rights, que intenten donar un ordre a la importància dels drets digitals. Crec que hi ha quatre categories bàsiques de drets digitals, amb instàncies particulars per a cadascun. Una podria ser la llibertat d’expressió, que implica el dret d’expressar-nos a internet. La segona estaria conformada pel dret al procés degut, és a dir, si una decisió és presa en contra teu, basada en sistemes automatitzats o d’intel·ligència artificial, tens el dret d’entendre quina és la decisió, en què es basa, com pot ser apel·lada per corregir el registre i per disputar-la, eventualment.
La tercera categoria podria ser el dret a un advocat digital. És a dir, si les condicions són prou serioses, hauríem de tenir dret a un representant legal que entengui què passa. I un dret digital final, podria ser el dret a la privadesa, és a dir, establir els límits respecte quantes dades de les persones poden ser recol·lectades, quins són els límits del seu ús i per quant temps poden ser guardats.
Un dret digital final, podria ser el dret a la privadesa, és a dir, establir els límits respecte quantes dades de les persones poden ser recol·lectades
Aleshores, per tancar l’entrevista amb la pregunta que dóna origen al debat del dia d’avui, qui ens assisteix als mons virtuals?
Les formes dassistència principals que existeixen en aquest moment, són els bots i els programes desenvolupats per les grans empreses. I crec que el que seria realment interessant de veure, és si en el futur hi haurà més ONGs, més petites empreses, universitats i hospitals, entre altres entitats, que desenvolupin la seva presència en línia per assistir els usuaris al món virtual.
A Second Life ja hi havia aquestes formes d’assistència, i jo crec que començarem a veure cada cop més. Aleshores, quan pensem en qui ens assisteix als mons virtuals, podem pensar que avui són principalment les grans companyies, que tenen la seva pròpia agenda. No obstant això, eventualment viurem en un món on l’assistència virtual i la presència virtual de guies serà més diversa.
Queden pocs dubtes que els mons virtuals han arribat per quedar-s’hi, i guanyaran cada cop més terreny davant del món físic. Per això, conèixer quins són els models legals que estan sent dissenyats, en conjunt amb la incorporació de programes educatius sobre drets digitals, són elements claus per garantir els drets de la ciutadania, davant de l’avenç de les grans plataformes.
Catalunya Plural, 2024 
