“Somos maestros de lo que creamos, o lo que creamos se convierte en nuestro maestro”, se preguntaba Frank Pasquale hacia el inicio de la conferencia “¿Quién nos asiste en los mundos virtuales? Hacia una Carta Universal de los Derechos Digitales”. Con su intervención, que tuvo lugar el 14 de junio, cerró el ciclo de debates “¿En el futuro tecnológico, ¿hay vida alternativa al metaverso?”, organizado por el Observatorio Social de Fundación “la Caixa”, a través de los cuales se exploraron alternativas frente a los peligros de la concentración de la atención y el trabajo humano en las plataformas tecnológicas.
Pasquale es experto en derecho de la inteligencia artificial, algoritmos y aprendizaje automático. Entre otras cosas, se desempeña como profesor de Derecho en la Brooklyn Law School, es miembro del Proyecto de la Sociedad de la Información de la Universidad de Yale y del American Law Institute, y recientemente ha sido nombrado miembro del Comité Asesor Nacional de Inteligencia Artificial de Estados Unidos. En el debate que lo tuvo como protagonista, habló de las experiencias, las iniciativas y las organizaciones principales que han logrado ganar batallas en las plataformas a través de marcos legales y que apuestan por la construcción de una carta de derechos digitales que proteja a la ciudadanía.
Antes del encuentro tuvimos la oportunidad de conversar con él, para preguntarle algunas cuestiones clave sobre la regulación en los mundos virtuales:
¿De qué hablamos cuando hacemos referencia a los derechos digitales?
Para mi, los derechos digitales abarcan una forma del sistema jurídico que es, simplemente, una actualización de formas más viejas del derecho. Por ejemplo, todos estamos familiarizados con la libertad de expresión, que implica que cualquiera que se quiere parar en una esquina puede decir su discurso a quien sea que pase por allí. Y la pregunta, en estos casos, es cuál es la forma análoga en internet. ¿Es dar a todos el derecho de tener una página web? ¿De hablar de forma anónima en internet? ¿De hablar de cualquier cosa en internet? ¿O debería haber algún tipo de regulación?
Creo que la transición del mundo físico, en donde nos vemos cara a cara, a un mundo digital, en donde, en principio, cualquier persona puede hacerse escuchar desde cualquier lugar del mundo, abre un abanico de nuevas preguntas. Por eso, pienso que la principal diferencia es que, en el nuevo sistema jurídico, tenemos que comenzar a concebir a los derechos de un modo más complejo, en la medida en que nos adentramos en el universo virtual.
¿Qué nivel de conocimiento cree que hay en la población respecto de sus derechos a la intimidad, a la privacidad, a la desconexión y a la obtención y circulación de los datos personales? ¿Conocemos nuestros derechos?
Generalmente no existe ese conocimiento. Yo creo que debería ser parte de la educación primaria, secundaria o de grado, porque las personas deberían ser capaces de identificar los límites de la recopilación de datos online. Ellos deberían conocer su derecho a saber cuándo están siendo perfilados por una computadora en sistemas automatizados. Todos esos son derechos fundamentales, y por eso se necesitan más profesores enseñando y más periodistas escribiendo sobre eso.
Por otro lado, pienso que también podría contribuir el hecho de tener sindicatos y otras organizaciones de derechos civiles, que cuenten con miembros formados que trabajen sobre estas cuestiones.
Todos esos son derechos fundamentales, y por eso se necesitan más profesores enseñando y más periodistas escribiendo sobre eso
¿Cuál es el foco del marco legal en los mundos virtuales?
En los mundos virtuales hay mucha preocupación, principalmente, sobre la propiedad intelectual. Esto es porque mucha gente quiere usar marcas, imágenes, o arte del mundo real, y transpolarlos al mundo virtual. Entonces, deberíamos preguntarnos si ese es un uso justo de ese material, o si el dueño físico merece alguna compensación a cambio.
Y esa es una cuestión muy interesante, porque creo que, de un lado, quieres dar a las personas la libertad de recrear cosas nuevas en el mundo virtual, pero, por otro lado, muchos creadores de contenido están teniendo problemas y quieren que se les garantice su propiedad intelectual, para salvaguardar todo el duro trabajo que invirtieron en sus creaciones. Dar un balance a esta situación es realmente difícil, y va a requerir de mucha atención de parte de quienes crean las normas, y de las personas que las hacen cumplir, para que todo esto se haga bien.
Creo que otro problema del mundo virtual el anonimato, ya que ser anónimo en el mundo digital es muy interesante, porque, por un lado, queremos que las personas sientan que pueden participar libremente y que no están atadas a su identidad del mundo real. Pero, si van muy lejos y hacen cosas que incitan a la violencia, por ejemplo, entonces tenemos que saber quiénes son. Por eso, es importante mantener ese balance entre el anonimato, que te da el hecho de poder tener otro nombre en el espacio virtual, con la sensación de que hay algunas cosas que son demasiado problemáticas, o van muy lejos, que hacen necesario saber quién lo hizo y cómo se pueden controlar.
Esos son los dos problemas más importantes en la realidad virtual, aunque hay una tercera cuestión, que es la del engaño. En este aspecto, tenemos un gran inconveniente, que se aborda por ejemplo en el libro de David J. Chalmers llamado Reality +, cuando describe las posibilidades del deepfake en el ciberespacio. Entonces, podemos imaginar un escenario en el cual Barack Obama ingresa al mundo virtual para ser él mismo, y luego allí dentro puede encontrarse con un falso Barak Obama, y la pregunta entonces se convierte en si debemos intentar detener al falso Barak Obama, o si pensamos que así estaríamos vulnerando el derecho a la libre expresión de quien pretender ser Obama.
Personalmente, creo que deberíamos detenerlo, pero seguramente Estados Unidos y Europa llegarían a diferentes conclusiones. Europa permitiría que Obama detenga al falso Obama de estar en la realidad virtual, pero creo que Estados Unidos diría que cualquiera tiene el derecho de crear personalidades falsas en internet, y por eso no se protegería tanto a Obama.
En este sentido, pienso que esas discrepancias legales son las que darán lugar a diferentes experiencias, por eso creo que los mundos virtuales en Estados Unidos y en Europa serían, al menos, tan diferentes como el mundo real en Estados Unidos y Europa.
¿Cuáles son las normativas más avanzadas en cuanto a derechos digitales?
Definitivamente hay diferencias en cuanto a los valores entre Europa, Estados Unidos y China. Creo que, si estuviésemos hablando de una carrera, la Unión Europea sería la que toma la delantera en el aspecto intelectual. Anu Bradford escribió un libro llamado “The Brussels Effect: How the European Union Rules the World”, que muestra el trabajo conceptual que se está haciendo en Europa, la consistencia que tiene, la inversión de recursos y cómo se ajusta a las necesidades y a los problemas reales.
Entonces, sin importar el modo en el que terminen siendo las cosas en términos de cómo se adopte la ley, Europa lleva la delantera intelectual en cuanto a la complejidad de la regulación de la vida online.
Hay diferencias en cuanto a los valores entre Europa, Estados Unidos y China
¿Y qué pasa con Estados Unidos y China?
El problema con Estados Unidos, es que tiene un sistema político disfuncional a nivel federal. Pero a nivel Estados, California está imitando bastante el modelo europeo, y podría desarrollar incluso mejores regulaciones, lo cual es muy interesante.
Lamentablemente, China está dividida entre aquellos que tienen una mirada más cosmopolita y global, y quienes quieren que el país siga su propio rumbo. Creo que ese es un gran problema con China, y habrá que ver quién resulta vencedor en esa batalla. Creo que es una lucha que se está dando debajo del nivel de gobierno, que es más una cuestión que atañe a instancias gubernamentales más bajas.
En términos de otros países, es interesante porque hay algunos que están desarrollando leyes para la robótica y para vehículos autónomos, que luego van a intentar amoldar a otras circunstancias.
Podemos decir que la ley viene siempre a regular conductas humanas ya existentes, y este desfasaje se acentúa en la regulación de los mundos digitales que avanzan a gran velocidad. En este sentido, hay personas que creen que desarrollos como el metaverso de Meta, por ejemplo, son intentos de huir hacia adelante ¿Qué opina de esta visión?
Yo cuestionaría la premisa de esta pregunta. Creo que el mayor problema es que las empresas son demasiado lentas al momento de reconocer lo que requiere la ley. Entonces, yo diría que deberían invertir más dinero en personal jurídico, y en darles el poder de realmente asegurarse de que son capaces de hacer tecnología que refleje los valores públicos.
También hay instancias individuales en las que hay preocupaciones y problemas sobre la capacidad de las leyes de seguir el ritmo a los cambios tecnológicos. Desde mi punto de vista, lo que tenemos que hacer es incentivar al Estado y dar más autoridad a los organismos que emplean a personal muy calificado, como científicos de la computación, programadores, abogados y cientistas sociales, que sean capaces de entender esto más profundamente. No es una cuestión a la cual puedan seguir el ritmo los legisladores comunes. Sin embargo, sí podría ser abordada por un organismo dedicado y con presupuesto para poder contratar personal calificado.
Creo que el mayor problema es que las empresas son demasiado lentas al momento de reconocer lo que requiere la ley
¿Cómo se hace para dar un marco jurídico a algo que es tan global, como lo es el mundo digital, sin violar la soberanía y la jurisdicción de cada país, que tienen sus propias leyes?
Pueden haber estándares mínimos que sean globales, y que cada país luego construya sobre eso. Por ejemplo, debería haber un estándar global para cada sistema de inteligencia artificial, sin importar cuál sea, que garantice la presencia de una persona que sea responsable de apagarlo. Imaginémonos un drone autónomo que está programado para volar a cualquier lugar, o para volar hacia personas que miden más de dos metros de altura. Seguramente ese dron molestaría a mucha gente. Entonces, para mí, ese es un estándar mínimo, y yo no respetaría la ley de un país que ponga a funcionar esos drones sin un control humano, porque creo que eso es irresponsable.
Pero por sobre esa base, puede haber muchas maneras distintas de construir un marco legal. Algunos países podrían decir que cualquier persona debería poder saber inmediatamente quién está controlando ese drone, mientras que otros podrían decir que solamente las autoridades deberían poder conocer esas cosas de manera inmediata, entonces las personas deberían pasar por procesos legales para poder conocer esa información.
De este modo, creo que hay que tener un estándar global, y luego, sobre eso, construir estándares específicos que sean particulares de cada país, respetando sus valores. Creo que el sistema legal europeo se preocupa mucho más por la dignidad y la privacidad que el de Estados Unidos, que se preocupa más que Europa por la libertad de expresión. Entonces, en cierto modo, eso será manejado de modo distinto por cada país, pero creo que siempre podremos acordar en un estándar básico.
¿Qué sería una carta universal de los derechos digitales?
Hay un grupo llamado Ranking Digital Rights, que intentan dar un orden a la importancia de los derechos digitales. Creo que hay cuatro categorías básicas de derechos digitales, con instancias particulares para cada uno de ellos. Una de ellas podría ser la libertad de expresión, que implica el derecho de expresarnos en internet. La segunda estaría conformada por el derecho al debido proceso, es decir, si una decisión es tomada en contra tuyo, basada en sistemas automatizados o de inteligencia artificial, tienes el derecho de entender cuál es la decisión, en qué se basa, cómo puede ser apelada para corregir el registro y para disputarla, eventualmente.
La tercera categoría podría ser el derecho a un abogado digital. Es decir, si las condiciones son lo suficientemente serias, deberíamos tener derecho a un representante legal que entienda qué es lo que pasa. Y un derecho digital final, podría ser el derecho a la privacidad, es decir, establecer los límites respecto de cuántos datos de las personas pueden ser recolectados, cuáles son los límites de su uso y por cuánto tiempo pueden ser guardados.
Un derecho digital final, podría ser el derecho a la privacidad, es decir, establecer los límites respecto de cuántos datos de las personas pueden ser recolectados
Entonces, para cerrar la entrevista con la pregunta que da origen al debate del día de hoy, ¿quién nos asiste en los mundos virtuales?
Las formas de asistencia principales que existen en este momento, son los bots y los programas desarrollados por las grandes empresas. Y creo que lo que sería realmente interesante de ver, es si en el futuro habrá más ONGs, más pequeñas empresas, universidades y hospitales, entre otras entidades, que desarrollen su presencia online para asistir a los usuarios en el mundo virtual.
En Second Life ya había estas formas de asistencia, y yo creo que vamos a comenzar a ver cada vez más. Entonces, cuando pensamos en quién nos asiste en los mundos virtuales, podemos pensar que hoy son principalmente las grandes compañías, que tienen su propia agenda. Sin embargo, eventualmente viviremos en un mundo en el cual la asistencia virtual y la presencia virtual de guías va a ser más diversa.
Quedan pocas dudas de que los mundos virtuales han llegado para quedarse, y ganarán cada vez más terreno frente al mundo físico. Por eso, conocer cuáles son los modelos legales que están siendo diseñados, en conjunto con la incorporación de programas educativos sobre derechos digitales, son elementos claves para garantizar los derechos de la ciudadanía, frente al avance de las grandes plataformas.
