¿Se encuentra preparado el Derecho para regular el futuro? ­–o ¿el presente?

[ADVERTENCIA: El siguiente artículo contiene referencias explícitas (spoilers) a contenido de diversos capítulos de la serie BLACK MIRROR. Usted lee bajo su responsabilidad.]

La popular serie, cuyo lanzamiento fue en diciembre del 2011, trata de describirnos cómo los avances de las Tecnologías de la Información y Comunicación impactan actualmente en la sociedad y cómo lo harán en los próximos años (en un futuro más cercano que lejano). Así, lo que se busca es transmitir un sentimiento de paranoia tecnológica[1] respecto de cómo son las TIC’s hoy y cómo pueden serlo mañana.

En palabras de su creador, Charlie Booker, “cada episodio cuenta con un reparto diferente, un diferente entorno, incluso una realidad diferente. Sin embargo, todos tratan sobre la forma en que vivimos ahora – y la forma en la que podríamos vivir en 10 minutos si somos torpes”[2]. Es debido a esto que el título del presente #BreakingTheLaw formula la pregunta sobre si estamos realmente ante el futuro o, si por el contrario, es nuestro presente.

 Sea como fuese, no cabe duda que el desarrollo tecnológico ha impactado fuertemente en nuestras vidas, nuestras relaciones interpersonales, y, por lo tanto, nuestras relaciones jurídicas. La forma en la que nos relacionamos entre privados, y la relación ciudadano-Estado ha cambiado y parece ser que no hay marcha atrás. Más aún, las tendencias en las legislaciones contemporáneas son las de hacer cada vez más electrónico y digital la forma en cómo funciona el Estado[3].

 ¿Qué retos para el Derecho nos presenta la serie?

 Ciberseguridad y defensa

 El primer episodio es ciertamente impactante y capta la atención inmediata del espectador. En un Reino Unido ficticio, el Primer Ministro, Michael Callow, es alertado de que un miembro de la familia real, la princesa Susannah, fue objeto de un secuestro. ¿Qué se pedía a cambio de su liberación? Que el Primer Ministro emita en vivo, a través de todos los canales de televisión y de las señales de radio, una transmisión en la cual éste mantenga relaciones sexuales con un cerdo. De negarse, la princesa sería devuelta sin vida.

 El pedido de rescate constaba en video, ante lo cual el Primer Ministro ordenó que el material quede en reserva. Sin embargo, no contaba con que el video estaba subido a YouTube, con lo que en cuestión de horas, las redes sociales, la sociedad inglesa y el mundo entero tomó conocimiento de este bizarro pedido. Además, tenía un factor determinante en su contra, el tiempo: contaba con menos de 12 horas para tomar medidas al respecto. Rastrear el origen del video, en el poco tiempo que se tenía, se tornaba casi imposible.

Esta situación nos genera un conjunto de preguntas tales como ¿están los Estados listos para combatir ataques cibernéticos? ¿Qué medidas, punitivas o preventivas, adoptan nuestro Gobiernos respecto al ciberterrorismo? Cuando el Primer Ministro consulta sobre cuál es el playbook a aplicar ante situaciones como la descrita, otro Ministro le responde “No hay ninguno. Este es territorio virgen”.

 Indudablemente, Internet ha logrado empoderar a varios actores en nuestra sociedad, de tal manera que no es necesario contar con un gran financiamiento y una organización para poner en crisis a toda una Nación. Al respecto, basta analizar lo sucedido con la ex candidata a la presidencia de Estados Unidos, Hillary Clinton, el filtrado de sus correos y la acusación hacia hackers rusos. Estas nuevas formas del ejercicio del poder, ya sea privado como público, nos traen dudas sobre cómo se deben de regular o ¿se deben regular?

 Protección de la vida privada y de la intimidad

Otro episodio titulado “The Entire History of You”, nos plantea situaciones más delicadas y más cercanas a nuestra realidad. En el futuro se lograr desarrollar un chip que es implantado detrás de la oreja, mediante el cual se logra registrar todo lo que la persona mira o escucha. Este aparato permite reproducir las imágenes grabadas, ya sea delante de los ojos como a través de una pantalla de televisor. Así, se logra que los recuerdos que uno tiene sean almacenados en video, evitando, de esta manera, sortear los problemas que puede traer la nubosidad de la memoria humana.

¿Qué podría salir mal? Básicamente que, cuando alguien tiene acceso a este chip, tiene acceso a la información privada y más íntima de cada persona. De hecho, una forma de control gubernamental, por ejemplo, en los aeropuertos, era verificar qué había hecho el pasajero en los últimos días. Las mafias también estaban al tanto de estos chips, ya que a través de estos pueden recolectar información preciada o información íntima. ¿Cómo se redimensionan, entonces, el derecho a la vida privada y el derecho a la intimidad? ¿Es necesario registrar todos los acontecimientos de nuestra vida? ¿Qué medidas puede tomar el Derecho para proteger estos datos e información, incluso, de sus propios titulares?

El problema se torna aún más complejo si tomamos en cuenta que, casi como prueba tasada, el único valor que se le puede otorgar a una declaración de un testigo es la que se obtiene a través de lo registrado en el chip. En efecto, al momento de denunciar un hecho delictuoso, si no se cuenta con el mencionado chip, la denuncia no será evaluada por las autoridades pertinentes. Así, se presentan restricciones respecto al derecho a una tutela jurisdiccional efectiva por parte de quienes no tienen este dispositivo. O, más complejo aún, si tenemos en cuenta que, como se muestra en otro episodio[4], el Gobierno puede controlar lo que ves y decide qué ves.

Cabe agregar que la trama planteada en el capítulo no es para nada lejana. Recordemos el proyecto de Google Glass, los lentes de realidad aumentada diseñados por Google. De hecho, estos ya permiten grabar lo que uno ve o escucha, como es el caso de la novia que grabó su boda a través de este dispostivo[5], por lo que solo es cuestión de tiempo para que su uso se vuelva masivo y, un poco más, para que se pueda desarrollar esta tecnología para adherirse a nuestro cuerpo.

La regulación de la robótica

Somos conscientes que todo nuestro comportamiento en Internet y, en especial, en redes sociales, queda registrado. De esta forma se generan patrones orientados a determinar qué gustos e intereses tenemos y así poder dirigir la publicidad. Internet puede, en gran medida, saber cómo nos expresamos, cual es nuestra apariencia, cómo pensamos, cómo es nuestra voz, entre otras cosas.

Ahora bien, imaginemos que toda esa información relativa a nosotros pueda ser compilada y configurada de tal manera que se genera una copia virtual de nuestra personalidad. Más aún, imaginemos que esa copia virtual pueda ser descargada en un robot para que tenga nuestros mismos patrones de conducta.

Esto es lo que nos muestra el episodio “Vuelvo enseguida” (Be Right Back), en el cual salen a relucir los dilemas que podría traer la regulación de la robótica y de la inteligencia artificial. En este caso, nos encontramos ante un software en el cual está la impronta de nuestra personalidad. Eventualmente, este robot comienza a relacionarse con humanos, lo cual nos trae la siguiente pregunta: ¿es un sujeto de derecho? De serlo, ¿es un sujeto distinto del humano? Si el humano muere y el robot sigue activo, ¿a quién se atribuye las relaciones jurídicas que pueda generar en el futuro?

No estamos lejos de entrar al ámbito de la regulación de la robótica y la inteligencia artificial. De hecho, ya son muchas las decisiones que toman las máquinas: en Wall Street[6] los softwares están reemplazo a los analistas financieros y toman decisiones en vez de ellos (de manera más rápida y eficiente). La doctrina[7] considera que los robots y softwares son, por ahora, manifestaciones de voluntad de quienes los programan, pues es en base a fórmulas que estos toman las “decisiones” correspondientes (fórmulas hechas previamente por el programador). Sin embargo, el problema se presentará cuando esta toma de decisión vaya ganando más “autonomía” y tienda hacia una inteligencia artificial que no responda a programación humana. ¿Cómo debe actuar el Derecho entonces?

Realidad aumentada y realidad virtual

Sin duda, el fenómeno mundial más próximo relativo a la realidad aumentada fue el que generó Pokemon Go en todo el mundo. La realidad aumentada permitió que miles de millones de personas alrededor del mundo puedan observar, a través de su celular, a pokemones presentes en su parque.

Playtest (Partida), es un episodio que se enfoca en este aspecto (combina la realidad virtual y la realidad aumentada, haciendo que se torne imposible diferenciarlos entre ellos y con la realidad), llevándolo a un ámbito casi borgiano de concepción entre la ficción (o el sueño) y la realidad. En cierto punto de la trama, se torna imposible diferenciar si el protagonista se encuentra en el “mundo real” o en el videojuego. Dentro todo, ¿cómo es que el derecho debe regular la experimentación de la realidad virtual o aumentada en los seres humanos? Tomemos en cuenta que la realidad virtual está ya al alcance de nosotros, a través de casos o visores, tales como PlayStation VR, Project Morpheus, Oculus Rift, entre otros.

Es posible que, en un futuro, este tipo de experimentación se torne tan potencialmente peligrosa como la experimentación médica en seres humanos. Así, el ordenamiento jurídico tendrá que brindar medidas normativas para evitar que, a través de esta experimentación, se generen daños irreversibles a las personas. Será necesario crear protocolos para los ensayos, establecer los límites del mismo y, sobre todo, determinar cuáles son los fines lícitos que se pueden alcanzar a través de la experimentación de la realidad virtual en seres humanos.

Cuando tus redes sociales determinan cómo te ha de tratar la sociedad en el “mundo real”

La trama a la que Nosedive (Caída en picada) nos introduce es un mundo en el que ejerces tus derechos, tienes acceso a oportunidades, entre otros, en base a una clasificación que tengas. Para hacer un símil más cercano, imaginemos que el mundo te trate de acuerdo a la cantidad de likes que tengas en tu perfil. Así, si eres una persona que tiene muchos likes, podrás acceder a ciertos beneficios y oportunidades e, incluso, mantener tu puesto de trabajo. Más aún, esto, teniendo en cuenta que la valoración de tu perfil se hace en tiempo real, de acuerdo a la interacción que tengas con otros seres humanos. De esta manera, si eres una persona que le sonríe a todos, saluda amablemente, serás bien valorado y, por lo tanto, podrás ejercer ciertos derechos.

En pocas palabras, se te es asignado un puntaje de acuerdo al tipo de comportamiento que se tenga. Este puntaje determina si tienes acceso o no a ciertos derechos. La evaluación que hagan de ti, a través de las fotos que posteas o los comentarios que haces, determinará cómo te tratará la sociedad.

Este podría ser un ejemplo interesante para el análisis del derecho a la igualdad en entornos digitales. ¿Resulta razonable que, por ejemplo, no pueda acceder a un boleto de avión porque mi perfil virtual no tiene tanto puntaje como otros? Esta situación parecería un tanto irrealizable, pero es importante llamar la atención que en China funciona un sistema similar.

De hecho, en el mencionado país se está queriendo incorporar un sistema de crédito mediante el cual se mida el riesgo crediticio a partir de un análisis del comportamiento de las personas en la red[8]. Así, habrá una gran base de datos en la que se almacene tu puntaje crediticio cuyo acceso lo podría realizar cualquier ciudadano descargando la aplicación. De esta manera, el ciudadano que interactúa con otro podrá evaluar, en tiempo real, cuál es el riesgo crediticio de la otra persona.

Esta aplicación se llama Sesame Credit. Todo lo desarrollado hasta aquí no resultaría tan alarmante si tu puntaje crediticio no dependiera de si haces comentarios favorables o no al Gobierno y al régimen político[9]

Entonces, ¿qué nos toca hacer?

Para enfrentar estos fenómenos que se tornan amenazadores de nuestros derechos fundamentales, se están impulsando estudios en varias áreas del Derecho orientadas a regular el fenómeno digital. Sin embargo, poco se ha reflexionado respecto al impacto de estos cambios tecnológicos en nuestras vidas, y más aún, si los cambios venideros son deseables. La bioética nos enseña que no todo avance científico-médico es deseable y que la investigación en este campo debe estar orientada a considerar al ser humano como un fin en sí mismo.  De la misma manera, se torna necesario contar con estudios éticos orientados al campo de la tecnología[10]. Los avances tecnológicos son un medio para el desarrollo del ser humano, no son un fin en sí mismos.

De otro lado, desde el campo del Derecho, existen nuevas tendencias a reconocer el ejercicio de ciertos derechos en el mundo virtual y la limitación del poder en este. Así, surge una novísima corriente entendida como “constitucionalismo digital” que tiene por objeto de estudio el ejercicio de derechos fundamentales en la red y las formas de limitación del poder (ya sea público o privado) en la misma[11]. De la misma forma, entiende que Internet es un nuevo mecanismo para limitar y controlar el poder y, a su vez, es un poder en sí mismo que necesita ser definido y encuadrado jurídicamente[12]. Los estudios en este campo son muy recientes y se espera más investigaciones en los años venideros.

 Por lo pronto, solo nos queda estar atentos ante los cambios tecnológicos y ser suspicaces ante ellos, y, alzar la voz, si es necesario, de presenciar alguna amenaza a nuestros derechos. Mientras tanto, disfrutemos de las bondades que la tecnología nos brinda… ¡Alerta permanente!


[1] Black Mirror – A new drama from Charlie Brooker». Endemol, mayo 2011.

<http://www.endemolshineuk.com/news/black-mirror-a-new-drama-from-charlie-brooker>

[2] BOOKER, Charlie. “The dark side of our gadget addiction”. The guardian, 1 diciembre, 2011.

<https://www.theguardian.com/technology/2011/dec/01/charlie-brooker-dark-side-gadget-addiction-black-mirror>

[3] Al respecto, basta observar los cambios introducidos en materia de interoperabilidad mediante el conocido “Paquete de simplificación administrativa”, Decreto Legislativo N° 1246.

[4] Capítulo Men Against Fire o La ciencia de matar, tercera temporada.

[5]<http://www.elconfidencial.com/tecnologia/2014-01-01/una-novia-usa-las-google-glass-para-grabar-su-recorrido-hasta-el-altar_71703/>

[6] POPPER, Nathaniel. “The robots are coming for Wall Street”. The New York Times, febrero, 2016.

<http://www.nytimes.com/2016/02/28/magazine/the-robots-are-coming-for-wall-street.html?_r=0>

[7] NIETO, Patricia. “El comercio electrónico y la contratación electrónica: Bases del mercado virtual”. Foro Jurídico, N° 15, 2016, ISSN 2414-1720.

[8] HATTON, Celia. “China ‘social credit’: Beijing sets up huge system”.  BBC News, octubre, 2015.

<http://www.bbc.com/news/world-asia-china-34592186>

[9]<http://magnet.xataka.com/en-diez-minutos/esta-china-midiendo-el-credit-score-de-sus-ciudadanos-en-funcion-de-sus-opiniones-politicas>

[10] En este punto, la tecnoética apunta a convertirse en la rama que se encargará de profundizar estos temas.

[11] GILL, Lex; REDEKER, Dennis y GASSER, Urs. “Towards Digital Constitutionalism? Mapping Attemps to Craft an Internet Bill of Rights”. The Berkman Center for Internet & Society at Harvard University. No. 15, 2015.

[12] SIMONCINI, Andrea. “The Constitutional dimension of the Internet. Some research paths”. European University Institute Working Papers, ISSN 1725-6739, No. 16, 2016, p.4.

<https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2781496>

Dilmar Villena Fernandez Baca
Bachiller en Derecho de la Pontificia Universidad Católica del Perú. Miembro de la Liga Juvenil de Defensa de Internet y de Perspectiva Constitucional. Ex director de la Comisión de Publicaciones de la Asociación Civil Foro Académico.