«Suelo estar en contra de las regulaciones estrictas, pero en inteligencia artificial la necesitamos […]: es un riesgo para nuestra civilización. […] Los investigadores creen que son más inteligentes que la inteligencia artificial, pero se equivocan».
Ellon Musk.
“Si la inteligencia artificial termina siendo capaz de hacer todo o buena parte de nuestro trabajo intelectual mejor que nosotros, tendremos en nuestras manos el último invento que tendrá que realizar la humanidad”.
Nick Bostrom
“Google, o alguna compañía de ese estilo, tomará las principales decisiones sobre la salud, sobre los niños o sobre nosotros. Lo mismo puede pasar en otros campos de la vida, incluso la vida romántica. Si un algoritmo te monitoriza todo el tiempo, te conoce mejor que tú”.
Yuval Noah Harari
«Las nuevas tecnologías pueden crear el cielo o el infierno. Pero no estamos seguros de cuál es cuál. Y esta situación es muy peligrosa. La línea entre los dos es muy fina, y pueden transformarse el uno en el otro. Ahí hay un enorme poder”, ha señalado Harari al término de su intervención en Converge by Globant. “Espero que se hagan elecciones sabias respecto a cómo usar este poder. Espero que los humanos no sean vistos como consumidores pasivos que deben ser controlados, sino cómo creadores que deben ser empoderados”.
Yuval Noah Harari
En los últimos años del nuevo milenio, los nuevos desarrollos tecnológicos realizados por la humanidad han alcanzado niveles inimaginables, llegando a mostrar avances increíbles en el escenario mundial. A decir verdad, este salto exponencial hacia las nuevas tecnologías disruptivas se ha tornado más intenso y extendido con motivo de la aparición de la infausta pandemia del covid–19. En este periodo se logró derivar nuestros sistemas a plataformas digitales, lo que nos obligó a masificar el manejo de medios electrónicos y recurrir cada vez más a la inteligencia artificial, y otros avances tecnológicos recientes.
Es importante resaltar que en la actualidad existen distintas empresas y gobiernos del mundo que se encuentran muy comprometidos con el desarrollo de las nuevas tecnologías digitales, la Inteligencia Artificial (IA) y las Industrias 4.0. Estos gobiernos, que se encuentran inmersos en estas tecnologías, vienen mostrando especial preocupación por los riesgos de sus usos indiscriminados y sin regulación. Desde luego, y esto no es un secreto, se trata de tecnologías que, pese a haber sido trabajadas y exploradas, aún no se ha logrado determinar qué implicancias y peligros concretos podrían acarrear.
Este hecho, más el alto costo de adoptar estos sistemas, el desinterés de algunos gobiernos y la poca difusión de estas tecnologías, dificulta su conocimiento más profundo e impide una regulación efectiva, concreta y eficiente que permita ir a la par del desarrollo de estas nuevas tecnologías. Como se sabe, estas últimas y los programas de IA buscan brindar ventajas y beneficios que puedan ser cuantificados en la vida cotidiana de las empresas, gobiernos y la ciudadanía. En este sentido, se pueden manifestar en grandes máquinas de procesamiento de datos, equipos operados bajo realidad aumentada, robots autónomos, programas de IA y asistentes virtuales; las mismas que permiten búsquedas, almacenamiento y registro de información de forma asombrosa.
Incluso, se ha venido dando casos de países que han recurrido a prototipos de robots utilizados para desempeñar tareas manuales bajo programación. Entre estos países, podemos identificar a Singapur, Japón, Corea del Sur, Alemania, Suecia, Dinamarca, Taiwán y EE. UU. Sin lugar a dudas, la nueva era digital, de la IA, de la robótica y del desarrollo digital y tecnológico ha venido para permanecer en la sociedad, para ser de mucha ayuda en nuestras tareas cotidianas, optimizar procesos, hacer más eficiente el proceso industrial, entre otros beneficios. Es sorprendente llegar a advertir que, en el marco de las denominadas industrias 4.0, hoy en día son más frecuentes aparatos electrónicos automatizados, robots programados como asistentes, máquinas autónomas regidas bajo algoritmos e IA, entre otros.
Al día de hoy, no podemos negar que la humanidad ha conocido y experimentado el devenir de las poderosas y extendidas redes sociales, los DVD, el Disco Duro y la infinita nube. Resulta lógico, que, desde la aparición de avances tecnológicos y digitales, jamás se dejó de avanzar en la era de la transformación digital y en el proceso de modernización de los procesos productivos y de información. Pues bien, desde dicho momento, las nuevas tecnologías digitales e industrias 4.0 (entre estas, la IA) han venido creciendo como la espuma, alcanzando niveles simplemente grandiosos. Siendo este el escenario, cada vez se hacía más necesaria una regulación formal, efectiva y rigurosa de estas tecnologías novedosas que responda ante las exigencias propias de estas herramientas y se reduzcan así los riesgos probables de afectaciones a derechos fundamentales y daños físicos.
En este orden de ideas, la normatividad debía de alcanzar también a aspectos tales como la Privacidad, los Delitos Tecnológicos y Cibernéticos, la herramienta del Big Data, e Inteligencia Artificial, en los que se requiere regulaciones y reglamentación. Desde luego, la pandemia del covid-19, que ha golpeado duramente al mundo, ha empujado a las nuevas generaciones a acelerar la migración al mundo digital que se encuentra en constante cambio radical. Como era de esperar, y dando un paso trascendental, en este propósito la Unión Europea (UE) adoptó las necesarias decisiones políticas para llevar adelante una regulación de las IA1, las mismas que se encuentren en consonancia con las nuevas tendencias de la cuarta revolución industrial.
La ley pretendía regular hasta donde podía tener determinación y autonomía la IA para erradicar probables escenarios de violación de derechos fundamentales de los ciudadanos. En el camino a la dación de la norma, los legisladores no lograron establecer puntos en coincidencia en la opción del uso de la IA para facilitar el reconocimiento facial y para regular las redes sociales. El proyecto de reglamento pretende garantizar que los sistemas de IA comercializados en el mercado europeo y utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores de ella. Esta propuesta histórica también pretende estimular la inversión y la innovación de la IA en Europa. La idea principal es regularla basándose en su capacidad de causar daño a la sociedad siguiendo un enfoque ‘basado en el riesgo’: cuanto mayor sea el riesgo, más estrictas serán las normas. Como la primera propuesta legislativa de este tipo en el mundo, puede establecer un estándar global para la regulación de la IA en otras jurisdicciones, al igual que el RGPD (Reglamento General de Protección de Datos), promoviendo así el enfoque europeo de la regulación tecnológica en el escenario mundial.
Estamos hablando de una normativa que constituye un verdadero pilar que servirá de derrotero para el resto de países del mundo que tengan previsto regular esta materia. En palabras de Ursula von der Leyen, Presidenta de la Comisión Europea: Esta norma recientemente aprobada “(…) constituye una primicia mundial”. “Es un marco jurídico único para el desarrollo de una IA en la que se pueda confiar. Y para la seguridad y los derechos fundamentales de las personas y las empresas”.
Cabe resaltar, que no se trata de la primera ley que aborda la IA, pero sí es la primera disposición legal que la aborda de forma más integral. Sólo basta recordar las nuevas disposiciones que se aprobaron en China sobre este campo, las mismas que entraron en vigencia en el mes de Agosto de 2023, cuyo detalle no será objeto del presente artículo.
Básicamente, este nuevo marco legal Prohíbe el Uso de Sistemas Biométricos, que identifican a las personas recurriendo a características biométricas personales, como huellas dactilares o características faciales. No obstante lo anterior, los legisladores comunitarios dispusieron que las fuerzas del orden recurran a estos Sistemas de Identificación Biométrica2 en los Espacios Públicos para perseguir y sancionar determinados delitos. Otro de los aspectos saltantes de la norma, es el hecho de que esta incluye nuevos requisitos de transparencia para implementar en todos los modelos de IA de propósito general, para generar mayor confianza en estos sistemas y reducir riesgos en el uso de estas herramientas para la gestión de información y se eliminen riesgos sistémicos para los países de la UE. Todas estas limitaciones en el uso de Sistemas de Identificación Biométricos, apuntan a utilizarla de forma eficiente, cuando corresponda, para prevenir y combatir la comisión de delitos especialmente graves cuya persecución sea transnacional.
En el espíritu del legislador comunitario, se pretendía cautelar a los ciudadanos frente a supervisiones y controles estatales incisivos y represivos que puedan eventualmente colisionar directamente con derechos fundamentales de los ciudadanos. Asimismo, en este nuevo marco legal, se incluyeron herramientas que facilitarán la Protección de Titulares de Derechos de Autor contra la IA generativa y que permitirán que los sistemas de propósito general sean más transparentes respecto al consumo de energía. Hoy en día los sistemas pueden reproducir sonidos, melodías, voces y demás registros que pertenecen a autores con derechos inscritos. De ahí, la importancia de una medida como la descrita, lo que consideramos un gran acierto del legislador.
Como ya se describió líneas atrás, estamos ante una ley que podría convertirse en un paradigma o modelo para otros países más allá de las fronteras de Europa. La idea del legislador comunitario era perfilar una ley futurista, que contenga flexibilidades necesarias como para regular funciones o tecnologías poco exploradas hoy en día. Se trata de un acuerdo provisional que deberá ser ratificado por la Comunidad Europea para su entrada en vigor total. Esta revisión, estaría prevista hacia finales del año 2026. Cabe añadir, en este punto, que algunas partes del paquete legislativo empezarán a funcionar antes. Estamos hablando de una ley que favorecerá la innovación, el desarrollo de esta tecnología y permitirá avances significativos en lo que concierne a la protección de derechos fundamentales.
En cuanto a la IA generativa, en la norma se contemplan reglas que garantizan la calidad de los datos utilizados para el desarrollo de estos sistemas guiados por algoritmos. Al mismo tiempo, se impone a los desarrolladores la responsabilidad de asegurarse de que las notas de sonido, imagen y los textos desarrollados se encuentren claramente identificados como artificiales. Las restricciones reforzadas se aplicarán sólo a los sistemas más potentes. El nuevo marco legal, audaz e innovador, contempla un sistema de sanciones ejemplar que desincentiva vulneraciones a los derechos y libertades que la norma desea cautelar.
A la par, la norma crea la figura de un ente supervisor independiente en materia de IA, ligado a la Comisión Europea, el mismo que contará con la asesoría de un panel de expertos científicos y de la sociedad civil. En esta línea, las compañías que no acaten las disposiciones, serán multadas con hasta el 7% de su facturación global. De esta forma, las restricciones para la IA prohibida entrarán en vigor en seis (06) meses, los requisitos de transparencia en doce (12) meses y el conjunto completo de reglas en unos dos (02) años. Lo que busca la nueva norma, es ser considerada un estándar normativo global que fijará un derrotero para las distintas naciones del mundo que pretendan poner en marcha un sistema legal certero, formal y dinámico que les permita regular la IA.
Es así que el Parlamento Europeo enfatizó en el hecho de que se había gestado una norma relativa a IA de forma bastante eficiente, técnica, moderna y competitiva; la misma que permitirá garantizar que se preserven los derechos constitucionales, la democracia y el equilibrio socioambiental. Está demás decir que el legislador comunitario, como ya se mencionó líneas atrás, se fijó como meta el lograr asegurar la protección de derechos individuales, impulsar la promoción de la innovación e inversión en tecnologías similares.
En este estadio del análisis, consideramos pertinente subrayar que no existe ningún país en el mundo que cuente con un marco legal tan completo y funcional en materia de IA. No obstante, no podemos dejar de reconocer algunos esfuerzos de países del primer mundo por buscar regular este desarrollo tecnológico de forma parcial, considerando sus intereses, prioridades y crecientes necesidades. Claro está que estamos ante esfuerzos legislativos comunes, gestos que denotan voluntad política de examinar la IA, así como propuestas firmes pero aisladas en esta materia, que no abordan en su integridad el avance de estas herramientas del futuro.
Siguiendo este mismo orden de ideas, creemos relevante compartir que, además del caso de China (se detalló en su oportunidad), en EE. UU., Joe Biden, Presidente de esta nación norteamericana, en el pasado mes de Octubre del 2023 suscribió una disposición3 mediante la cual se instituía a las empresas privadas la obligación de notificar al Gobierno americano con respecto a cualquier hallazgo que pueda eventualmente ocasionar un “Riesgo Grave frente a la Seguridad Nacional”. Este mandato de seguridad emitido por el Presidente Biden buscaba imponer nuevas obligaciones de seguridad frente a quienes desarrollen tecnologías en el marco de la IA.
Otra iniciativa resaltante, es la que se produjo días después del acto oficial del gobierno de EE. UU., y es la promueve el Primer Ministro del Reino Unido, Rishi Sunak, el mismo que convocó a una cumbre internacional de la que se desprende el primer compromiso suscrito por 28 países del mundo y de la UE sobre la IA, dicha iniciativa se concretó en la denominada Declaración de Bletchley. En esta declaración, todos los países firmantes convinieron agotar sus esfuerzos por favorecer el uso responsable de la IA. Para tal fin, se prevé la creación de un grupo de expertos para el monitoreo de sus avances.
Por último, en este punto queremos compartir algunas ideas finales con respecto a esta nueva legislación comunitaria, la misma que ha venido a constituir un derrotero y un hito para las legislaciones de todo el mundo por su preocupación, medida en “riesgos”, con respecto a la regulación de la IA. Es innegable, que esta primera disposición legal comunitaria pretende garantizar que los sistemas de IA comercializados en el mercado europeo, y en cualquier parte del mundo, sean desarrollados, distribuidos y utilizados con el mayor nivel de seguros, sin riesgos para los estados y ciudadanos, y que respeten los derechos fundamentales, la soberanía, la libertad y los derechos individuales de los ciudadanos de la UE.
La idea principal de la norma fue regular la IA basándose en el alto grado de riesgo que esta puede representar para la sociedad. Aunque, aún existen varios aspectos por revisar y conciliar en el seno de la UE, creemos que los gobiernos deben de abrir su legislación y visión política para contemplar una revisión de la IA como parte de las industrias 4.0. Es así que al ver los distintos componentes de la industria 4.0, se podrá abrir la cancha a tecnologías revolucionarias, disruptivas e increíblemente peligrosas como la robótica, la nanotecnología, el Big Data, los Smart Cities, el Internet de las Cosas, entre otras que requerirán regulación efectiva y eficiente. Estas nuevas tecnologías, nos obligarán a reformar en su totalidad los Códigos Civiles, los Códigos Penales y las normas sobre el comercio de bienes, personas y servicios, entre otras normativas relevantes.
Sin lugar a dudas, nos encontramos ante una norma única en su género, que fija estándares de seguridad interesantes y que busca coadyuvar en la reglamentación justa, eficiente y responsable de una gran tecnología en constante crecimiento y que permitirá introducir modificaciones garantistas en las legislaciones nacionales de países alrededor del mundo para garantizar la protección de derechos, libertades, resguardar el honor, proteger el comercio, la innovación, la inversión de capital y los datos personales de todo ciudadano del mundo.
[1] Se trata de programas o sistemas informáticos, guiados por algoritmos y lenguajes de programación, que puedan simular la inteligencia humana. Esta tecnología, permite analizar información, tomar decisiones, ejercer reconocimiento facial, visual y de voz, así como entender el lenguaje, realizar acciones humanas y adoptar decisiones.
Entre las actuales aplicaciones de la Inteligencia Artificial, podemos citar:
– Videojuegos inteligentes.
– Soportes digitales y programas computacionales.
– Sistemas de procesamiento masivo de datos.
– Robótica.
– Dispositivos inteligentes en el hogar.
– Filtros de SPAM.
– Chatbots.
– Vehículos autónomos.
– Asistentes virtuales.
[2] Los Sistemas de Identificación Biométrica, a utilizar por parte de las fuerzas del orden deberán ser restringidos y revestidos de estrictas salvaguardias: se requerirá una autorización judicial y la lista de crímenes que lo autorice será muy restrictiva. En el caso del uso “ex post”, solo se permitirá para la búsqueda de una persona condenada o sospechosa de haber cometido un crimen grave.
En el caso de la vigilancia en tiempo real, su uso se limitará al “tiempo y locación”. Por tanto, la tecnología se permitirá para la búsqueda de víctimas de delitos especialmente graves como son los siguientes: secuestro, trata de blancas o explotación sexual y para prevenir una amenaza terrorista. Del mismo modo, esta facilidad se utilizará para ayudar en la localización e identificación de sospechosos de crímenes muy serios y graves, como lo son: terrorismo, tráfico, asesinato, secuestro, violación, robo armado o un crimen medioambiental, entre otros).
[3] La orden emitida por el Presidente Biden, recurre a la Ley de Producción para la Defensa (Defense Production Act), Ley emitida el año 1950; La misma a la que se ha recurrido en crisis recientes como la fue la pandemia de coronavirus, así como frente a la escasez de leche maternizada – para obligar a las empresas a que compartan con el gobierno los resultados de las pruebas.
Bibliografía
Ayuso, Silvia. La UE aprueba la primera ley de inteligencia artificial del mundo. El País. Tecnología. Diciembre, 2023.
https://elpais.com/tecnologia/2023-12-08/la-ue-aprueba-la-primera-ley-de-inteligencia-artificial-del-mundo.html
France 24. Unión Europea llega a un acuerdo sobre la primera ley para regular la IA. Europa. Diciembre, 2023.
https://www.france24.com/es/europa/20231209-uni%C3%B3n-europea-logra-acuerdo-sobre-primera-ley-para-regular-de-la-inteligencia-artificial
Lima, Cristiano y Zakrzewski. Joe Biden firmó decreto para regular la inteligencia artificial. The Washington Post. INFOBAE. Octubre, 2023.
https://www.infobae.com/wapo/2023/10/31/joe-biden-firmo-un-decreto-para-regular-la-inteligencia-artificial/
Meaker, Morgan. La Unión Europea aprueba paquete de normas para regular la IA. Wired. Negocios. Diciembre, 2023.
https://es.wired.com/articulos/union-europea-aprueba-paquete-de-normas-para-regular-ia
Noticias Jurídicas. Ley de inteligencia artificial: El consejo y el parlamento llegan a un acuerdo sobre las primeras normas del mundo para la IA. Presidencia española del Consejo de la UE. Diciembre, 2023.
https://noticias.juridicas.com/actualidad/noticias/18558-ley-de-inteligencia-artificial:-el-consejo-y-el-parlamento-llegan-a-un-acuerdo-sobre-las-primeras-normas-del-mundo-para-la-ia/
Verano, Juan. Ley de inteligencia artificial: el consejo y el parlamento llegan a un acuerdo sobre las primeras normas del mundo para la IA. EFE. Presidencia Española del Consejo de la UE. Diciembre, 2023.
https://spanish-presidency.consilium.europa.eu/es/noticias/consejo-parlamento-acuerdo-primeras-normas-mundiales-inteligencia-artificial/
