La respuesta legislativa del Estado de Derecho a la Inteligencia Artificial

El auge del diseño, desarrollo y uso de la inteligencia artificial en el ámbito de la medicina, agricultura, desarrollo urbano, economía e ingeniería plantea la necesidad de normas que garanticen la seguridad y proporcionen un clima de confiabilidad en el diseño, desarrollo y uso de esta tecnología en el marco legislativo de la Unión Europea (UE).

En la pasada edición de Cambio16, nuestro editor –Jorge Neri– lanzaba una reflexión interesante y compleja en cuanto al Estado de Derecho, esto en el marco del World Law Congress celebrado en febrero en Madrid:

“Es preciso defender el Estado de Derecho más allá de los casos de violaciones obvias y frontales. El Estado de Derecho hoy está amenazado también por su incapacidad de reacción ante los avances tecnológicos. Si a estas alturas seguimos tratando de defender –con poco éxito– lo básico del Estado de Derecho, que es el imperio de la ley frente a la fuerza, cómo vamos a ser capaces de pasar a un plano más difícil y futurista representado por la aplicación de la ley en los espacios tecnológicos, digitales, virtuales y espaciales. Estamos ante un acelerado desarrollo tecnológico, digital y virtual, sin una capacidad de respuesta adecuada por parte del Estado de Derecho” (Cambio16, nº 2.255, pág. 10).

Dada la tendencia mundial en el diseño, desarrollo y uso de la Inteligencia Artificial (IA), esta reflexión planteó una interrogante en la siguiente dirección: ¿tenemos una legislación en Europa para la inteligencia artificial? Una legislación que defienda al ciudadano, que lo informe y lo proteja. ¿Cabe el concepto de Estado de Derecho en este fenómeno?

“Consciente de su patrimonio espiritual y moral, la Unión está fundada sobre los valores indivisibles y universales de la dignidad humana, la libertad, la igualdad y la solidaridad, y se basa en los principios de la democracia y el Estado de Derecho. Al instituir la ciudadanía de la Unión y crear un espacio de libertad, seguridad y justicia, sitúa a la persona en el centro de su actuación.

Para ello es necesario, dotándolos de mayor presencia en una Carta, reforzar la protección de los derechos fundamentales a tenor de la evolución de la sociedad, del progreso social y de los avances científicos y tecnológicos”. (Preámbulo, Carta de los Derechos Fundamentales de la Unión Europea).

¿Qué es la inteligencia artificial?

La inteligencia artificial es aquella rama de las ciencias computacionales que basada en la combinación de algoritmos crea máquinas capaces de aprender y resolver problemas. Las máquinas imitan funciones cognitivas de los humanos, por lo tanto, son capaces de tomar datos externos e interpretarlos para resolver problemas y alcanzar metas concretas.

Un ejemplo de esta capacidad es la aplicación de una red neuronal (convolucional siamesa) que en Otawa (Canadá) permitió detectar las áreas en proceso de gentrificación en la ciudad a través del análisis de imágenes producidas por Google Street View.

Este estudio fue llevado a cabo por investigadores de la Universidad de Otawa y sus resultados fueron publicados en el periódico de acceso abierto Plos One en marzo pasado. Valga decir que las redes neuronales convolucionales son un tipo de IA muy efectiva para la clasificación y segmentación de imágenes.

Así, la IA presenta diferentes categorías según sus capacidades: sistemas que piensan como humanos, sistemas que actúan como humanos, sistemas que piensan racionalmente y sistemas que actúan racionalmente.

La innovación en temas de mantenimiento de instalaciones permite que los trabajadores tengan mayor seguridad al realizar sus labores de mantenimiento de las instalaciones eólicas utilizando el #IoT y la #InteligenciaArtificial. https://t.co/pdGGS8C69E pic.twitter.com/csH6YhSDGG

— SeysTic (@SeysTic) 17 de abril de 2019

Aunque no lo sepas puede que en este momento te estés sirviendo de IA, ya que muchas aplicaciones que usan esta tecnología al volverse comunes dejan de ser reconocidas como tal. Sin embargo, la IA presenta un amplio campo de acción: ciencias de la computación, finanzas, medicina, industria pesada, servicios de atención al cliente, transporte, mantenimiento de telecomunicaciones, juegos y juguetes, música, aviación, noticias y publicaciones, seguridad nacional, minería de datos, etc.

En Dinamarca, por ejemplo, el uso de la IA permite a los servicios de emergencias determinar paradas cardíacas y otras dolencias a través del análisis de la voz del que llama. En Austria, ayuda a radiólogos en la detección de tumores. Alrededor de toda la Unión Europea el sector agrario utiliza la IA para monitorear a los animales: desplazamientos, temperatura y consumo de alimentos.

La UE busca sacar el máximo partido a esta tecnología y su objetivo es ser líder en el diseño, desarrollo y uso de la misma. Desde 2004 la investigación y progreso de esta tecnología ha ocupado la atención de la Unión, especialmente en el campo de la robótica. Para el período 2014-2020 hubo un incremento de las inversiones en materia de robótica de 700 millones de euros más 2.100 millones de euros por parte de la inversión privada.

Igualmente, la UE ha financiado proyectos como el adelanto de una maquinaria agrícola que descarta las malas hierbas, un proyecto piloto en las autopistas que da recomendaciones de seguridad basadas en la IA y el internet de las cosas, ortoprótesis robótica para personas con miembros amputados y robots que realizan tareas repetitivas en fábricas de automóviles. Sin embargo, y pese a todos estos avances, ¿está el ciudadano europeo protegido ante la inminente aparición y protagonismo de la IA en diversas industrias y áreas de la vida común?

La UE responde

Definitivamente esta es una inquietud para toda la Unión que ha creado un mercado común digital donde los derechos fundamentales de los europeos se ven protegidos. Dentro de este marco, en abril de 2018 fue publicada la Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones acerca de la Inteligencia Artificial para Europa.

En dicha comunicación, la Comisión Europea establece tres puntos clave y de interés en materia de IA:

1. Potenciar la capacidad tecnológica e industrial de la UE e impulsar la adopción de la IA en todos los ámbitos de la economía…
2. Prepararse para las transformaciones socioeconómicas que origina la IA…
3. Garantizar el establecimiento de un marco ético y jurídico apropiado, basado en los valores de la Unión y en consonancia con la Carta de los Derechos Fundamentales de la UE…

Europa cubriendo todos los frentes

La comunicación insta a cada Estado miembro de la Unión a tomar sus previsiones en cuanto a la IA, haciendo énfasis en la inversión. En esta comunicación, la Comisión Europea establece cinco tareas fundamentales en materia tecnológica, digital y virtual:

• El establecimiento de la Alianza europea de la IA, que reuniría a todas las partes interesadas en este tema: empresas, organizaciones de consumidores, sindicatos y otras asociaciones civiles.
• Para mediados de este año la publicación de directrices en cuanto a la responsabilidad de productos defectuosos para garantizar la claridad jurídica tanto a consumidores como a productores.
• Igualmente, para mediados de este año publicar un informe en materia de responsabilidad y seguridad en cuanto a la IA, el internet de las cosas y la robótica.
• El desarrollo de la IA explicable y ejecución del proyecto con respecto a la sensibilización sobre los algoritmos propuesto por el Parlamento Europeo, con el objeto de recopilar datos pertinentes que den respuestas políticas “a los retos que plantea la adopción automatizada de decisiones”.
• Por último, contribuir a una mejor comprensión de las aplicaciones que utiliza la IA respaldando a las organizaciones de consumidores y a las organizaciones que se encargan de la supervisión en materia de protección de datos.

Algunas de estas tareas se han cumplido. La Alianza Europea de la IA es un foro abierto en línea para que los interesados en esta materia puedan acceder y participar, además de interactuar con el grupo de expertos de alto nivel sobre IA, que tiene en sus manos el establecimiento de una estrategia europea para la IA.

La Comisión Europea esboza las claves éticas para desarrollar la #InteligenciaArtificial #IA #AIhttps://t.co/HKMQJNtQoE

— OpenSistemas (@opensistemas) 15 de abril de 2019

Un grupo de alto nivel

La Comisión Europea también ha facilitado la preparación de una guía ética para una IA confiable por parte de un grupo de expertos de alto nivel. Este grupo cuenta con 51 miembros de diferentes ramas del conocimiento relacionadas con la IA. Desde ingenieros industriales pasando por expertos en máquinas de aprendizaje hasta profesores de filosofía son los encargados de redactar esta guía ética.

El pasado 18 de diciembre presentaron un primer borrador, el cual estuvo abierto a una discusión en línea hasta el primero de febrero. Todos los comentarios y sugerencias acerca del borrador están siendo considerados para el documento final. Se estima que una vez que se haya entregado la guía final a la Comisión Europea sea presentada al público en abril.

“La Unión establecerá un mercado interior. Obrará en pro del desarrollo sostenible de Europa basado en un crecimiento económico equilibrado y en la estabilidad de los precios, en una economía social de mercado altamente competitiva, tendente al pleno empleo y al progreso social, y en un nivel elevado de protección y mejora de la calidad del medio ambiente. Asimismo, promoverá el progreso científico y técnico…” (artículo 2, 3. Tratado de la UE)

¿Hay un marco legal específico para el diseño, desarrollo y uso de la IA en Europa? Sí, existe y está contemplado en la Carta de los Derechos Fundamentales de la Unión Europea y en el artículo 2 del Tratado de la Unión Europea. Si estas vías son suficientes o no para reglamentar la actuación en el campo de la IA es de lo que ahora la Unión se ocupa.

Según la comunicación ya comentada, la UE cuenta con “un marco jurídico completo, que protege a los consumidores al tiempo que favorece la innovación”. Queda ya de nuestra cuenta informarnos acerca de los avances de este marco jurídico que busca protegernos como consumidores ante la escalada de la IA en nuestras vidas. Decía Tim Berners-Lee en el 30 aniversario de la Worl Wide Web:

“Los ciudadanos deben hacer rendir cuentas a las empresas y a los gobiernos por los compromisos asumidos, y exigir que respeten la web como una comunidad global que tiene a los ciudadanos por centro. Si no elegimos políticos que defiendan a la web como un espacio libre y abierto, si no hacemos nuestro aporte para alentar conversaciones productivas y saludables en línea, si seguimos haciendo clic en “aceptar” sin que se respeten nuestros derechos, eludimos nuestra responsabilidad de poner estos temas entre las prioridades de nuestros gobiernos”.

Para el caso de la IA podríamos tomar las palabras de Berners-Lee. No podemos eludir nuestra responsabilidad de hacer valer nuestro Estado de Derecho, informarnos, educarnos y actualizarnos es crucial en una sociedad libre y democrática.

Para más información visite Cambio16.com

Lea también:

Aprobada la directiva que cambiará Internet

Puede adquirirla en papel, en digital, suscripción digital y suscripción total