Todos los aspectos de nuestra vida cotidiana se vuelven inconcebibles sin la tecnología y el mundo digital. Esta transformación trascendental trae consigo dudas e inquietudes, pero también oportunidades extraordinarias. Es crucial comprender cada transformación tecnológica desde su inicio para diseñarla y gestionarla de la mejor manera. Uno de los avances clave es la inteligencia artificial: precisamente porque la revolución digital está en marcha, aún tenemos la oportunidad de moldearla positivamente, en beneficio de la humanidad y sus comunidades, siempre que comprendamos qué es para definir y delinear con precisión los desafíos éticos que este gran cambio trae consigo.
Es importante reflexionar sobre los desafíos éticos, así como los tecnológicos y económicos, por varias razones:
1. Prevenir el daño y la desigualdad – El uso poco ético de la IA puede exacerbar la desigualdad y generar discriminación.
2. Construir una regulación justa – La ética proporciona la base principal para desarrollar regulaciones y leyes que garanticen un desarrollo tecnológico controlado que beneficie a las comunidades.
3. Sostenibilidad – Un enfoque ético, a parte otras consideraciones, también considera el impacto ambiental y social a largo plazo de la IA.
Las propias instituciones europeas, reconociendo tanto la importante oportunidad como la potencial amenaza que representan las tecnologías de IA, han comenzado a interesarse cada vez más en este tema en los últimos años. Ya se han puesto en marcha numerosas y diversas iniciativas a distintos niveles, aunque, al menos inicialmente, se caracterizaron por enfoques sectoriales y se dirigieron principalmente a apoyar la investigación científica. Recientemente, a la luz de la jurisprudencia emergente, nuevas iniciativas han adoptado un enfoque más amplio y han avanzado hacia el desarrollo del primer conjunto de regulaciones para abordar los riesgos y las oportunidades inherentes al uso de estos nuevos sistemas. Desde una perspectiva estrictamente jurídica, el rápido desarrollo de estos sistemas plantea cuestiones completamente nuevas que también afectan a la protección de los derechos humanos en diversos ámbitos, como la protección de datos personales, la libertad de elección y autodeterminación de las personas, la libertad de prensa y de expresión, y la independencia de los gobiernos.
Parece más imperativo que nunca trazar una línea clara que divida lo lícito de lo ilícito, a fin de preservar la libertad individual y, al mismo tiempo, garantizar la seguridad jurídica.
Existe una necesidad clara y urgente de trazar un panorama completo de los posibles perfiles de interferencia entre el desarrollo de las tecnologías de inteligencia artificial y la protección de los derechos humanos. También es urgente examinar las diversas intervenciones institucionales para intentar reconstruir el marco regulatorio actual de la IA en toda su complejidad y comprender su dirección actual. Las tecnologías que mejoran la eficiencia, simplifican la producción y mejoran la salud son sin duda bienvenidas. Mucho menos lo son aquellas que utilizan algoritmos para evaluar ciertos aspectos de la vida cotidiana de los ciudadanos, ya que el riesgo de violaciones de derechos humanos puede ser extremadamente alto y difícil de remediar.
La constante evolución de estos sistemas — y los desarrollos impredecibles relacionados— representan obstáculos concretos para la capacidad de predecir con antelación y de forma exhaustiva los diversos posibles perfiles de interferencia con el respeto de los derechos fundamentales.
Si bien el rápido avance de la tecnología nos presenta escenarios en constante evolución y cambio, es evidente que la jurisprudencia internacional se muestra heterogénea y lenta. Está trazando un camino que deja demasiadas lagunas regulatorias. Esto, sumado al creciente uso de la automatización y la toma de decisiones algorítmica en todos los ámbitos de la vida pública y privada, podría conducir a una transformación de los conceptos de derechos humanos tal como los hemos conocido en las últimas décadas. En este sentido, también, el ejercicio del poder en este ámbito ha pasado con el tiempo de los gobiernos individuales a aquellas entidades que se posicionan por encima de ellos y manejan los hilos de las nuevas tecnologías a nivel internacional. En este panorama en rápida evolución, desde una perspectiva estrictamente regulatoria, los principales instrumentos a los que se les sigue confiando la protección de los derechos humanos a nivel europeo siguen siendo la Carta de Niza y el CEDH, además de las recientes iniciativas en el ámbito del «Convenio Marco sobre la IA y los Derechos Humanos, la Democracia y el Estado de Derecho» del Consejo de Europa. Estas herramientas, desarrolladas en contextos sociales y legales completamente diferentes, parecen incapaces de abordar los nuevos desafíos que el uso masivo de herramientas impulsadas por IA plantea con cada vez mayor intensidad y complejidad.
La historia determinará si, tras la revolución digital en curso, el sistema de protección de los derechos humanos (con todas sus limitaciones) emergerá fortalecido o, por el contrario, como se temía, debilitado.
El menoscabo de los derechos, una de las amenazas más preocupantes de esta enorme transformación trascendental, está en riesgo por diversas razones.
La más obvia es que cuanto más se automatizan los sistemas, menor es la supervisión humana disponible y mayor el riesgo de vulneraciones de los derechos fundamentales. La falta de implementación de salvaguardias y mecanismos de protección adecuados también podría dar lugar a violaciones de la ley sin recursos judiciales efectivos, buena administración, reparación legal efectiva ni juicios justos. Por lo tanto, se insta a las instituciones europeas y a las autoridades nacionales a que, en un futuro próximo, fomenten la transparencia, el debido proceso, la seguridad jurídica en general y, en particular, medidas concretas para proteger los derechos fundamentales y las garantías asociadas al uso, procesamiento y análisis de datos por parte de los sectores público y privado cuando se emplean sistemas de IA. Algunos académicos buscan redactar una nueva carta de derechos, pero, si se analiza con más detalle, las actuales pueden extenderse fácilmente al mundo tecnológico, sin grandes modificaciones, si se contextualizan adecuadamente.
La prioridad es proteger a las personas, que se encuentran en una posición de debilidad con respecto a los mecanismos gestionados desde las instancias iniciales y a los riesgos de la vigilancia masiva y el poder excesivo en manos de unos pocos.
El poder económico y político derivado del uso de sistemas de rastreo y recopilación de datos no puede prevalecer sobre la protección concreta de los derechos individuales. En lugar de listas de derechos escritas, que en la práctica están mal garantizadas, necesitamos normas claras y mecanismos eficaces de protección y control. El equilibrio regulatorio ideal será aquel que proteja a la parte más débil (el individuo) mediante valores éticos claros y definidos dentro de un marco regulatorio. Este marco no debe ser demasiado flexible (y, por lo tanto, sin demasiados vacìos) ni tan restrictivo como para perjudicar al continente europeo, que ya se encuentra tecnológicamente atrasado y en desventaja en el escenario geopolítico global.
LEYES DE LA ROBÓTICA
0. Ley Cero – Universal – Un robot no puede dañar a la humanidad ni, por inacción, permitir que la humanidad sufra daño alguno.
1. Primera Ley – Seguridad – Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño alguno, a menos que esto entre en conflicto con la Ley Cero.
2. Segunda Ley – Servicio – Un robot debe obedecer las órdenes que le dan los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Ley Cero y la Primera Ley.
3. Tercera Ley – Autopreservación – Un robot debe proteger su propia existencia, excepto cuando dicha protección y autopreservación entren en conflicto con la Ley Cero, la Primera y la Segunda Ley.
Isaac Asimov
(Manual de Robótica, 56.ª edición – 2058 d. C.)
Concebido entre 1940 y 1985
NOTAS
1. El estudio del 9 de noviembre de 2018, realizado para el Consejo de Europa, define la revolución digital en curso como la nueva revolución industrial: «La nueva revolución industrial emergente probablemente traerá innumerables beneficios a las personas y a las sociedades, pero, al igual que la revolución industrial original, también podría generar importantes efectos negativos que no se reconocieron en su desarrollo». El estudio está disponible en el siguiente enlace:
https://rm.coe.int/draft-study-of-the…/16808ef255
2. InvestAI. La Unión Europea ha lanzado la iniciativa InvestAI para movilizar 200 000 millones de euros en inversiones en inteligencia artificial en los próximos cinco años, con un fondo de 20 000 millones de euros destinado a «gigafábricas» para el desarrollo de modelos de IA, con el fin de que Europa sea competitiva frente a Estados Unidos y China. Este plan pretende fortalecer las capacidades europeas en IA a través de cinco pilares clave y fomentar la colaboración mediante el apoyo a startups, pymes e investigadores. Solicito inversiones paralelas en mecanismos para proteger a los ciudadanos y mejorar el control de quienes ostentan el poder en relación con estas innovaciones.
https://ec.europa.eu/comm…/presscorner/detail/en/ip_25_467
3.La declaración elaborada por European Digital Rights (EDRi), junto con AccessNow, Panoptykon Foundation, epicenter.works, AlgorithmWatch, European Disability Forum (EDF), Bits of Freedom, Fair Trials, PICUM y ANEC, que enumera las recomendaciones clave para orientar al Parlamento Europeo y al Consejo de la UE en la modificación del Reglamento propuesto sobre IA, está disponible en el siguiente enlace: https://edri.org/…/12/Politicalstatement-on-AI-Act.pdf
Caterina Zadra.
Estudió Marketing de Servicios en ESAN. Trabajó como voluntaria en Istituzioni del 2010 al 2014.
0 comments on “Inteligencia artificial y ética: El desafìo europeo y mundial”