PR\1224166ES.docx PE680.928v01-00
ES
Unida en la diversidadES
Parlamento Europeo
2019-2024
Comisión Especial sobre Inteligencia Artificial en la Era Digital
2020/2266(INI) 2.11.2021
PROYECTO DE INFORME
sobre la Inteligencia Artificial en la Era Digital (2020/2266(INI))
Comisión Especial sobre Inteligencia Artificial en la Era Digital
Ponente: Axel Voss
PE680.928v01-00 2/42 PR\1224166ES.docx
ES
PR_INI
ÍNDICE
Página PROPUESTA DE RESOLUCIÓN DEL PARLAMENTO EUROPEO ...3 EXPOSICIÓN DE MOTIVOS ...39
PR\1224166ES.docx 3/42 PE680.928v01-00
ES
PROPUESTA DE RESOLUCIÓN DEL PARLAMENTO EUROPEO
sobre la Inteligencia Artificial en la Era Digital (2020/2266(INI))
El Parlamento Europeo,
– Vistos los artículos 4, 26, 114, 169, 173, 179, 180, 181 y 187 del Tratado de Funcionamiento de la Unión Europea (TFUE),
– Vista la Carta de los Derechos Fundamentales de la Unión Europea,
– Vistos el Acuerdo interinstitucional, de 13 de abril de 2016, sobre la mejora de la legislación1y las directrices para la mejora de la legislación de la Comisión,
– Visto el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, y por la que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos)2,
– Visto el Reglamento (UE) 2021/694 del Parlamento Europeo y del Consejo, de 29 de abril de 2021, por el que se establece el Programa Europa Digital y por el que se deroga la Decisión (UE) 2015/22403,
– Visto el Reglamento (UE) 2021/695 del Parlamento Europeo y del Consejo, de 28 de abril de 2021, por el que se crea el Programa Marco de Investigación e Innovación
«Horizonte Europa» y se establecen sus normas de participación y difusión, y se derogan los Reglamentos (UE) n.º 1290/2013 y (UE) n.º 1291/20134,
– Vista la propuesta de Reglamento del Parlamento Europeo y del Consejo, de 21 de abril de 2021, por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la unión (COM(2021)0206),
– Visto el Reglamento (UE) 2018/1807 del Parlamento Europeo y del Consejo, de 14 de noviembre de 2018, relativo a un marco para la libre circulación de datos no personales en la Unión Europea5,
– Vista la Directiva (UE) 2019/770 del Parlamento Europeo y del Consejo, de 20 de mayo de 2019, relativa a determinados aspectos de los contratos de suministro de contenidos y servicios digitales6,
– Visto el Reglamento (UE) 2021/1173 del Consejo, de 13 de julio de 2021, por el que se
1DO L 123 de 12.5.2016, p. 1.
2DO L 119 de 4.5.2016, p. 1.
3DO L 166 de 11.5.2021, p. 1.
4DO L 170 de 12.5.2021, p. 1.
5DO L 303 de 28.11.2018, p. 59.
6DO L 136 de 22.5.2019, p. 1.
PE680.928v01-00 4/42 PR\1224166ES.docx
ES
crea la Empresa Común de Informática de Alto Rendimiento Europea y por el que se deroga el Reglamento (UE) 2018/14887,
– Vista la Comunicación de la Comisión, de 25 de abril de 2018, titulada «Inteligencia artificial para Europa» (COM(2018)0237),
– Vista la Comunicación de la Comisión, de 7 de diciembre de 2018, titulada «Plan coordinado sobre la inteligencia artificial» (COM(2018)0795),
– Vista la Comunicación de la Comisión, de 8 de abril de 2019, titulada «Generar confianza en la inteligencia artificial centrada en el ser humano» (COM(2019)0168), – Visto el Libro Blanco de la Comisión, de 19 de febrero de 2020, titulado «Inteligencia
artificial – Un enfoque europeo orientado a la excelencia y la confianza»
(COM(2020)0065),
– Vista la Comunicación de la Comisión, de 19 de febrero de 2020, titulada «Una Estrategia Europea de Datos» (COM(2020)0066),
– Vista la Comunicación de la Comisión, de 19 de febrero de 2020, titulada «Configurar el futuro digital de Europa» (COM(2020)0067),
– Vistas las Comunicaciones de la Comisión, de 10 de marzo de 2020, titulada «Un nuevo modelo de industria para Europa» (COM(2020)0102) y de 5 de mayo de 2021, titulada
«Actualización del nuevo modelo de industria de 2020: Creación de un mercado único más sólido para la recuperación de Europa» (COM(2021)0350),
– Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, titulada «Plan de Acción de Educación Digital 2021-2027 – Adaptar la educación y la formación a la era digital» (COM(2020)0624),
– Vista la Comunicación de la Comisión, de 9 de marzo de 2021, titulada «Brújula Digital 2030: el enfoque de Europa para el Decenio Digital» (COM(2021)0118),
– Visto el estudio de la Comisión, de 28 de julio de 2020, titulado «European enterprise survey on the use of technologies based on artificial intelligence» (Encuesta a empresas europeas sobre el uso de tecnologías basadas en la inteligencia artificial),
– Visto el informe de la Comisión al Parlamento Europeo, al Consejo y al Comité Económico y Social Europeo, de 19 de febrero de 2020, sobre las implicaciones en materia de seguridad y responsabilidad de la inteligencia artificial, el Internet de las cosas y la robótica (COM(2020)0064),
– Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial, de 8 de abril de 2019, titulado «Directrices éticas para una IA fiable»,
– Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial, de 8 de abril de 2019, titulado «Una definición de la inteligencia artificial: principales
capacidades y disciplinas científicas»,
7DO L 256 de 19.7.2021, p. 3.
PR\1224166ES.docx 5/42 PE680.928v01-00
ES
– Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial, de 26 de junio de 2019, titulado «Recomendaciones estratégicas y de inversión para una inteligencia artificial fiable»,
– Vista la publicación de 2019 de la Organización de las Naciones Unidas para la
Educación, la Ciencia y la Cultura titulada «I'd blush if I could: Closing gender divides in digital skills through education» (Me sonrojaría si pudiera: cerrar las brechas de género en las habilidades digitales a través de la educación),
– Visto el informe de la Agencia de los Derechos Fundamentales de la Unión Europea, de 14 de diciembre de 2020, titulado «Getting the future right — Artificial intelligence and fundamental rights» (Acertar con el futuro: inteligencia artificial y derechos
fundamentales),
– Vista la Recomendación del Consejo de la Organización de Cooperación y Desarrollo Económicos (OCDE), de 22 de mayo de 2019, sobre inteligencia artificial,
– Vistos los Principios para la IA del G-20, de 9 de junio de 2019,
– Visto el dictamen de iniciativa del Comité Económico y Social Europeo, de 31 de mayo de 2017, titulado «Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad», – Visto el informe del Grupo de expertos sobre responsabilidad y nuevas tecnologías -
Formación sobre nuevas tecnologías, de 21 de noviembre de 2019, titulado «Liability for artificial intelligence and other emerging digital technologies» (Responsabilidad civil sobre inteligencia artificial y otras tecnologías digitales emergentes),
– Vista la publicación del Comité ad hoc sobre inteligencia artificial (CAHAI) del
Consejo de Europa, de diciembre de 2020, titulada «Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial
Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law» (Hacia la regulación de los sistemas de IA: perspectivas globales sobre el desarrollo de un marco legal sobre los sistemas de inteligencia
artificial basado en las normas del Consejo de Europa sobre derechos humanos, democracia y el estado de derecho),
– Visto el documento de trabajo del Instituto Universitario Europeo, de octubre de 2020, titulado «Models of Law and Regulation for AI» (Modelos de legislación y regulación de la inteligencia artificial),
– Vistas las orientaciones políticas de la Comisión para 2019-2024, tituladas «Una Unión que se esfuerza por lograr más resultados: Mi agenda para Europa»,
– Vista su Resolución, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica8,
– Vista su Resolución, de 1 de junio de 2017, sobre la digitalización de la industria
8DO C 252 de 18.7.2018, p. 239.
PE680.928v01-00 6/42 PR\1224166ES.docx
ES
europea9,
– Vista su Resolución, de 12 de septiembre de 2018, sobre los sistemas armamentísticos autónomos10,–
– Vista su Resolución, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica11,
– Vista su Resolución de 12 de febrero de 2020 titulado «Procesos automatizados de toma de decisiones: garantizar la protección de los consumidores y la libre circulación de bienes y servicios»12,
– Vista su Resolución, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre normas de Derecho a civil sobre un régimen de responsabilidad civil en materia de inteligencia artificial13,
– Vista su Resolución, de 20 de octubre de 2020, sobre los derechos de propiedad intelectual para el desarrollo de las tecnologías relativas a la inteligencia artificial14, – Vista su Resolución, de 20 de octubre de 2020, con recomendaciones destinadas a la
Comisión sobre normas de Derecho civil sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas15,
– Vista su Resolución, de 20 de mayo de 2021, titulada «Configuración del futuro digital de Europa: eliminación de los obstáculos al funcionamiento del mercado único digital y mejora del uso de la inteligencia artificial para los consumidores europeos»16,
– Vista su Resolución, de 25 de marzo de 2021, sobre una Estrategia Europea de Datos17, – Vista su Resolución, de 19 de mayo de 2021, sobre la inteligencia artificial en los
sectores educativo, cultural y audiovisual18,
– Vista su Resolución, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales19;
– Visto el estudio de la Dirección General de Políticas Interiores de la Unión (DG IPOL), de junio de 2021, titulado «Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool» (Diplomacia de la
9DO C 307 de 30.8.2018, p. 163.
10DO C 433 de 23.12.2019, p. 86.
11DO C 449 de 23.12.2020, p. 37.
12DO C 294 de 23.7.2021, p. 14.
13DO C 404 de 6.10.2021, p. 107.
14DO C 404 de 6.10.2021, p. 129.
15DO C 404 de 6.10.2021, p. 63.
16Textos Aprobados, P9_TA(2021)0261.
17Textos Aprobados, P9_TA(2021)0098.
18Textos Aprobados, P9_TA(2021)0238.
19Textos Aprobados, P9_TA(2021)0405.
PR\1224166ES.docx 7/42 PE680.928v01-00
ES
inteligencia artificial: la gobernanza de la inteligencia artificial como nueva herramienta de política exterior de la Unión Europea),
– Visto el estudio de DG IPOL, de mayo de 2021, titulado «Challenges and limits of an open source approach to Artificial Intelligence» (Desafíos y límites de un enfoque de código abierto para la inteligencia artificial),
– Visto el estudio de DG IPOL, de mayo de 2021, titulado «Artificial Intelligence market and capital flows – AI and the financial sector at crossroads» (Mercado de la
inteligencia artificial y flujos de capital: la IA y el sector financiero en la encrucijada), – Visto el estudio de DG IPOL, de junio de 2021, titulado «Improving working conditions
using Artificial Intelligence» (Mejorar las condiciones de trabajo mediante la inteligencia artificial),
– Visto el estudio de DG IPOL, de mayo de 2021, titulado «The role of Artificial Intelligence in the European Green Deal» (El papel de la inteligencia artificial en el Pacto Verde europeo)
– Visto el estudio de DG IPOL, de julio de 2021, titulado «Artificial Intelligence in smart cities and urban mobility» (La inteligencia artificial en las ciudades inteligentes y la movilidad urbana),
– Visto el estudio de DG IPOL, de julio de 2021, titulado «Artificial Intelligence and public services» (La inteligencia artificial y los servicios públicos),
– Visto el estudio de DG IPOL, de julio de 2021, titulado «European Union data challenge» (Dificultad de obtención de datos en la Unión Europea),
– Visto el estudio de DG IPOL, de junio de 2020, titulado «Opportunities of Artificial Intelligence» (Oportunidades de la inteligencia artificial),
– Visto el estudio de los Servicios de Estudios Parlamentarios (EPRS), de septiembre de 2020, titulado «Civil liability regime for artificial intelligence – European added value assessment» (La inteligencia artificial en los sectores educativo, cultural y audiovisual:
evaluación del valor añadido europeo),
– Visto el estudio de la Unidad de Prospectiva Científica de EPRS, de diciembre de 2020, titulado «Data subjects, digital surveillance, AI and the future of work» (Interesados, vigilancia digital, inteligencia artificial y el futuro del trabajo),
– Visto el estudio de EPRS, de septiembre de 2020, titulado «European framework on ethical aspects of artificial intelligence, robotics and related technologies» (Marco europeo sobre los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas),
– Visto el estudio de EPRS, de marzo de 2020, titulado «The ethics of artificial
intelligence: Issues and initiatives» (La ética de la inteligencia artificial: cuestiones e iniciativas),
– Visto el estudio de EPRS, de junio de 2020, titulado «Artificial Intelligence: How does
PE680.928v01-00 8/42 PR\1224166ES.docx
ES
it work, why does it matter, and what can we do about it?» (Inteligencia artificial:
¿cómo funciona, por qué es importante y qué podemos hacer al respecto?),
– Visto el estudio de EPRS, de julio de 2020, titulado «Artificial Intelligence and Law enforcement – Impact on Fundamental Rights» (Inteligencia artificial y aplicación de la ley: impacto sobre los derechos fundamentales),
– Visto el estudio de EPRS, de junio de 2020, titulado «The impact of the General Data Protection Regulation (GDPR) on artificial intelligence» (El impacto del Reglamento general de protección de datos (RGPD) sobre la inteligencia artificial),
– Visto el estudio de EPRS, de abril 2020, titulado «The White Paper on Artificial Intelligence» (Libro blanco sobre inteligencia artificial),
– Visto el estudio de EPRS, de septiembre de 2021, titulado «Regulating facial recognition in the EU» (Regulación del reconocimiento facial en la UE),
– Visto el estudio de EPRS, de febrero de 2021, titulado «The future of work: Trends, challenges and potential initiatives» (El futuro del trabajo: tendencias, desafíos e iniciativas potenciales),
– Visto el estudio de EPRS, de junio de 2021, titulado «Robo-advisors» (Robo-asesores), – Visto el estudio de EPRS, de septiembre de 2021, titulado «China’s ambitions in
artificial intelligence» (Las ambiciones de China en materia de inteligencia artificial), – Visto el estudio de EPRS, de junio de 2021, titulado «What if we chose new metaphors
for artificial intelligence?» (¿Y si elegimos nuevas metáforas para la inteligencia artificial?),
– Visto el estudio de EPRS, de enero de 2018, titulado «Understanding artificial intelligence» (Comprender la inteligencia artificial),
– Visto el documento de trabajo de la Comisión Especial sobre Inteligencia Artificial en la Era Digital (AIDA), de febrero de 2021, titulado «Artificial Intelligence and Health»
(Inteligencia artificial y salud),
– Visto el documento de trabajo de AIDA, de marzo de 2021, titulado «Artificial Intelligence and the Green Deal» (Inteligencia artificial y el Pacto Verde),
– Visto el documento de trabajo de AIDA, de marzo de 2021, titulado «The External Policy Dimensions of AI» (Las dimensiones de la política exterior de la IA), – Visto el documento de trabajo de AIDA, de mayo de 2021, titulado «AI and
Competitiveness» (IA y competitividad),
– Visto el documento de trabajo de AIDA, de junio de 2021, titulado «AI and the Future of Democracy» (IA y el futuro de la democracia»),
– Visto el documento de trabajo de AIDA, de junio de 2021, titulado «AI and the Labour Market» (IA y el mercado laboral),
PR\1224166ES.docx 9/42 PE680.928v01-00
ES
– Visto el artículo 54 de su Reglamento interno,
– Visto el informe de la Comisión Especial sobre Inteligencia Artificial en la Era Digital (A9-0000/2021),
1. Introducción
1. Observa que el mundo está al borde de la cuarta revolución industrial; señala que, en comparación con las tres olas anteriores, iniciadas por la introducción del vapor, la electricidad y luego los ordenadores, la cuarta ola extrae su energía de la abundancia de datos combinada con potentes algoritmos; destaca que la revolución digital actual se caracteriza por su escala sin precedentes, su rápida convergencia y el enorme impacto de los nuevos avances tecnológicos en los Estados, las economías y las sociedades;
2. Observa que la revolución digital ha desencadenado al mismo tiempo una carrera tecnológica mundial, en la que la soberanía digital se considera un requisito previo para ser una gran potencia tanto en términos políticos como económicos; Destaca la
creciente concienciación por parte de los responsables de la toma de decisiones de que las tecnologías emergentes podrían hacer que el poder mundial se desplazase fuera del mundo occidental;
3. Señala que Europa, que durante siglos fijó las normas internacionales, dominó el progreso tecnológico y lideró la fabricación y el despliegue de alta tecnología, se ha quedado atrás en una nueva economía en la que «el ganador se lo lleva todo» o de
«superestrellas»; subraya el riesgo de que los valores europeos sean sustituidos a escala mundial, nuestras empresas queden marginadas y nuestro nivel de vida se reduzca de manera drástica;
4. Pone de relieve, en primer lugar, que las herramientas digitales se están convirtiendo cada vez más en un instrumento de manipulación en manos de estados autoritarios y sus representantes, utilizadas para desencadenar un choque entre sistemas políticos; explica que el espionaje digital, la guerra a baja escala y las campañas de desinformación se despliegan con el fin de plantear una amenaza existencial a nuestras sociedades democráticas y cuestionar el modo de vida europeo;
5. Subraya, en segundo lugar, que la UE no consigue comercializar sus innovaciones tecnológicas pioneras, lo que permite a las empresas no europeas de rápido crecimiento hacerse con nuestras mejores ideas, talento y empresas; señala que, como resultado, solo ocho de las 200 principales empresas digitales actuales tienen su domicilio en la UE, mientras que nuestro crecimiento económico no deja de disminuir; Observa que los sistemas de bienestar social más generosos del mundo y los elevados salarios en Europa dependen económicamente de que compitamos con el resto del mundo;
6. Advierte que, como consecuencia de estas y otras amenazas existenciales para nuestra democracia y prosperidad, la carrera tecnológica mundial se ha convertido en una lucha por la supervivencia para la UE; destaca que si la UE no actúa con rapidez y valentía, acabará convirtiéndose en una colonia digital de China, EE. UU. y otros estados y correrá el riesgo de perder su estabilidad política, su seguridad social y sus libertades individuales;
7. Sostiene que la inteligencia artificial (IA) es la tecnología emergente clave en el marco
PE680.928v01-00 10/42 PR\1224166ES.docx
ES
de la cuarta revolución industrial; observa que la IA es el centro de control de la nueva capa de datos que nos rodea y que puede considerarse el quinto elemento después del aire, la tierra, el agua y el fuego; afirma que para 2030 se espera que la IA contribuya con más de 11 000 millones de euros a la economía mundial, una cantidad que casi iguala el PIB de China en 2020;
8. Explica que, por tanto, existe una carrera por el liderazgo de la IA dentro de la carrera tecnológica mundial; señala que los países que dominen la IA obtendrán ventajas clave;
pone de relieve, sin embargo, que la IA no es una tecnología con poderes mágicos, sino una herramienta eficaz a la que podemos dar un buen uso; afirma que el aumento de la IA tampoco requiere que reescribamos completamente nuestra legislación para
contrarrestar los nuevos tipos de amenazas o para evitar que las máquinas inteligentes tomen el control; cree que, aunque la IA está remodelando el mundo tal y como lo conocemos, la realidad es mucho menos dramática y la mayoría de los avances en el campo de la IA son positivos;
2. Posibles oportunidades, riesgos y obstáculos en el uso de la IA: seis estudios de caso examinados por la Comisión AIDA
9. Explica que la IA es en realidad un término paraguas que abarca una amplia gama de tecnologías antiguas y nuevas que a menudo tienen poco más en común que guiarse por un determinado conjunto de objetivos definidos por el ser humano y tener cierto grado de autonomía en sus acciones; señala que, si bien algunas de estas tecnologías ya se utilizan de forma generalizada, otras aún están en fase de desarrollo o incluso son solo conceptos especulativos que pueden existir o no en el futuro;
10. Señala que hay una diferencia significativa entre la IA simbólica, el principal enfoque de la IA desde la década de 1950 hasta la de 1990, y la IA basada en datos y aprendizaje automático, que ha dominado desde la década de 2000; aclara que durante la primera ola, la IA se desarrolló codificando los conocimientos y la experiencia de los expertos en un conjunto de reglas que luego ejecutaba una máquina;
11. Observa que en la segunda ola, los procesos de aprendizaje automatizados de algoritmos basados en el procesamiento de grandes cantidades de datos de alta calidad, la
capacidad de reunir datos recibidos de múltiples radares, lidares y cámaras para formar una única imagen del entorno, y la identificación de patrones convirtieron a los sistemas de IA en sistemas más complejos, autónomos y opacos; destaca que la IA actual puede clasificarse en muchos subcampos y técnicas diferentes, por lo que el aprendizaje profundo es, por ejemplo, un subcampo del aprendizaje automático, que a su vez es un subcampo de la IA;
12. Observa que, aunque la IA actual se ha vuelto mucho más potente que la simbólica, todavía puede resolver tareas en nichos específicos del dominio únicamente, como el ajedrez o el reconocimiento facial, y no comprende las acciones que realiza; señala que por ello se denomina IA «estrecha» o «débil» y que todavía no es más que una
herramienta que ofrece recomendaciones y predicciones; explica que los vehículos autónomos funcionan, por ejemplo, mediante una combinación de diversos sistemas de IA monotarea que, en conjunto, son capaces de proporcionar un mapa tridimensional del entorno del vehículo para que su sistema operativo pueda tomar las decisiones adecuadas;
PR\1224166ES.docx 11/42 PE680.928v01-00
ES
13. Pone de relieve que muchos temores ligados a la IA se basan en conceptos hipotéticos como la IA general, la superinteligencia artificial y la singularidad, que podrían, en teoría, provocar un cambio de poder de los seres humanos a la IA y crear máquinas que podrían incluso liberarse del control humano; destaca, sin embargo, que existen
importantes dudas sobre si esta IA especulativa puede incluso alcanzarse con nuestras tecnologías y leyes científicas;
14. Subraya que, por el contrario, la inmensa mayoría de los sistemas de IA que se utilizan actualmente están exentos de riesgos en su totalidad o casi en su totalidad; se refiere, por ejemplo, a traducciones automáticas, «máquinas Eureka», máquinas de juego y robots que ejecutan procesos de fabricación repetitivos; llega a la conclusión de que solo un número muy reducido de casos de uso puede calificarse de arriesgado y que solo esos casos requieren medidas reglamentarias y salvaguardias eficaces;
15. Considera que el debate público debería centrarse más en el enorme potencial de la IA;
cree que la IA ofrece a la humanidad la oportunidad única de mejorar casi todos los ámbitos de nuestra vida, desde la lucha contra los desafíos sociales globales, como el cambio climático, las pandemias y la hambruna, hasta la mejora de la calidad de vida a través de la medicina personalizada, los programas de fitness y la vida asistida;
16. Explica que el presente informe aborda en detalle seis estudios de caso de IA, que esbozan las oportunidades que ofrece la IA en el sector respectivo, los riesgos que es necesario abordar y los obstáculos que actualmente nos impiden aprovechar plenamente los beneficios de la IA; pone de relieve que los estudios de caso representan algunos de los más importantes casos de uso de la IA y, al mismo tiempo, reflejan los principales temas de las audiencias públicas celebradas por la Comisión AIDA durante su mandato, a saber, la salud, el Pacto Verde, la política exterior y la seguridad, la competitividad, el futuro de la democracia y el mercado laboral;
a) La IA y la salud
17. Destaca que la IA puede aportar soluciones en el sector sanitario que podrían salvar millones de vidas, mejorar nuestro nivel de vida y aportar una ventaja competitiva al sector europeo de las TIC;
18. Subraya que la IA ya se utiliza para detectar enfermedades y anomalías en una fase temprana y con mayor precisión mediante el reconocimiento de patrones y el procesamiento de imágenes en tiempo real, acelerando así el diagnóstico y el tratamiento y reduciendo las biopsias innecesarias;
19. Pone de relieve que la IA tiene el potencial de acelerar el desarrollo de nuevos medicamentos, tratamientos y vacunas a un menor coste, al tiempo que mejora la calidad y la seguridad general del proceso de fabricación; considera que la IA puede ayudar a predecir los resultados y las respuestas a los tratamientos con niveles de precisión cada vez mayores cuando se basa en datos de alta calidad, lo que aumenta la eficacia de la atención preventiva;
20. Subraya que la IA tiene el potencial de adaptar los tratamientos y el desarrollo de medicamentos a las necesidades específicas de los pacientes y mejorar el compromiso con las partes interesadas y los participantes en el sistema sanitario; considera que la IA y el acceso a los conjuntos de datos aumentan el potencial de los profesionales de la
PE680.928v01-00 12/42 PR\1224166ES.docx
ES
salud para comprender mejor los patrones y los síntomas de sus pacientes y, por lo tanto, proporcionar mejor información, orientación y apoyo;
21. Considera que la lucha contra la COVID-19 ha acelerado la investigación y el
despliegue de nuevas tecnologías, en particular las aplicaciones de la IA, en la búsqueda de una mejor detección de los casos, y ha intensificado la necesidad de que el sector y la investigación financiada con fondos públicos sean capaces de desplegar la IA para reforzar el seguimiento y la modelización de la propagación de futuras pandemias, sin limitaciones excesivas de la libertad de movimientos, la vulneración de los principios de protección de datos o el riesgo de establecer regímenes de vigilancia excesivos;
22. Pone de relieve el potencial de los sistemas de IA para aliviar los sistemas sanitarios, y especialmente el personal médico, apoyando tareas rutinarias como el transporte de pacientes y el recordatorio de su medicación, y para remediar los retos que plantea el rápido envejecimiento de la población;
23. Destaca que las aplicaciones de salud para consumidores basadas en la IA pueden facilitar el seguimiento del estado de salud de una persona, aportar datos que pueden aplicarse a cuestiones de triaje temprano y fomentar un comportamiento saludable, reduciendo así la necesidad de consultar con un profesional sanitario;
24. Destaca que la IA en el sector de la salud depende especialmente de la existencia de grandes cantidades de datos personales, el intercambio de datos, la accesibilidad de los datos y la interoperabilidad de los mismos para aprovechar todo el potencial de la IA y la salud, algo que actualmente no existe; destaca la necesidad de luchar contra la desconfianza y de educar e informar mejor a los ciudadanos sobre los beneficios de la IA en el ámbito de la salud;
25. Destaca que las medidas legales adicionales, las limitaciones de tiempo y finalidad introducidas por el RGPD y las diferentes interpretaciones en los Estados miembros se han traducido en inseguridad jurídica y falta de cooperación en el sector sanitario;
subraya que las obligaciones de consentimiento específico dificultan el tratamiento de los datos médicos utilizados para realizar análisis y estudios posteriores; destaca que esto provoca largos retrasos en los descubrimientos científicos y una importante carga burocrática en la investigación sanitaria20;
26. Subraya que la toma de decisiones automática en las aplicaciones sanitarias puede entrañar riesgos para el bienestar de los pacientes, aunque la IA ya obtiene mejores resultados diagnósticos que los médicos en varios casos, como el cáncer de mama21; considera que los actuales marcos de responsabilidad no ofrecen suficiente seguridad jurídica sobre quién es responsable en caso de diagnóstico erróneo a través de la IA, por ejemplo;
b) La IA y el Pacto Verde
27. Pone de relieve que las aplicaciones de IA pueden aportar beneficios medioambientales y económicos y reforzar las capacidades de predicción que contribuyen a la lucha contra el cambio climático, al cumplimiento de los Objetivos de Desarrollo Sostenible (ODS) y
20https://www.feam.eu/wp-content/uploads/International-Health-Data-Transfer_2021_web.pdf
21https://www.nature.com/articles/s41586-019-1799-6
PR\1224166ES.docx 13/42 PE680.928v01-00
ES
a la consecución de nuestra meta de convertirnos en el primer continente neutro desde el punto de vista climático; considera que el uso de la IA tiene el potencial de reducir las emisiones mundiales de gases de efecto invernadero hasta en un 4 % para 203022; subraya que los propios sistemas de IA deben diseñarse de forma sostenible para reducir el uso de recursos y el consumo de energía, limitando así los riesgos para el medio ambiente; considera que se ha estimado que las tecnologías de las TIC son capaces de reducir 10 veces más las emisiones de gases de efecto invernadero que su propia huella23;
28. Muestra preocupación porque solo seis Estados miembros hayan incluido una especial atención a las aplicaciones de la IA en sus esfuerzos por cumplir los objetivos del Pacto Verde; considera que la IA producirá información relevante para la planificación medioambiental, la toma de decisiones y la gestión y el seguimiento del progreso de las políticas medioambientales, por ejemplo, para un aire más limpio, donde las
aplicaciones de IA pueden controlar la contaminación y advertir de los peligros; pone de relieve que la IA y las soluciones digitales tienen el potencial de generalizar las
soluciones de eficiencia de recursos que, de otro modo, solo se aplicarían en una empresa o sector;
29. Hace hincapié en la importancia de la IA en el desarrollo de ciudades y pueblos
inteligentes para mejorar la resiliencia tecnológica de las infraestructuras, aprovechando los puntos fuertes y las oportunidades locales, como el transporte público, la asistencia en caso de emergencia, la gestión de residuos, la planificación urbana, la energía inteligente y la optimización de recursos; destaca que las soluciones basadas en la IA pueden ayudar a optimizar los procesos de arquitectura, construcción e ingeniería para reducir las emisiones, el tiempo, los costes y los residuos de la construcción; considera que esto ya es una realidad en países como China y Malasia, donde los sistemas de IA urbana a gran escala gestionan los sistemas de transporte, energía y seguridad de varias ciudades;
30. Destaca que la transición energética no tendrá lugar sin la digitalización, que se logrará en gran medida a través de la IA; subraya que la IA puede controlar, optimizar y reducir el consumo y la producción de energía, así como apoyar la integración de las energías renovables en las redes eléctricas existentes;
31. Pone de relieve que la creciente complejidad de un sistema de transición energética, con el aumento de la volatilidad de la generación renovable y los cambios en la gestión de la carga, hace necesario un mayor control automatizado para la seguridad del suministro energético; destaca que los beneficios de la IA para la seguridad de los suministros, especialmente en la explotación, la supervisión, el mantenimiento y el control de las redes de agua, gas y electricidad, deben tenerse en cuenta en la regulación de estas redes;
32. Considera que la IA y otras soluciones digitales para la movilidad y el transporte permiten reducir los flujos de tráfico y mejorar la seguridad vial, aumentando en gran medida la eficiencia del acceso a los sistemas de transporte a través de, por ejemplo, vehículos autónomos y la planificación optimizada del transporte público, reduciendo
22https://www.europarl.europa.eu/RegData/etudes/STUD/2020/652713/IPOL_STU(2020)652713_EN.pdf
23https://www.europarl.europa.eu/cmsdata/231743/Working%20Paper%20-
%20AIDA%20Hearing%20on%20AI%20and%20Green%20Deal.pdf
PE680.928v01-00 14/42 PR\1224166ES.docx
ES
así la huella medioambiental del sector del transporte, las duraciones de los viajes y los costes;
33. Cree que la IA puede tener un papel transformador en el sector agrícola a la hora de abordar los problemas de seguridad alimentaria, permitiendo la aparición de nuevos métodos de recolección y predicción de las cosechas, enfoques novedosos para el procesamiento de alimentos y su venta al por menor, la gestión de los recursos agrícolas y la eficiencia de los insumos, así como la mejora de la gestión de la tierra y la
optimización de las cadenas de suministro de alimentos; destaca que la agricultura es un sector clave en el que la IA puede ayudar a reducir las emisiones y el uso de pesticidas, fertilizantes, productos químicos y agua; destaca además que la IA puede contribuir a la restauración de la biodiversidad y a la prevención de la deforestación mediante la vigilancia de las especies en peligro y el seguimiento de las actividades de deforestación a través de los bosques inteligentes;
34. Destaca que la IA contribuye a una economía circular mediante el aumento del
rendimiento y la calidad de la producción, la reducción de los costes de mantenimiento, el mejor uso y el abastecimiento ético de materias primas y la reducción de los residuos;
pone de relieve que la IA tiene el potencial de proporcionar automáticamente a las empresas una visión detallada de sus emisiones, incluidas las cadenas de valor, y prever las emisiones futuras, ayudando así a ajustar y alcanzar los objetivos individuales de emisiones; subraya que las herramientas digitales ayudan a las empresas a dar los pasos necesarios hacia una conducta más sostenible, especialmente a las pequeñas y medianas empresas que, de otro modo, no disponen de los recursos necesarios para ello;
35. Destaca que se necesitan más datos medioambientales para obtener más información e inducir más progresos mediante soluciones de IA; subraya que el uso de la IA para conectar sistemáticamente los datos sobre las emisiones de CO2con los datos sobre los patrones de producción, el comportamiento de los consumidores, las cadenas de suministro y las rutas logísticas podría garantizar la detección de las actividades que tienen un impacto positivo o negativo;
c) La política exterior y la dimensión de seguridad de la IA
36. Le preocupa que no parezca probable que la comunidad mundial llegue a un acuerdo sobre las normas mínimas para el uso responsable de la IA, ya que lo que está en juego, en particular para las naciones más poderosas, es demasiado elevado; Cree, sin
embargo, por principio, en el potencial de las naciones democráticas para dar forma conjunta al debate internacional, para trabajar juntos hacia ciertas normas mínimas, y así promover el multilateralismo, la interoperabilidad y el intercambio de datos en el panorama internacional;
37. Observa que los ciudadanos chinos han asumido posiciones de liderazgo en la
Organización Internacional de Normalización, la Comisión Electrotécnica Internacional y la Unión Internacional de Telecomunicaciones, las tres organizaciones de
normalización más grandes y mejor establecidas del mundo, al tiempo que el Gobierno chino también ha firmado normas y acuerdos de cooperación con otros 52 países a través de su iniciativa de la Franja y la Ruta; advierte que, dado que varias de las normas que promueven, incluidas las relativas a las tecnologías de IA y, en particular, las relacionadas con la vigilancia gubernamental y las libertades individuales, no están
PR\1224166ES.docx 15/42 PE680.928v01-00
ES
en consonancia con los valores de la UE, la ofensiva normativa china supone un desafío geopolítico crucial para la UE, al tiempo que otorga a China una ventaja de primer orden en términos económicos;
38. Destaca que las tecnologías de IA, utilizadas en los centros de mando militares o en las instalaciones de lanzamiento de misiles, podrían intensificar un conflicto recíproco automatizado antes de que los humanos tengan la oportunidad de detectar lo que está ocurriendo, comprender las causas e intervenir; está de acuerdo con los estudios que advierten de que el impacto de las tecnologías de IA en la guerra podría rivalizar con el de las armas nucleares24;
39. Observa que el uso de sistemas de IA en desarrollos relacionados con la defensa se considera un elemento determinante en las operaciones militares; afirma que la principal ventaja reside en la posibilidad de participar en conflictos armados con un menor riesgo de daños físicos para el propio personal militar y como medio para reducir el tiempo de respuesta militar;
40. Muestra preocupación por la investigación militar y los desarrollos tecnológicos relacionados con sistemas de armas ofensivas letales sin supervisión humana que se llevan a cabo en países como Rusia y China sin tener en cuenta el riesgo para la humanidad; observa que estos sistemas de armas ofensivas letales ya se utilizan en los conflictos militares; advierte de que incluso los grupos armados no estatales pronto podrían equipar drones con software de IA para la navegación y el reconocimiento facial y convertirlos así en armas ofensivas letales y baratas, capaces de actuar totalmente sin supervisión humana;
41. Señala que la tecnología de IA también puede utilizarse como medio para diversas formas de guerra híbrida; especifica que, por ejemplo, podría movilizarse para
desencadenar una guerra de información, utilizando cuentas falsas en las redes sociales, para convertir en arma la interdependencia, recopilando información valiosa o negando el acceso a la red a los adversarios, o para crear perturbaciones en los sistemas
económicos y financieros de otros países;
42. Ilustra que las tecnologías de IA también podrían ayudar a los delincuentes
simplificando el uso de ciberataques muy sofisticados, como, por ejemplo, a través de malware impulsado por IA, robo de identidad utilizando datos biométricos o IA adversa que hace que otros sistemas de IA malinterpreten los datos introducidos; señala, en particular, el aumento de las ultrafalsificaciones, que ya hacen dudar de la autenticidad de todos los contenidos digitales, incluidos los vídeos auténticos; advierte que las ultrafalsificaciones podrían contribuir a un amplio clima de desconfianza general de la IA, así como a una mayor polarización sociopolítica en nuestras sociedades;
43. Explica que el Internet de las cosas, así como el hecho de que los sistemas de IA hoy en día dirigen una cantidad significativa de infraestructuras críticas clave, como las redes de energía, la cadena alimentaria, la red de cajeros automáticos y la logística de los hospitales, ha creado una amenaza masiva de ciberseguridad de la IA; predice que los Estados se centrarán cada vez más en la protección de su logística informática y la prestación de cuidados como un activo interno, lo que a su vez podría crear la tentación
24https://www.europarl.europa.eu/RegData/etudes/STUD/2020/634452/EPRS_STU(2020)634452_EN.pdf
PE680.928v01-00 16/42 PR\1224166ES.docx
ES
de invocar la «autarquía de la IA»;
44. Explica que el alto nivel de precisión que puede alcanzar la IA puede entrañar riesgos para la seguridad, ya que puede inducir a los humanos a depositar tal confianza en la IA como para confiar en ella más que en su propio juicio; señala que los experimentos han demostrado que esto puede elevar el nivel de autonomía de la IA más allá del papel de apoyo para el que fue diseñada originalmente y significa que los humanos pierden oportunidades de ganar experiencia y perfeccionar sus habilidades y conocimientos de los sistemas de IA; observa que este tipo de uso excesivo de la IA se ha citado, por ejemplo, como un factor importante en varios accidentes aéreos25;
45. Pone de relieve, sin embargo, que las características principales de la IA también hacen que la tecnología sea una herramienta ideal para mejorar la seguridad; especifica que puede utilizarse para sintetizar grandes cantidades de datos, realizar análisis del
comportamiento de las actividades en la red y detectar patrones específicos; destaca que estos elementos permitirían predecir y evaluar mejor el nivel de amenaza, agilizar los procesos de toma de decisiones, mejorar la capacidad de reacción y asegurar más eficazmente los dispositivos terminales;
46. Subraya, en particular, el potencial inherente a permitir a las fuerzas de seguridad evaluar y predecir de forma proactiva el uso indebido de la IA, así como contrarrestarlo eficazmente mediante el uso de las propias tecnologías de IA; subraya que estas
actividades de las fuerzas de seguridad respaldadas por la IA requieren, sin embargo, normas claras de transparencia, empleados altamente cualificados y acceso a grandes cantidades de datos relevantes;
d) IA y competitividad
47. Señala que, para 2030, los productos y servicios a lo largo de la cadena de valor estarán interconectados e impulsados por la tecnología, encontrando a la IA y la robótica en el centro de la mayoría de los procesos de fabricación y modelos de negocio; afirma que esta transformación tecnológica requerirá, sin embargo, una enorme inversión pública y privada para digitalizar todos los sectores de la economía, actualizar la infraestructura digital y readaptar las capacidades de los trabajadores;
48. Observa que los actuales niveles de financiación no son más que una gota de agua en el océano, razón por la cual la mayoría de las industrias europeas se están quedando atrás y están lejos de explotar el potencial competitivo de las tecnologías de IA; destaca, en este sentido, el hecho de que la UE no cuenta con un ecosistema de IA único que pueda compararse con Silicon Valley, Boston, Toronto, Tel Aviv o Seúl;
49. Subraya que la IA es un factor de cambio para la competitividad de la industria de la UE, ya que aumenta la productividad, acelera la innovación, hace que los procesos de fabricación y los productos finales sean más seguros y más sostenibles, y podría ayudar a aumentar la resiliencia de las cadenas de suministro europeas;
50. Señala al creciente riesgo geopolítico de que las cadenas de suministro bien establecidas se vean repentinamente interrumpidas por la disociación económica; destaca que
mediante el uso de la IA, la UE podría identificar mucho antes los problemas en las
25https://www.europarl.europa.eu/RegData/etudes/STUD/2020/634452/EPRS_STU(2020)634452_EN.pdf
PR\1224166ES.docx 17/42 PE680.928v01-00
ES
cadenas de valor y realizar un mantenimiento predictivo, garantizar la diversificación de los proveedores o incluso devolver a la UE aspectos de la producción deslocalizada;
51. Observa que las empresas que han iniciado la disrupción digital se han visto a menudo recompensadas con ganancias desproporcionadas de cuota de mercado, mientras que los beneficios y el crecimiento de los ingresos de las empresas tradicionales se han visto sometidos a una fuerte presión; señala que estudios recientes indican que es probable que esta pauta se repita con mayor intensidad, ya que las empresas que adoptan la IA tienden a mejorar enormemente su ventaja competitiva en comparación con las que no la adoptan; destaca que el resultado podría ser una economía de dos niveles con un gran número de quiebras;
52. Hace hincapié en que esta perspectiva es especialmente preocupante, ya que las mayores empresas tecnológicas dominantes probablemente también dominarán las tecnologías de IA y podrían volver a convertirse en guardianes de los mercados, los clientes y la innovación, al tiempo que capturan la mayor parte del valor que se genera;
destaca que, dado que los datos que impulsan el sector de la IA son recogidos en su inmensa mayoría por las mismas grandes empresas tecnológicas, que ofrecen a los usuarios acceso a los servicios a cambio de datos y exposición a la publicidad, su actual dominio del mercado podría, en sí mismo, convertirse en un motor de mayor dominio del mercado;
53. Subraya que las pymes y las empresas emergentes están desempeñando un papel
fundamental en la introducción de las tecnologías de IA en la UE, ya que representan el grueso de todas las empresas y son una fuente de innovación fundamental; observa, sin embargo, que las prometedoras ideas y proyectos piloto de IA suelen ser demasiado lentos para su expansión y finalmente no se transforman en proyectos y actores impactantes a gran escala, o, cuando lo hacen, son adquiridos por grandes empresas tecnológicas;
54. Destaca que el uso intensivo de algoritmos también podría crear problemas específicos de la IA totalmente nuevos dentro del mercado único; observa que las autoridades antimonopolio podrían, por ejemplo, tener dificultades para demostrar la colusión de precios entre los sistemas de establecimiento de precios basados en la IA, mientras que los pocos proveedores de IA que ya están participando en el comercio de acciones podrían presentar un riesgo sistémico para los mercados financieros al provocar conjuntamente movimientos extremos del mercado o incluso hundimientos;
55. Observa que la mayoría de las empresas de IA dentro de la UE se enfrentan a la inseguridad jurídica con respecto a la forma en que pueden desarrollar sus productos y servicios de forma garantizada, ya que el mercado único digital carece de normas y estándares de IA establecidos; señala, además, que unas normas de seguridad y unas cargas burocráticas demasiado cautelosas en un momento en el que aún no es previsible el éxito de una nueva tecnología de IA se traducen en casos de negocio no lucrativos, ya que las inversiones iniciales necesarias se consideran demasiado arriesgadas;
56. Señala que la creciente consolidación de los ámbitos digital y físico, así como de los procesos y servicios, hace cada vez más difícil que las empresas de IA mantengan estándares de calidad; concluye que la transparencia y la fiabilidad decidirán en el futuro si un producto o servicio es finalmente aceptado por el mercado;
PE680.928v01-00 18/42 PR\1224166ES.docx
ES
57. Considera que la legislación de la UE en materia de propiedad intelectual no siempre ofrece un marco claro y predecible que permita a las empresas europeas, y en particular a las emergentes, asegurar de forma adecuada y sencilla la protección de la propiedad intelectual; señala que a las empresas de la UE a menudo les resulta más fácil proteger sus derechos de propiedad intelectual sobre la IA en Estados Unidos;
58. Afirma que la analítica de datos, así como el acceso, el intercambio y la reutilización de datos no personales, son ya esenciales para muchos productos y servicios basados en datos hoy en día, pero serán absolutamente cruciales para el desarrollo y el despliegue de los próximos sistemas de IA; destaca, sin embargo, que la mayor parte de los datos no personales generados en la UE hasta ahora no se utilizan, en tanto que aún no existe un mercado único de datos;
59. Señala también las incertidumbres jurídicas que persisten en el ámbito del intercambio y tratamiento de datos mixtos y personales; especifica que las interpretaciones
contradictorias de las autoridades nacionales de protección de datos, así como la falta de orientaciones adecuadas sobre los datos mixtos y las técnicas de despersonalización, han resultado problemáticas para los desarrolladores de IA; señala, además, que los sistemas autónomos de IA también están en desacuerdo con los deberes de información establecidos en el RGPD, así como con algunos de sus principios, como la limitación de la finalidad, la minimización de los datos y las restricciones al uso secundario;
e) La IA y el futuro de la democracia
60. Afirma que los avances técnicos en el campo de la IA son muy rápidos y dinámicos, lo que dificulta que los representantes electos tengan suficientes conocimientos técnicos sobre el funcionamiento de las nuevas aplicaciones de la IA y sobre los posibles resultados que podrían producir dichas aplicaciones;
61. Advierte de que los ciclos legislativos no suelen estar sincronizados con el ritmo del progreso tecnológico, mientras que muchos responsables políticos tienden a defender la prohibición categórica de determinadas tecnologías o casos de uso de la IA sin un análisis previo suficiente de la proporcionalidad y la necesidad de una prohibición total;
muestra preocupación de que este enfoque político hacia la IA pueda, por un lado, conducir a un exceso de regulación que obstaculice la innovación y la competitividad de las empresas de la UE y, por otro, sea incluso contraproducente en términos de
salvaguardia de la seguridad y los derechos fundamentales;
62. A este respecto, considera que el uso de la IA para obtener datos biométricos, mediante el análisis de las huellas dactilares o la cadencia de escritura, o el uso del
reconocimiento de voz o facial, puede ser muy apropiado y beneficioso tanto para el individuo como para el público en general; se refiere, por ejemplo, a actos como la exploración de bases de datos de sospechosos de delitos, la identificación de víctimas de la trata de seres humanos, la prevención de que los niños vean contenidos de
clasificación X, la penalización del estacionamiento ilegal y la prevención del fraude a la seguridad social;
63. Reconoce al mismo tiempo que las mismas tecnologías de IA utilizadas para abordar problemas sociales fundamentales y alcanzar importantes objetivos de política pública podrían también plantear cuestiones éticas y jurídicas cruciales; señala que ya se han documentado casos que han dado lugar a graves irregularidades en la UE; señala que, en
PR\1224166ES.docx 19/42 PE680.928v01-00
ES
la práctica, los Estados miembros dependen en gran medida de la policía para la recogida de datos, pero también de entidades privadas cuyas actividades a menudo no están supervisadas y que venden regularmente los datos recogidos, altamente sensibles, a terceros; aclara que esta práctica es contraria a los valores europeos y socava el alto nivel de los derechos fundamentales en la UE, en particular el derecho a la intimidad;
64. Destaca que muchos regímenes autoritarios aplican sistemas de IA para controlar, espiar, vigilar y clasificar a sus ciudadanos; considera que cualquier forma de marcaje normativo ciudadano sin restricción a gran escala por parte de las autoridades públicas, especialmente en el ámbito de las fuerzas de seguridad del estado y el poder judicial, conduce a la pérdida de autonomía y no está en consonancia con los valores europeos;
pone de relieve casos anteriores de empresas de la UE que han vendido a regímenes autoritarios de países no pertenecientes a la UE sistemas biométricos cuyo uso sería ilegal en la UE;
65. Observa que las plataformas tecnológicas dominantes hoy en día no solo tienen un importante control sobre el acceso a la información y su distribución, sino que también utilizan tecnologías de IA para obtener más información sobre la identidad de una persona y el conocimiento de su historial de decisiones que la que poseen las autoridades públicas o asesores personales cercanos, como médicos, abogados o banqueros; destaca que esta evolución pone en tela de juicio la soberanía de nuestros estados nacionales, los fundamentos de nuestros sistemas democráticos y la
salvaguardia de nuestros derechos fundamentales;
66. Señala que las plataformas digitales también se utilizan para difundir desinformación, actuando como redes de propaganda, troleo y acoso con el objetivo de socavar los procesos electorales; destaca que el aprendizaje automático permite, en particular, el uso selectivo de datos personales para crear mensajes personalizados y convincentes para los posibles votantes, que a menudo desconocen por completo que el contenido ha sido creado o manipulado mediante el uso de la IA;
67. Subraya que la IA también podría utilizarse para reducir las actividades
antidemocráticas y poco éticas en las plataformas y como medio para detener la distribución de noticias falsas señala que el uso efectivo de la IA para este fin se ha visto impedido hasta ahora por las fuertes divergencias en las definiciones de discurso de odio entre los Estados miembros y la falta de consenso sobre cómo aprovechar la IA para filtrar eficazmente los contenidos ilegales y perjudiciales explica que también es problemático que el lenguaje divisivo conduzca a una mayor participación de los usuarios, por lo que su eliminación entraría en conflicto directo con el modelo de negocio de la plataforma, basado en maximizar la participación de los usuarios;
68. Destaca que el sesgo en los sistemas de IA se produce a menudo debido a la falta de datos de entrenamiento diversos y de alta calidad, por ejemplo, cuando se utilizan conjuntos de datos que no cubren suficientemente los grupos discriminados, o cuando la definición de la tarea o el establecimiento de los propios requisitos estaban sesgados;
señala que el sesgo también puede producirse a causa de un volumen limitado de datos de entrenamiento, que puede ser consecuencia de disposiciones en materia de
protección de datos demasiado estrictas, o cuando un desarrollador de IA sesgado ha comprometido el algoritmo; señala que algunos sesgos en forma de diferenciación razonada son creados también, por otra parte, de manera intencionada para mejorar el
PE680.928v01-00 20/42 PR\1224166ES.docx
ES
rendimiento de aprendizaje de la IA en determinadas circunstancias;
69. Plantea la cuestión de si ciertos sesgos pueden resolverse utilizando conjuntos de datos más diversos, dados los sesgos estructurales presentes en nuestra sociedad; especifica en este sentido que los algoritmos aprenden a ser tan discriminatorios como la sociedad que observan y luego sugieren decisiones que son inherentemente discriminatorias, lo que de nuevo contribuye a exacerbar la discriminación dentro de la sociedad; concluye que, por tanto, no existe un algoritmo completamente imparcial y objetivo;
f) La IA y el mercado laboral
70. Considera que la adopción de la IA, si se combina con la infraestructura de apoyo y la formación necesarias, puede aumentar sustancialmente la productividad, la innovación, el crecimiento y la creación de empleo, con expectativas de que la productividad laboral aumente entre un 11 y un 37 %26para 2035;
71. Destaca que, aunque la IA puede sustituir algunas tareas, incluidas las mundanas, las que requieren mucha mano de obra o las peligrosas, creará nuevos empleos de mayor valor añadido; destaca que la IA está sustituyendo o complementando a los humanos en un subconjunto de tareas, pero que aún no está teniendo consecuencias agregadas
detectables en el mercado laboral27; destaca, sin embargo, la posibilidad de que aumente la desigualdad de renta si la IA aumenta las ocupaciones de alta cualificación y
sustituye las de baja cualificación, y que hay que prepararse para esos posibles efectos;
72. Destaca que la implementación de la IA también representa una oportunidad para un cambio cultural significativo dentro de las organizaciones, incluida la mejora de la seguridad en el lugar de trabajo, un mejor equilibrio entre la vida laboral y personal y una formación y orientación más eficaces; opina que las aplicaciones de IA que empoderan al ser humano también podrían crear nuevas oportunidades de trabajo, en particular para aquellos que, debido a restricciones naturales como discapacidades o circunstancias de vida, estaban inicialmente sujetos a trabajos menos cualificados;
73. Muestra preocupación por la vigilancia impulsada por la IA en el lugar de trabajo y en el entorno del teletrabajo, así como en el entorno escolar, a la luz del derecho
fundamental a la intimidad, a la protección de datos y a la dignidad humana del trabajador, así como de los derechos fundamentales de los niños;
74. Considera que la adaptación de la mano de obra en términos de educación y reciclaje sobre IA es de vital importancia, ya que el 52 %28de la mano de obra europea actual necesita urgentemente una readaptación de capacidades; pone de relieve que los conceptos actuales de aprendizaje y trabajo se siguen definiendo en demasiada medida por las necesidades del mercado laboral de un mundo predigital, lo que también contribuye a un creciente déficit de competencias y a una nueva brecha digital tanto para los ciudadanos como para las empresas que no tienen acceso a un espacio digital seguro; destaca que la mejora de la alfabetización digital contribuye a la consecución de los ODS, en particular los relativos a la educación, el capital humano y las
26https://www.europarl.europa.eu/RegData/etudes/STUD/2020/652713/IPOL_STU(2020)652713_EN.pdf
27https://www.nber.org/papers/w28257
28 https://www.digitaleurope.org/wp/wp-content/uploads/2019/02/DIGITALEUROPE-%E2%80%93-Our-Call- to-Action-for-A-STRONGER-DIGITAL-EUROPE.pdf
PR\1224166ES.docx 21/42 PE680.928v01-00
ES
infraestructuras;
75. Destaca que más del 70 % de las empresas señalan la falta de personal con
competencias digitales y de IA adecuadas como un obstáculo para la inversión; muestra preocupación de que en 2019 hubiera 7,8 millones de especialistas en TIC en la UE, con una tasa de crecimiento anual previa del 4,2 %, lo que está muy lejos de los 20 millones de expertos que se necesitan para ámbitos clave como el análisis de datos, según las previsiones de la Comisión; muestra preocupación por la amplia brecha de género en este ámbito, ya que solo uno de cada seis especialistas en las tecnologías de la
información y las comunicaciones y uno de cada tres licenciados en ciencias, tecnología, ingeniería y matemáticas (CTIM) son mujeres29;
g) Tres conclusiones recurrentes en los seis estudios de caso
76. Observa que hay una serie de obstáculos transversales que la UE debe superar para lograr un uso generalizado de la IA y aprovechar plenamente sus beneficios; afirma que, en particular, la inseguridad jurídica, la insuficiencia de infraestructuras digitales y la falta de competencias en materia de IA se perciben como obstáculos para la aplicación satisfactoria de la IA en todos los ámbitos analizados;
77. Concluye, además, a partir de los estudios de caso examinados, que no son las tecnologías de IA específicas en sí mismas las que entrañan un riesgo, sino
determinados casos de uso; señala en particular los sistemas de IA de doble uso, como los drones, cuyos usos pueden variar drásticamente del ocio de los consumidores a la guerra, siendo el peor de los casos los enjambres de microdrones de bajo coste y armados utilizados para matar a objetivos humanos específicos;
78. Afirma que, si bien es importante examinar y categorizar los riesgos potenciales que plantea la IA, los estudios de caso ilustran que las tecnologías de la IA también nos permiten aplicar, en la mayoría de los casos, contramedidas muy eficaces capaces de mitigar o eliminar esos mismos riesgos; subraya que, dado que la IA está todavía en sus primeras fases de desarrollo dentro de un contexto más amplio de tecnologías
emergentes, su potencial real solo puede imaginarse; destaca que la promesa y los beneficios potenciales de la IA en términos económicos y sociales parecen ser enormes;
3. El lugar de la UE en la competencia mundial de la IA
79. Observa una feroz competencia en materia de inteligencia artificial en la que participan no solo los dos líderes, Estados Unidos y China, sino también países como Canadá, India, Israel, Japón, Rusia, Corea del Sur y el Reino Unido; subraya que en el capítulo anterior ya se ha indicado que la UE tiene hasta ahora dificultades para cumplir su aspiración30de convertirse en líder mundial en IA;
80. A continuación se examina la competitividad global de la UE en materia de IA comparándola con la de China y Estados Unidos, centrándose en tres elementos fundamentales: enfoque normativo, situación del mercado e inversiones;
29https://ec.europa.eu/info/sites/default/files/communication-digital-compass-2030_en.pdf
30https://ec.europa.eu/commission/presscorner/detail/en/speech_21_1866
PE680.928v01-00 22/42 PR\1224166ES.docx
ES
a) Enfoque normativo
81Señala que los Estados Unidos se abstienen de introducir legislación horizontal en el ámbito digital, centrándose en cambio en leyes sectoriales y en la innovación del sector privado, en particular entre sus gigantes tecnológicos y sus principales universidades;
observa que el planteamiento de los Estados Unidos en relación con la IA hasta 2019 puede resumirse, por tanto, en proporcionar orientación jurídica a las empresas, invertir en proyectos de investigación y eliminar las barreras a la innovación;
82. Destaca que la Ley de Iniciativa Americana de Inteligencia Artificial de 2019 supuso un ligero reajuste, ya que además de reorientar la financiación, reciclar a los trabajadores y reforzar la infraestructura digital, el Gobierno estadounidense anunció el desarrollo de normas comunes para una IA de confianza; señala, sin embargo, que los 10 principios resultantes se formularon de forma muy amplia para permitir a cada organismo gubernamental crear reglamentos específicos para el sector; espera que, aunque la administración del presidente Biden tiene previsto presentar una nueva carta de derechos para limitar los daños causados por la IA en 2022, el planteamiento de los Estados Unidos seguirá estando orientado al mercado, con el objetivo de evitar el exceso normativo;
83. Pone de relieve que el presidente chino Xi Jinping subrayó ya en 2013 la importancia de las tecnologías en la geopolítica, el papel de las políticas públicas en la definición de objetivos a largo plazo y el hecho de que la IA ofrece la oportunidad de superar a Estados Unidos en términos de supremacía militar; destaca además que el Gobierno chino presentó posteriormente el plan Made in China 2025, en 2015, y el Plan de Desarrollo de la IA de Nueva Generación, en 2017, ambos con el claro objetivo de convertir a China en el líder mundial de la IA para 2030; observa que el libro blanco de la normalización de la IA de 2018 esbozó además cómo la economía de mercado socialista puede desarrollar normas internacionales y participar estratégicamente en las organizaciones internacionales de normalización;
84. Observa que en la escena mundial, China promueve activamente la asociación internacional de IA como una forma de exportar sus propias prácticas de vigilancia gubernamental basadas en la IA, su sistema de puntuación ciudadana y sus estrategias de censura; hace hincapié en que las fuertes inversiones en el extranjero en el marco de la iniciativa de la Ruta de la Seda Digital se utilizan también como medio para difundir la IA china a nivel mundial y someter a otros países a la influencia china; concluye que el planteamiento chino se basa, por tanto, en el despliegue de la IA a nivel nacional, así como en la exportación de tecnologías de IA que siguen normas predeterminadas en consonancia con la ideología del Partido Comunista Chino;
85. Observa que la Comisión comenzó su trabajo de regulación de la IA en 2018
publicando la estrategia europea de IA, creando un Grupo de Expertos de Alto Nivel e introduciendo un plan coordinado31para fomentar la «IA hecha en Europa»; observa que el libro blanco de 2020 sobre la IA propuso numerosas medidas y opciones políticas para la futura regulación de la IA y finalmente dio lugar a la ley horizontal sobre la
31Comisión Europea, Plan coordinado sobre la inteligencia artificial (COM(2018) 0795).
PR\1224166ES.docx 23/42 PE680.928v01-00
ES
IA32, que se presentó con un plan coordinado revisado sobre la IA33en mayo de 2021;
señala que a fecha de junio de 2021 ya hay 20 Estados miembros que han publicado estrategias nacionales de IA, mientras que otros siete están en la fase final de
preparación para adoptar las suyas;
86. Hace hincapié en que el planteamiento regulador de la UE se basa en una gran atención a las consideraciones éticas, en consonancia con los valores fundamentales de los derechos humanos y los principios democráticos; subraya que la Comisión espera conseguir así otro «efecto Bruselas» similar al del RGPD, es decir, que el poder regulador y de mercado de la UE se traduzca en una ventaja competitiva en la IA;
afirma que el establecimiento del primer marco regulador del mundo en materia de IA podría suponer una ventaja para establecer normas internacionales de IA basadas en los valores europeos, así como para exportar con éxito la «IA de confianza» a todo el mundo;
b) Situación del mercado
87. Es consciente de que la gran mayoría de las 100 empresas líderes en IA a nivel mundial tienen su sede en Estados Unidos, mientras que solo tres empresas chinas y cuatro de la UE entran en esta categoría34; señala que los Estados Unidos también está a la cabeza del número total de empresas de IA de reciente creación, ya que acogen el 40 % de la totalidad de nuevas empresas de IA, seguido de la UE, con el 22 %, y China, con el 11 %35;
88. Señala que, en los últimos años, muchas de las empresas digitales con mayor éxito de la UE han sido adquiridas por gigantes tecnológicos estadounidenses; se refiere también al actual debate sobre las llamadas «adquisiciones asesinas»; observa que las empresas estadounidenses, con 130 adquisiciones solo en 2020, adquirieron muchas más
empresas de IA que las empresas de la UE y China juntas, que llevaron a cabo 30 y tres adquisiciones comparables respectivamente;
89. Destaca que mientras Estados Unidos y China intentan acelerar el uso de las tecnologías de la IA en los sectores público y privado, la adopción de la IA en la UE va a la zaga;
afirma que solo el 7 % de todas las empresas de la UE utilizan actualmente tecnologías de IA, mientras que solo el 30 % tiene previsto hacerlo en el futuro36; afirma que
también existe una clara brecha en la preparación para la IA entre los diferentes sectores empresariales, así como entre los Estados miembros, con el sur y el este de Europa a la zaga, mientras que el norte de Europa está, en general, muy avanzado, incluso según los estándares mundiales;
90. Subraya que, mientras que EE. UU. y China tienen un mercado digital unificado con un
32Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de inteligencia artificial) y se modifican determinados actos legislativos de la Unión (COM(2021)0206).
33Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones, Fomentar un planteamiento europeo en materia de inteligencia artificial (COM(2021)0205).
34https://www.analyticsinsight.net/top-100-artificial-companies-in-the-world/
35https://asgard.vc/wp-content/uploads/2018/05/Artificial-Intelligence-Strategy-for-Europe-2018.pdf
36https://ec.europa.eu/eurostat/web/products-eurostat-news/-/ddn-20210413-1
