La Unión Europea (UE) contará con la primera regulación integral de la inteligencia artificial (IA) del mundo. Este miércoles, el Parlamento Europeo ha aprobado definitivamente una ley “histórica” que tiene como principal misión limitar los peligros de esta tecnología sin perjudicar la innovación.
El texto aprobado este miércoles por la Eurocámara con 523 votos a favor, 46 en contra y 49 abstenciones llega casi tres años después de la primera propuesta de la Comisión Europea. La normativa iba a estar lista a finales de 2022, pero el lanzamiento de ChatGPT y la meteórica popularización de la IA generativa obligó a los legisladores europeos a maniobrar para no dar a luz a un proyecto desfasado.
Uno de los aspectos más debatidos de la ley son las normas impuestas a los modelos de IA de propósito general, los sistemas capaces de generar textos, imágenes o vídeos que han comercializado grandes compañías como Microsoft, OpenAI o Google. Estos deberán aplicar criterios de transparencia que permitan identificar si sus aplicaciones han sido entrenadas con datos que presentan sesgos racistas o machistas o con contenidos que violan los derechos de autor. Y es que cada vez hay más denuncias en ambas direcciones. “Había muchos intereses en juego y nos mantuvimos firmes”, ha explicado el eurodiputado Brando Benifei, ponente de la ley. “Vamos a estar muy atentos a una aplicación rigurosa para que los artistas, músicos, editores y otros creativos sientan que sus derechos están defendidos”.
Durante meses, Francia lideró las presiones para rebajar estas exigencias, defendiendo así los intereses de la ‘startup’ gala Mistral AI, un actor de cada vez mayor peso en el sector. El Elíseo aseguró que eso ayudaría a impulsar a las compañías europeas de IA para convertirlas en alternativas a los gigantes tecnológicos de Estados Unidos y así garantizar la soberanía tecnológica de la UE. No solo no lo logró, sino que a finales de febrero Mistral AI anunció su alianza con Microsoft, la empresa más valiosa del mundo. El organismo europeo de control de la competencia está analizando si hubo un conflicto de interés.
Categorización por riesgos
[–>
El pasado diciembre, y tras negociaciones de más de 35 horas casi sin interrupción, los eurodiputados sellaron un acuerdo político que da forma a una regulación pionera que categoriza la IA según sus usos y establece obligaciones más o menos estrictas en función de si suponen un “alto riesgo” o un “riesgo mínimo”.
De esta manera, la ley prohíbe los sistemas algorítmicos que vulneran derechos fundamentales, como los sistemas de puntuación social, el reconocimiento de emociones, la vigilancia policial predictiva o el rastreo de datos biométricos para inferir la raza, orientación sexual u opiniones políticas de personas.
Exenciones para la policía
[–>
Sin embargo, la nueva normativa de la UE también incluye exenciones que han despertado muchas críticas. Es el caso de la IA usada con fines militares o de defensa nacional, que supone una competencia de los Estados miembros, pero también en contextos de vigilancia en las fronteras y para anticiparse a flujos migratorios.
Aunque la identificación biométrica a distancia en espacios públicos está prohibida, la policía podrá recurrir a tecnologías como el reconocimiento facial en situaciones de emergencia como la prevención de una amenaza terrorista, la localización de un menor desaparecido o la identificación de un sospechoso. En todos esos casos será obligatorio contar con una autorización judicial.
Benifei ha remarcado que la ley no supone “ningún riesgo de vigilancia masiva” y que el texto está más cerca de la prohibición total que pedía el Parlamento que de lo que pedían los gobiernos europeos. Sin embargo, decenas de organizaciones de la sociedad civil han denunciado que el uso de herramientas “intrínsecamente discriminatorias” socavará “el núcleo de nuestros derechos”.
Aplicación de la ley
[–>
Con el voto de hoy, el Parlamento Europeo rubrica una ley que está llamada a marcar el rumbo tecnológico europeo de la próxima década. “Esto es solo el principio, ahora debemos construir la gobernanza para responder a nuevas cuestiones éticas”, ha explicado el eurodiputado y ponenete de la legislación, Dragos Tudorache. Está previsto que en los próximos meses se impulsen nuevas regulaciones más específicas, como una sobre el uso de IA en el trabajo.
Aun así, su implementación, definida como “crucial”, no será instantánea. Primero, los gobiernos de cada país deberán refrendar el texto. La ley entrará en vigor a los veinte días de su publicación en el Diario Oficial de la UE y será “plenamente aplicable” dos años después. Las prohibiciones tendrán efecto a los seis meses y las obligaciones para los sistemas de IA de propósito general, como ChatGPT, a los 12 meses. Así pues, parte de la ley empezará a aplicarse antes de que finalice el año.