Este miércoles el Parlamento Europeo votará el reglamento europeo sobre inteligencia artificial (IA), acordado el 8 de diciembre por la Comisión, el Consejo y el propio Parlamento Europeo tras una maratón de negociaciones de 38 horas, la más larga de la historia de la Unión Europea. Parlamento. de la UE. El borrador final del reglamento, hecho público apenas esta semana, confirma lo ya visto en diciembre, cuando se cerró el acuerdo provisional, que también requiere la ratificación final por parte de los Estados miembros antes de que pueda entrar en vigor. : El reglamento describe lo que se puede y lo que no se puede hacer, pero no especifica cómo se deben resolver cuestiones fundamentales, como la defensa de los derechos de autor.
La norma se considera la primera legislación sobre IA que protege los derechos y libertades fundamentales (China aprobó su propia ley el verano pasado). En el último debate antes de la votación, el Comisario de Mercado Interior, Thierry Breton, iniciador del reglamento, lo defendió el martes en Estrasburgo como “el primer reglamento equilibrado sobre IA en el mundo destinado a proteger contra el uso excesivo e indebido de la IA, pero al mismo tiempo promover innovación». El reglamento, insistió Breton al solicitar el apoyo de la mayoría en el Parlamento Europeo, representa un «compromiso histórico probado en el tiempo».
El reglamento establece diferentes requisitos y obligaciones para las aplicaciones de IA en función de los riesgos que plantea su uso. Los más inofensivos, como los filtros de spam o los detectores de texto duplicado, se pueden utilizar sin restricciones. Se denominan sistemas de riesgo limitado y el único requisito que se les impone a los proveedores es que informen a los usuarios que están utilizando una herramienta de inteligencia artificial.
El grueso de la negociación consistió en determinar cuáles presentan riesgos inaceptables y, por tanto, están totalmente prohibidos; y que se encuentran en alto riesgo, lo que implica una supervisión permanente. La primera categoría incluye sistemas “que trascienden la conciencia de una persona o las técnicas deliberadamente manipuladoras”, aquellos que explotan sus vulnerabilidades o aquellos que infieren las emociones, la raza o las opiniones políticas de las personas.
La categoría de alto riesgo incluye los sistemas de identificación biométrica remota, que una gran parte del Parlamento quería prohibir estrictamente, los sistemas de categorización biométrica o el reconocimiento de emociones. También los sistemas que afectan a la seguridad de infraestructuras críticas y los relacionados con la educación (evaluación del comportamiento, sistemas de admisión y exámenes), el empleo (selección de personal) y la prestación de servicios públicos esenciales, la aplicación de la ley o la gestión de la migración.
El documento de 460 páginas no reserva grandes sorpresas, aunque confirma que la falta de definición de algunas de las cuestiones más delicadas de la legislación sigue sin resolverse. “Es una regulación bastante corta. Como instrumento jurídico, requiere mayor explicación. Hay definiciones muy ambivalentes, algunas de las cuales coinciden con las de otras normativas”, afirma Lorena Jaume-Palasí, experta en ética y filosofía del derecho aplicada a la tecnología y asesora del Parlamento Europeo en temas relacionados con la inteligencia artificial. “Parece probable que, tal como ocurrió con el Reglamento General de Protección de Datos (GDPR), necesitemos jurisprudencia para saber con qué metodología se implementará”.
Identificación biométrica: en casos excepcionales
Uno de los temas más controvertidos, que ha requerido muchas horas de negociaciones, es la regulación de los llamados sistemas de identificación biométrica remota en tiempo real. En esta categoría se incluiría, por ejemplo, la extensa red de cámaras de reconocimiento facial repartidas por las grandes ciudades chinas que permiten localizar a cualquier persona en apenas unos minutos. Los primeros borradores de legislación europea sobre IA eran muy restrictivos con esta tecnología.
En la última versión del documento, sin embargo, se establecen una serie de supuestos en los que se pueden utilizar, siempre sujetos a autorización judicial: “La búsqueda de determinadas víctimas de un delito, incluidas personas desaparecidas; determinadas amenazas a la vida o integridad física de personas físicas o amenazas de atentado terrorista; y la ubicación o identificación de los autores o sospechosos de (una lista de 32) delitos penales”.
El texto final también establece una excepción a las excepciones: “En casos de urgencia debidamente justificados, dichos sistemas podrán comenzar a utilizarse sin registro en la base de datos de la UE, siempre que dicho registro se lleve a cabo sin demora”. Inadecuado. (…) Los Estados miembros notificarán tales normas a la Comisión dentro de los 30 días siguientes a su adopción.» Es decir, las autoridades pueden eludir las normas y tomar medidas, incluso si posteriormente se declara que el uso del sistema fue inadecuado.
“Cuantas más excepciones tenga una prohibición, menos severa será. Lo que estamos viendo es que tecnologías que deberían cuestionarse se están naturalizando”, afirma Jaume-Palasí.
Sin embargo, durante el último debate en el Parlamento Europeo, los principales responsables de negociar el reglamento defendieron el Reglamento sobre IA como una herramienta que permitirá a los ciudadanos utilizar estas nuevas tecnologías sin miedo a que se vulneren sus derechos fundamentales.
Copyright: protección, pero no especificada
Otro de los temas del reglamento que más ha llamado la atención es cómo se protegen los derechos de autor, que están consagrados en la UE a través de 13 directivas y dos reglamentos. En Estados Unidos se están presentando una serie de demandas colectivas contra grandes plataformas por utilizar, sin autorización, creaciones individuales para entrenar modelos de inteligencia artificial; El resultado de estos procesos puede marcar el futuro de la inteligencia artificial generativa (que genera textos, imágenes, vídeos o música a partir de instrucciones proporcionadas por el usuario).
El Reglamento Europeo de IA repite en todos sus artículos que todos los sistemas deben garantizar el respeto a los derechos de autor, pero no dice cómo, más allá de que será responsabilidad de la Oficina de IA, organismo que vigilará el cumplimiento del reglamento. . . Según Breton, esta oficina comenzará a funcionar lo antes posible una vez que el reglamento entre en vigor y contará con “el talento necesario para apoyar la implementación de la ley y servir como un centro global de experiencia en el campo de la inteligencia artificial”.
En cuanto a los derechos de autor de los contenidos utilizados para entrenar los algoritmos ya en funcionamiento, “la normativa es bastante garante y aportará mucha seguridad jurídica a los ciudadanos. Más que un marco legal, es una declaración de principios y valores democráticos”, subraya Iban García del Blanco, diputado socialista y negociador de la ley AI. ”En algunos casos, la Comisión tendrá que desarrollar más de 20 actos derivados de estas disposiciones para concretarlas. Por ejemplo en materia de derechos de autor: preparará una serie de propuestas estándar para que las empresas sepan en qué sentido tendrán que hacer estas declaraciones de transparencia sobre los contenidos que han utilizado en la formación de los modelos», explica.
Esto no impide, afirma García del Blanco, que en el futuro haya una serie de solicitudes y que los criterios se establezcan a través de la jurisprudencia. Jaume-Palasí recuerda que esto es lo que ocurrió con la normativa de protección de datos: “Las primeras sentencias están saliendo ahora, cinco años después de su entrada en vigor”.
puedes seguir La tecnología de EL PAÍS En Facebook Y X o regístrate aquí para recibir el nuestro boletín semanal.