La Unión Europea ha aprobado finalmente la ley de inteligencia artificial este martes, la cual se implementará gradualmente hasta el 2026, cuando entrará en plena vigencia.
“Un momento histórico“, declaró Mathieu Michel, secretario de Estado de Digitalización de Bélgica, cuyo país ostenta la presidencia rotativa de la Unión Europea este semestre.
A partir de noviembre, quedarán prohibidos los sistemas de inteligencia artificial que categorizan biométricamente a las personas por sus creencias políticas, religiosas, filosóficas, raza u orientación sexual.
Tampoco se permitirá el uso de sistemas que puntúan a las personas basándose en su comportamiento o características personales, ni aquellos que pueden manipular el comportamiento humano.
Asimismo, se prohibirán los sistemas destinados a expandir o crear bases de datos faciales obtenidas indiscriminadamente a través de internet o grabaciones audiovisuales.
Sin embargo, la normativa contempla excepciones: las fuerzas de seguridad podrán utilizar cámaras de identificación biométrica, siempre con autorización judicial, para prevenir amenazas terroristas inminentes.
Este fue uno de los puntos más controvertidos en las negociaciones entre el Parlamento Europeo y los Estados miembros, quienes defendieron la necesidad de permitir ciertos usos para garantizar la seguridad nacional. Así, estos sistemas también podrán usarse para localizar a los responsables de delitos de terrorismo, tráfico de personas, explotación sexual, y para buscar a las víctimas.
En un año, se implementarán los criterios de transparencia que los sistemas de inteligencia artificial generativa deberán cumplir, uno de los principales temas de debate, especialmente con el auge de programas como ChatGPT.
Estos modelos deberán indicar claramente si un texto, canción o fotografía ha sido generado mediante inteligencia artificial y garantizar que los datos utilizados para entrenar a los sistemas respetan los derechos de autor.
En términos generales, la normativa permite o prohíbe el uso de la inteligencia artificial según el riesgo que represente para las personas, identificando sistemas de alto riesgo que solo podrán utilizarse si se demuestra que respetan los derechos fundamentales.
Por ejemplo, los sistemas que pueden influir en el resultado de unas elecciones o los utilizados por entidades financieras para evaluar la solvencia y establecer la calificación crediticia.
Quienes incumplan la normativa se enfrentarán a multas que van desde los 35 millones de euros (37 millones 600 mil dólares) o el 7% del volumen global de negocios de las empresas, hasta los 7 millones 500 mil euros (8 millones de dólares) o el 1.5% del volumen global de negocios
