La nueva ley divide los sistemas de IA en distintas categorías de riesgo. Aquellos que presenten un riesgo limitado solo deberán cumplir con obligaciones de transparencia leves. En cambio, los sistemas de alto riesgo tendrán que someterse a un conjunto estricto de requisitos y obligaciones para poder acceder al mercado de la Unión Europea (UE).
Entre las prohibiciones más destacadas, la ley veta el uso de IA para la manipulación cognitivo-conductual y la puntuación social, ya que se consideran de riesgo inaceptable. También se prohíbe la vigilancia policial predictiva basada en perfiles y los sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, religión u orientación sexual.
El principal objetivo de esta legislación es «proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA de alto riesgo, mientras se impulsa la innovación y se posiciona a Europa como líder en el sector«.
Transparencia y derechos de autor.
En cuanto a los requisitos de transparencia, los desarrolladores de Inteligencia Artificial deberán respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido utilizado para entrenar sus modelos. Los modelos más avanzados, que podrían plantear riesgos sistémicos, deberán cumplir requisitos adicionales, como realizar evaluaciones de riesgo, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes.
Además, cualquier imagen, contenido de audio o vídeo generado o manipulado por Inteligencia Artificial deberá estar claramente etiquetado como tal.
Para fomentar la innovación, la ley prevé la creación de espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional, destinados a pymes y empresas emergentes, donde podrán desarrollar y entrenar IA innovadora antes de su comercialización.
Restricciones y sanciones.
Las penalidades por infracciones a esta ley se establecerán como un porcentaje del volumen de negocios anual global de la empresa infractora en el ejercicio financiero anterior o una cantidad predeterminada, eligiendo la mayor de ambas. Si se la manda Open IA, sacas un PBI argentino. Las pymes y empresas de nueva creación estarán sujetas a multas administrativas proporcionales.
La ley entrará en vigencia 20 días después de su publicación en el Diario Oficial de la UE y será plenamente aplicable 24 meses después. Sin embargo, algunas disposiciones tendrán fechas de aplicación específicas: las prohibiciones de ciertas prácticas se aplicarán seis meses después de la entrada en vigor, los códigos de buenas prácticas a los nueve meses, las normas sobre Inteligencia Artificial de uso general a los doce meses y las obligaciones para los sistemas de alto riesgo a los treinta y seis meses.
Fin.
