Nueva ley italiana sobre Inteligencia Artificial

Italia se ha convertido en el país pionero dentro de la Unión Europea con la aprobación de una ley específica que complementa y desarrolla el marco establecido por el Reglamento (UE) 2024/1689 sobre IA. Esta norma nacional se alinea con los principios y obligaciones europeas, pero adaptando y detallando su aplicación a la realidad italiana.

En primer lugar, es importante subrayar que la ley italiana no introduce obligaciones adicionales respecto al Reglamento europeo para los sistemas y modelos de IA de finalidad general. Así lo establece expresamente el texto legal, que remite a la norma europea para la definición de conceptos clave y para la determinación de los requisitos esenciales.

La ley italiana sí desarrolla y precisa la aplicación de estos principios en sectores estratégicos y sensibles, estableciendo directrices y medidas específicas para su contexto nacional. Entre los sectores en los que la ley introduce disposiciones particulares destacan la sanidad, el derecho laboral, la administración pública, la justicia, la seguridad nacional y la protección de los derechos de las personas con discapacidad.

En el ámbito sanitario, por ejemplo, la ley promueve el uso de la IA para la prevención, diagnóstico y tratamiento de enfermedades, garantizando siempre la centralidad de la decisión médica y la protección de los datos personales. En este sentido, se prohíbe expresamente cualquier uso discriminatorio de la IA en el acceso a servicios sanitarios y se fomenta el desarrollo de soluciones que mejoren la vida de las personas con discapacidad. Además, se establecen procedimientos simplificados para el uso de datos personales en proyectos de investigación científica en salud, siempre bajo la supervisión de comités éticos y de la autoridad italiana de protección de datos.

Desde la perspectiva del derecho laboral, la ley establece que la IA podrá utilizarse para mejorar las condiciones de trabajo y la productividad, pero siempre respetando la dignidad, la privacidad y los derechos fundamentales de los trabajadores. Se crea un Observatorio nacional para monitorizar el impacto de la IA en el empleo y promover la formación en competencias digitales.

En relación con el uso de este tipo de tecnología por parte de la administración pública, la IA se concibe como un instrumento para aumentar la eficiencia y la calidad de los servicios, pero su uso deberá ser en todo caso transparente, trazable y siempre bajo la responsabilidad última de un ser humano.

En el ámbito judicial, la ley consagra la reserva a favor del juez respecto de la interpretación y aplicación del derecho, así como la valoración de hechos y pruebas. A tal efecto, el texto limita la posibilidad de uso de herramientas de IA a funciones de apoyo administrativo y organizativo.

Respecto a la seguridad nacional, se prevén exclusiones específicas del ámbito de aplicación de la ley, aunque se exige el respeto de los derechos fundamentales y la supervisión humana. Estas excepciones incluyen: (i) actividades de seguridad nacional llevadas a cabo por los organismos de inteligencia y seguridad; (ii) actividades de ciberseguridad y resiliencia realizadas por la Agencia para la Ciberseguridad Nacional, orientadas a la protección del ciberespacio nacional; (iii) actividades de defensa nacional desarrolladas por las Fuerzas Armadas; (iv) actividades de la Policía dirigidas a prevenir y combatir delitos graves que afecten a la seguridad nacional. Estas actividades quedan fuera del alcance de las obligaciones y restricciones generales de la ley sobre IA, aunque deberán respetar los derechos fundamentales y las libertades previstas por la Constitución italiana, especialmente en lo relativo a la supervisión humana y la protección de los derechos fundamentales

En otro ámbito, la ley dedica especial atención a la protección de los menores en el acceso y uso de tecnologías basadas en IA, estableciendo medidas específicas para salvaguardar sus derechos y su privacidad. En particular, el acceso a tecnologías de inteligencia artificial por parte de menores de 14 años requerirá del consentimiento de quien ejerza la responsabilidad parental. Así, los menores de 14 años no podrán utilizar sistemas de IA ni autorizar el tratamiento de sus datos personales asociados a estos sistemas sin la autorización expresa de sus padres o tutores legales. 

Por otra parte, las personas cuya edad oscile entre los 14 y los 18 años podrán prestar por sí mismos el consentimiento para el tratamiento de sus datos personales en relación con el uso de sistemas de IA, siempre que la información y las comunicaciones relativas al tratamiento de datos sean fácilmente accesibles y comprensibles para ellos. Asimismo, la ley exige que toda la información y comunicación sobre el tratamiento de datos personales vinculados al uso de IA se presente en un lenguaje claro y sencillo, de modo que los menores puedan comprender los riesgos y ejercer su derecho a oponerse al tratamiento de sus datos. 

La ley italiana introduce de igual modo medidas para garantizar la ciberseguridad a lo largo de todo el ciclo de vida de los sistemas de IA, promoviendo la localización de los datos estratégicos en servidores nacionales. Específicamente, se prevé que las plataformas de contratación pública electrónica de las administraciones públicas deberán orientar la selección de proveedores de sistemas y modelos de inteligencia artificial dando preferencia a aquellas soluciones que garanticen tanto la localización y el procesamiento de los datos estratégicos en centros de datos situados en territorio nacional, como la implementación de procedimientos de recuperación ante desastres y continuidad operativa también en centros de datos ubicados en Italia.

El objetivo de esta medida es asegurar que los datos considerados estratégicos para el Estado y los ciudadanos italianos no salgan del país, minimizando así riesgos de acceso no autorizado, injerencias extranjeras o vulnerabilidades derivadas de la dependencia de infraestructuras tecnológicas ubicadas en el extranjero. A pesar de que la ley no se extiende en su definición, se considerarán “datos estratégicos” aquéllos que: (i) sean esenciales para el funcionamiento de servicios públicos críticos o infraestructuras esenciales; (ii) afecten la seguridad nacional, la defensa, el orden público o la protección de los derechos fundamentales de los ciudadanos; (iii) tengan un valor económico, científico o tecnológico relevante para el país; (iv) cuya divulgación, pérdida o acceso no autorizado pudiera causar perjuicios significativos al Estado, a la administración pública o a los ciudadanos.

Por último, la ley también dedica atención a la protección de los derechos de autor en obras generadas con IA. Los puntos principales del régimen establecido se podrían resumir del siguiente modo:

• Protección solo para obras de creación humana: La ley modifica la normativa de derechos de autor italiana para clarificar que solo las obras fruto del trabajo intelectual humano pueden ser protegidas por derechos de autor, incluso si han sido creadas con el auxilio de herramientas de inteligencia artificial.  Las obras generadas exclusivamente por sistemas de IA, sin intervención creativa humana, no gozarán de protección legal.
• Uso de obras y materiales para entrenamiento de IA: Se permite la reproducción y extracción de texto y datos de obras o materiales disponibles en la red o en bases de datos a las que se tenga acceso legítimo, con fines de extracción de texto y datos mediante modelos y sistemas de IA, incluida la IA generativa. Según la nueva ley, el mencionado “acceso legítimo” se entiende que se basa en los siguientes términos:

1. El usuario deberá haber tenido acceso legal a la obra o material: Solo se pueden utilizar para entrenamiento de IA aquellas obras o materiales a los que se accede de manera lícita, por ejemplo, porque se ha adquirido una licencia o se dispone de un permiso específico del titular de los derechos.
2. No se permite el uso de obras obtenidas de forma ilícita: Quedan excluidas de este régimen las obras o materiales a los que se accede mediante vulneración de derechos de autor, piratería, hackeo, o cualquier otro medio ilegal.
3. El uso debe respetar las condiciones de acceso: Si la obra está disponible bajo ciertas condiciones (por ejemplo, suscripción, pago, restricciones de uso), el entrenamiento de IA solo es legítimo si se respetan esas condiciones.
4. Debe cumplirse con las excepciones y límites previstos en la ley: El uso para extracción de texto y datos está permitido en la medida en que se ajuste a las excepciones previstas en la normativa de derechos de autor italiana, que implementan las directivas europeas sobre minería de texto y datos.  Estas excepciones suelen permitir la extracción para fines de investigación, siempre que no se persiga un fin comercial, o bien para cualquier fin si el titular de los derechos no ha reservado expresamente este uso.

• Nuevas infracciones y sanciones: Se establece una nueva infracción específica para quien reproduzca o extraiga texto o datos de obras o materiales disponibles en la red o en bases de datos en violación de las normas sobre extracción de texto y datos, incluso a través de sistemas de IA.  Esta conducta puede ser sancionada conforme a la normativa de derechos de autor.