Guía sobre IA Generativa responsable para investigadores

El pasado 15 de abril se publicó la segunda versión oficial de la Guía Viva para Investigadores sobre el uso de responsable de la Inteligencia Artificial Generativa (“IA generativa”) (Living Guidelines on the Responsible Use of Generative AI in Research, accesible aquí), elaborada por la Comisión Europea junto con el European Research Area Forum.

Dando continuidad a la primera versión, publicada el 20 de marzo de 2024, y con el objetivo de promover una integración ética y segura de esta tecnología en los procesos de investigación, la Comisión ha puesto en marcha un documento “vivo” que se actualizará periódicamente conforme a las nuevas necesidades, riesgos emergentes y desarrollos tecnológicos que puedan incidir en el ecosistema de investigación en la UE.

En primer lugar, la guía reconoce el enorme potencial de la IA generativa para impulsar el progreso científico. No obstante, advierte sobre una serie de riesgos relevantes que deben abordarse con especial atención, como la posible generación masiva de desinformación, los conflictos relacionados con la protección de datos, así como otros usos no éticos que podrían tener un impacto negativo en el plano social o medioambiental.

La primera versión de la guía ya recogía algunas recomendaciones fundamentales dirigidas a investigadores y organizaciones de investigación. Entre ellas, destacaba la necesidad de garantizar la transparencia en el uso de herramientas de IA generativa, observando principios esenciales como la privacidad, la confidencialidad y el respeto a los derechos de propiedad intelectual, tanto en lo relativo a los datos empleados para entrenar los sistemas (inputs) como con los contenidos generados (outputs).

Tanto la primera versión como la segunda, se fundamentan en marcos éticos y de integridad científica preexistentes, en particular el Código Europeo de Conducta para la Integridad en la Investigación elaborado por ALLEA (All European Academies) y las Directrices para una Inteligencia Artificial Fiable de la Comisión Europea. A partir de estas referencias, la segunda versión desarrolla un conjunto de principios clave destinados a orientar el uso responsable de la IA generativa en el ámbito de la investigación.

• El primero de los principios es la fiabilidad, entendido como la necesidad de asegurar la calidad de la investigación en su diseño, metodología, análisis y uso de recursos. Esto incluye la verificación y reproducibilidad de los resultados generados por IA, así como la identificación y corrección de sesgos o desigualdades.
• En segundo lugar, la guía subraya la honestidad, que requiere aplicar procesos que garanticen transparencia y equidad en todas las fases del trabajo científico, incluyendo la obligación de informar sobre el uso de herramientas de IA generativa.
• El tercer principio es el respeto, tanto hacia las personas implicadas (colegas, participantes, sociedad) como hacia el entorno (medio ambiente, patrimonio cultural) y los derechos de terceros, como la privacidad, la confidencialidad o la propiedad intelectual.
• Por último, se destaca la responsabilidad, que implica que los investigadores deben asumir las consecuencias de todo el proceso de investigación, incluida su gestión, supervisión y los posibles impactos sociales.

Sobre la base de dichos principios, el documento formula una serie de recomendaciones destinadas a orientar la actuación de los distintos agentes implicados y dirigidas específicamente a tres perfiles: investigadores, organizaciones de investigación y entidades financiadoras.

I. Recomendaciones para los investigadores

La Guía establece seis recomendaciones para quienes participan directamente del proceso de investigación:

• Responsabilidad final: Son responsables de la integridad y autoría de los contenidos generados con IA, que nunca podrá figurar como coautora.
• Uso transparente: Deben ser transparentes sobre el uso sustancial de IA generativa, especificando herramienta, versión y modo de uso, y reflejándolo en la metodología si impacta en los resultados.
• Respeto a la privacidad, confidencialidad y propiedad intelectual: No deben introducir datos sensibles o no publicados en sistemas externos sin garantías de privacidad, y deben respetar la protección de datos y la propiedad intelectual.
• Cumplimiento legal: Deben respetar la legislación nacional, europea e internacional aplicable, especialmente en lo relativo a protección de datos y propiedad intelectual.
• Formación continua: Ante la rápida evolución de las herramientas de IA generativa y la aparición constante de nuevos usos, se recomienda una formación continua en la materia y el intercambio, en la medida de lo posible, de buenas prácticas.
• Evitar uso en actividades sensibles: No debe utilizarse la IA generativa de forma sustancial en actividades como la revisión por pares o la evaluación de propuestas.

II. Organizaciones de investigación

Se establecen también una serie de recomendaciones a las organizaciones de investigación con el objetivo de facilitar una implementación transversal de la Guía. Son las siguientes:

• Promoción y apoyo: Deben promover y guiar el uso responsable de la IA generativa, ofreciendo formación y apoyo normativo. Fomentar un ambiente donde los investigadores puedan declarar el uso de IA sin temor a consecuencias negativas. Proveer directrices y apoyo para asegurar el cumplimiento de requisitos éticos y legales.
• Seguimiento y análisis: Monitorizar el uso de IA en la organización y anticipar posibles abusos. Evaluar y promover la reducción del impacto ambiental asociado al uso de IA.
• Integración de la guía y Herramientas propias: Integrar estas directrices en sus políticas y, cuando sea posible, usar herramientas de IA gestionadas localmente para proteger datos y confidencialidad.

El objetivo de incluir las organizaciones de investigación en la elaboración de la guía es facilitar su implementación en estas instituciones, y garantizar que se alinean los intereses de aquellos que participan de la investigación.

III. Organismos financiadores de la investigación

La guía también contempla recomendaciones específicas dirigidas a los organismos financiadores, conscientes de su papel clave en la promoción de prácticas responsables en el ecosistema científico, a pesar de operar bajo mandatos y marcos normativos diversos. Estas recomendaciones buscan establecer una base común de estándares en relación con el uso de inteligencia artificial generativa:

• Promoción del uso responsable: Deben fomentar un uso ético y legalmente conforme de la IA generativa en los proyectos financiados, integrando criterios de responsabilidad, integridad científica y respeto a los derechos fundamentales.
• Revisión de usos de IA generativa en sus procesos y transparencia interna: Los organismos deben garantizar un uso transparente de estas herramientas en sus procedimientos internos, especialmente en la gestión administrativa o de convocatorias, sin que ello comprometa la equidad ni la confidencialidad. Se destaca la necesidad de mantener la supervisión humana y asumir la plena responsabilidad sobre dicho uso.
• Declaración de uso por parte de solicitantes: Se recomienda que los organismos financiadores soliciten a los candidatos que declaren cualquier uso sustancial de herramientas de IA generativa tanto en la preparación de sus solicitudes como en las actividades de investigación propuestas o ya realizadas. Esta exigencia debe ir acompañada de un entorno institucional que favorezca la transparencia y permita a los investigadores informar de dicho uso sin temor a verse perjudicados.
• Formación y seguimiento continuo: Los organismos financiadores deben apoyar activamente programas de formación sobre el uso responsable de la IA, así como seguir de cerca la evolución tecnológica y normativa en este ámbito, para adaptar sus políticas y criterios de financiación conforme a los nuevos desafíos.

En definitiva, la Comisión Europea busca establecer un marco común de actuación para investigadores, organizaciones de investigación y entidades financiadoras, tanto públicas como privadas. Dado su carácter evolutivo, será necesario seguir atentamente los futuros desarrollos de las Living Guidelines on the Responsible Use of Generative AI in Research, cuya actualización periódica está prevista