Relatório AEPD- IA Federada e Privacidade

Desde que os gigantes tecnológicos começaram a treinar modelos de inteligência artificial de grande dimensão com dados centralizados, o debate sobre a privacidade dos dados pessoais ganhou força. Em junho de 2025, a Agência Espanhola de Proteção de Dados (AEPD) e a Autoridade Europeia para a Proteção de Dados (Autoridade Europeia) deram um passo decisivo ao publicarem um relatório conjunto sobre  aprendizagem federada. Longe de ser um documento técnico estanque, este relatório visa estabelecer um roteiro para alinhar a inovação em matéria de IA com os princípios de proteção de dados consagrados no Regulamento Geral sobre a Proteção de Dados (RGPD).

A promessa de treinar sem expor

Imagine um hospital que pretende melhorar os seus sistemas de diagnóstico através da IA, mas sem comprometer a confidencialidade dos registos médicos. Com a aprendizagem federada, cada centro de saúde treina localmente um modelo com os seus próprios dados e apenas partilha as atualizações (os pesos ou gradientes) com um servidor central. Este servidor nunca vê os registos originais; limita-se a agregar as melhorias contribuídas por cada nó, construindo assim um modelo global colaborativo sem cópias fotográficas de dados sensíveis.

Esta abordagem, que pode ser definida como “levar a inteligência aos dados e não os dados à inteligência”, não só facilita o respeito pelo princípio da minimização dos dados, como também reforça o princípio da limitação das finalidades: cada participante decide para que treina o seu próprio modelo e mantém o controlo total sobre os seus dados.

Porquê agora? O contexto regulatório e tecnológico

A explosão de dispositivos conectados - desde smartphones a sensores em veículos autónomos - gera volumes de dados que frequentemente ultrapassam as fronteiras legais e organizacionais. Paralelamente, o RGPD exige a demonstração do princípio da privacidade desde a conceção e da privacidade por defeito em todos os projetos de tratamento de dados pessoais. Nesta junção, a aprendizagem federada surge como uma tecnologia de dupla utilização: protege a privacidade ao mesmo tempo que impulsiona a colaboração técnica entre várias entidades, mesmo quando estas partilham informações estratégicas ou sensíveis. Vejamos alguns casos de utilização:

1.    Setor da saúde. Várias clínicas e hospitais podem unir forças para treinar algoritmos de deteção de patologias (por exemplo, tumores cerebrais), sem que os registos dos seus pacientes saiam da sua rede local. Assim, melhoram-se as capacidades de diagnóstico, reduzem-se os enviesamentos locais e servem-se populações mais diversificadas.
2. Assistentes de voz e dispositivos móveis. Cada telemóvel afina os sistemas de reconhecimento de voz ou os teclados preditivos com os dados do utilizador. As melhorias são partilhadas como parâmetros, nunca como gravações de voz ou texto escrito, para respeitar a privacidade e os direitos sobre os dados gerados pela própria voz ou modo de escrever.
3. Veículos autónomos. As frotas de automóveis recolhem dados localmente a partir de câmaras, radares e sensores. Com a aprendizagem federada, estas frotas contribuem com a sua “inteligência aprendida” para melhorar continuamente a deteção de obstáculos e o planeamento de rotas, sem necessidade de descarregar maciçamente os seus fluxos de tráfego num único repositório central.
4. Espaços de dados B2B. As empresas de setores regulados, como o financeiro ou o da energia, podem criar modelos de colaboração que aproveitem os dados estratégicos sem revelar segredos comerciais. Desta forma, mpulsiona-se a economia digital baseada na confiança mútua e em normas de privacidade sólidas.

Desafios que não devem ser ignorados

Embora a aprendizagem federada traga benefícios claros em termos de privacidade, o relatório da AEPD e da Autoridade Europeia alerta para vários riscos inerentes:

• Fuga entre gradientes: sem medidas criptográficas adequadas, um atacante poderia inferir dados de treino analisando atualizações partilhadas, o que poria em causa a confidencialidade.
• Enviesamentos e qualidade dos dados: a heterogeneidade dos conjuntos locais (e não a “distribuição de dados independente e idêntica”, “IID”) exige auditorias contínuas para evitar irregularidades ou resultados inexatos. 
• Envenenamento do modelo: um nó malicioso pode injetar dados falsos para distorcer o modelo global, pelo que são recomendadas defesas passivas e ativas, como a deteção de anomalias nas atualizações.
• Complexidade operacional: a coordenação de dispositivos com capacidade computacional e conetividade variáveis exige arquiteturas resilientes e protocolos fiáveis.
• Avaliação da anonimização: não é suficiente assumir que os modelos resultantes são anónimos; é necessária uma análise técnica e jurídica rigorosa para que possam ser considerados fora do âmbito dos dados pessoais.

Para uma adoção responsável

Para aqueles que pretendem embarcar em projetos de aprendizagem federada em conformidade com o RGPD, devem ser tidas em conta, entre outras, as seguintes recomendações:

1. Privacidade desde a conceção. Incorporar os requisitos de privacidade na fase de arquitetura, definindo os fluxos de treino, a troca de parâmetros e a agregação. Documentar cada passo no registo das atividades de tratamento.
2. Criptografia e PETs combinadas. Aplicar técnicas como a privacidade diferencial - acrescentando ruído controlado aos gradientes -, a computação multipartidária segura (pelas siglas em inglês, Secure Multiparty Computation SMPC) ou os ambientes de execução fiáveis (Trusted Execution Environments, TEE) para reforçar a confidencialidade e a integridade das comunicações.
3.  Auditoria e monitorização contínuas. Estabelecer métricas para medir a fiabilidade dos participantes, o grau de desvio dos parâmetros e o tempo de convergência. Definir limiares para bloquear ou isolar comportamentos suspeitos.
4. Consentimento claro e dinâmico. Informe os titulares dos dados sobre a utilizaçãofederada dos seus dados e facilite-lhes a revogação do seu consentimento em qualquer altura. Tirar partido do facto de os dados permanecerem no seu dispositivo ou silo para aumentar a transparência.
5. Avaliações de impacto da proteção de dados (EIPD). Tratar a aprendizagem federada como um processo de tratamento adicional no âmbito do RGPD: avaliar os riscos antes da implementação e rever periodicamente as ameaças e a tecnologia à medida que evoluem.
6.  Formação interdisciplinar. Incentivar um diálogo estreito entre as equipas jurídicas, de segurança e de desenvolvimento para traduzir os princípios da proteção de dados em práticas e técnicas concretas.

O relatório da AEPDe da Autoridade Europeia destaca mais uma vez as tecnologias que reforçam a privacidade e coloca a aprendizagem federada no centro da conversa: não só como um atalho técnico para a computação distribuída, mas também como um mecanismo fundamental para reequilibrar a relação entre inovação e direitos fundamentais. Quem dominar estas práticas estará em melhor posição para liderar projetos de IA que se distingam não só pelo seu poder, mas também pelo seu estrito respeito pela privacidade e pela segurança jurídica.