Reino Unido avanza en la transparencia de los algoritmos

La Oficina Central Digital y de Datos del Reino Unido (según sus siglas en inglés, CCDO) publicó el pasado 29 de noviembre un estándar de transparencia algorítmica que tiene como objetivo servir de marco de referencia no vinculante para las organizaciones del sector público a la hora de proporcionar información clara sobre las herramientas algorítmicas que utilizan, así como, el porqué de su utilización.

Este estándar de transparencia algorítmica forma parte de la Estrategia Nacional de Datos del Gobierno británico. El fin de la Estrategia consiste en explorar una forma adecuada y eficaz de ofrecer una mayor transparencia en la toma de decisiones asistida por algoritmos en el sector público.

La CDDO ha contado con la colaboración de grupos de la sociedad civil y expertos externos en el desarrollo de esta norma, además de las conclusiones extraídas de un estudio dirigido por el Centro de Ética e Innovación de Datos y BritainThinks sobre transparencia algorítmica contando con participación pública.

Según el Gobierno la transparencia algorítmica significa dar a conocer cómo las herramientas algorítmicas apoyan las decisiones, incluyendo proporcionar información sobre dichas herramientas y las decisiones asistidas por algoritmos en un formato completo, abierto, comprensible, de fácil acceso y gratuito.

Dicho estándar se compone por: (i) una norma de datos de transparencia algorítmica; y (ii) una plantilla y guía de transparencia algorítmica destinadas a ayudar a las organizaciones del sector público a proporcionar la información estándar.

En lo que respecta a la plantilla, se compone por dos secciones:

1. Proporcionar una descripción no técnica del sistema de Inteligencia Artificial (IA), explicando el porqué de su utilización. Asimismo, se requiere información sobre el funcionamiento del sistema de IA y cuál es el problema que pretende resolver.

2. Proporcionar información técnica más detallada sobre la herramienta algorítmica, en particular: (i) detalles específicos sobre su funcionamiento; (ii) su titularidad y responsabilidad; (iii) su alcance, para qué ha sido diseñada y para qué no está destinada; (iv) cómo afecta a la toma de decisiones (su influencia, la supervisión humana, proceso de impugnación y revisión de las decisiones algorítmicas); y (v) los datos que ésta utiliza, evaluaciones de impacto realizadas, descripción de riesgos (sesgos, discriminación, daño) y su acciones implementadas para mitigar dichos riesgos.

Sin duda, el tema de la transparencia algorítmica está de radiante actualidad pero, cabe preguntarse ¿por qué colma portadas y se cuela en los debates parlamentarios? Las decisiones algorítmicas van tomando cada vez más terreno en nuestra cotidianeidad, desde el posible acceso a ayudas públicas, pasando por cómo nos desplazamos por las ciudades hasta el comercio online se encuentran influenciadas por algoritmos que priorizan unas u otras categorías de datos para finalmente asignar un resultado.

De hecho, resultan de tal relevancia esta temática y su futuro desarrollo legislativo, que el Gobierno español ha pactado la creación de una Agencia Española de Supervisión de la Inteligencia Artificial (AEIA) para abodar los nuevos retos de los tiempos algorítmicos. Que busca dotar de transparencia y auditabilidad a los tratamientos masivos de los datos personales por la IA, la lógica aplicada por el algoritmo y la información significativa sobre cómo interactúan los conjuntos de datos y los parámetros utilizados para tomar la decisión final. Desde este blog, seguiremos bien atentos a la regulación y las futuras novedades algorítmicas, tanto a nivel nacional como europeo, ya que su impacto en nuestros días, marcará un profundo cambio tanto en el sector público, como en el sector privado.