Eticas Consulting publica la primera guía para empresas, administraciones públicas y la ciudadanía en general, que ofrece una metodología replicable para que los algoritmos respeten la Ley, sean más eficientes económicamente y justos socialmente
El impacto en el día a día de los algoritmos crece exponencialmente, y es necesario ajustarlos no solo a criterios jurídicos y económicos, sino sociales y éticos, como ya se exigen en otros procesos productivos a industrias como la textil, alimentaria o financiera
Tras la retirada de varios algoritmos europeos llevados a los tribunales por su mal funcionamiento, Estados y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos igual que la de las auditorías financieras, por ejemplo.
Este ‘manual de instrucciones’, dirigido a empresas, entidades públicas y a la ciudadanía, ofrece una metodología general y replicable para auditar productos y servicios en torno a sistemas de Inteligencia Artificial (IA) que usan algoritmos que recopilan o tratan datos de carácter personal. De esta forma, se podrá comprobar que son diseñados, desarrollados y utilizados de acuerdo a la Ley, de forma socialmente justa y responsable para evitar que discriminen.
La llegada de los algoritmos y la IA ha hecho que los despachos afronten su transformación digital para ser más competitivos. AL mismo tiempo, los bufetes de abogados han puesto en marcha diferentes programas formativos para que sus profesionales entiendan la actividad de dichos algoritmos y sepan optimizar su tiempo con el uso de esta tecnología más avanzada.
Fundada en 2012, Eticas lleva años realizando auditorías de algoritmos para Gobiernos, compañías e instituciones de todo el mundo con el fin de detectar desarrollos tecnológicos que comprometan derechos fundamentales o malas prácticas.
Con el desarrollo de una metodología única en el mundo, son pioneros en esta práctica que va ocupando un lugar de especial relevancia por el elevado uso de algoritmos en nuestro día a día.
Además, en noviembre de 2020 Ashoka, la organización internacional sin ánimo de lucro referente en emprendimiento social, presentó a Gemma Galdón, fundadora de Eticas Consulting y su auditoría algorítmica como Emprendedores Sociales 2020 de España.
Algoritmos y derechos fundamentales
Esta guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos y de datos que hacen. Y nace con tres objetivos, salvaguardar derechos fundamentales, aportar claridad al marco normativo y ofrecer una metodología replicable al alcance de todos.
Porque las consecuencias ya están presentes en nuestros día a día, con decisiones discriminatorias en procesos de selección laboral, concesión de créditos, seguros o ayudas sociales, los algoritmos pueden discriminar y conllevan importantes riesgos para las compañías o los Estados que los usan, en la mayoría de las ocasiones, sin saber que no se ajustan a derecho o al contexto socioeconómico.
Gemma Galdon, directora de Eticas Consulting, asegura que “cualquier algoritmo debe desarrollarse e implementarse de manera que pueda ser auditado. Especialmente aquellos con impacto social porque suponen un mayor riesgo para la protección de los datos personales y para la privacidad e integridad de las personas”.
Además, destaca que “tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos como si se tratase de auditorías financieras”.
Así, todo algoritmo debe cumplir con lo dispuesto por las normas jurídicas y deontológicas vigentes. En el caso de la protección de datos personales es el marco establecido por el RGPD, así como por la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales, y aquellos textos jurídicos y normas sectoriales relacionados con el ámbito de actuación concreto que sea de aplicación en el caso del algoritmo auditado.
También debe cumplir con las normas y códigos deontológicos relacionados y debe ser diseñado, implementado y revisado desde una perspectiva ética, respetuosa con las normas sociales en materia de privacidad, protección de datos, igualdad, cohesión social, libertad y confianza.
Se espera que el algoritmo respete y promueva el respeto de los derechos fundamentales que puedan verse afectados durante su diseño e implementación, más allá del derecho a la privacidad y la protección de datos (Arts. 7 y 8 CEDH). Esto incluye derechos como la integridad (Art. 3, CEDH) y libertad (Art. 5 CEDH) de las personas implicadas.
Además, a modo de ejemplo, todo método de tratamiento de datos debe quedar reflejado como actividad en un Registro de Actividades del Tratamiento. Por lo que se recomienda que las auditorías algorítmicas verifiquen que el tratamiento realizado por el algoritmo esté adecuadamente recogido en el RAT y recoja toda la información contemplada en el Artículo 30 del RGPD.
En definitiva, las auditorías de algoritmos buscan que los sistemas de Inteligencia Artificial sean más explicables, transparentes, predecibles y controlables por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori.
La metodología para auditar algoritmos, sin embargo, no es sencilla ni está completamente definida todavía, lo cual supone un desafío. Lo que, sumado al desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas, hace imprescindible aportar claridad a las leyes aplicables a los sistemas algorítmicos y acercarlos a la ciudadanía.
Por eso, en esta guía se incluyen desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.
Puedes descargar la Guía de Auditoría Algorítmica completa aquí.
Por @LuisjaSanchez, Periodista Jurídico.
