Icono del sitio LexGoApp Blog

Algoritmo Legal crea un chatbot que permite a entidades financieras y bancos medir el uso ético de su inteligencia artificial 

El fenómeno del Chatbot es una tecnología avanzada al asistente virtual con cara humana que había años atrás en diferentes páginas webs relacionadas con consumo o viajes.

Esta tecnología se ha ido sofisticando bastante de cara a ofrecer un mejor servicio al cliente. Es otra vía de comercialización y atención al cliente. Quizás el sector de banca y seguros es el que más ha avanzado con el uso de esta tecnología.

En este contexto, la firma de abogados Algoritmo Legal. en colaboración con la Universidad de la Rioja (UNIR) crean Fiabilito un chatbot inteligente. 

En este proyecto que ya está operativo han trabajado conjuntamente los ingenieros especializados en inteligencia artificial Yaiza Argudín , Alberto Martín , Alejandro Núñez  y Carlos Simón  junto con los abogados Ricardo Oliva y Elena Almazán  creando este asistente virtual o chatbot.

El objetivo de este chatbot es el de permitir a las empresas del sector financiero (particularmente a los bancos) realizar una evaluación preliminar acerca de si sus productos o servicios que incorporan algoritmos de inteligencia artificial (IA) garantizan el uso de una inteligencia artificial ética y fiable

Para ello, simplemente se debe iniciar una conversación con el chatbot pinchando la opción “Evaluar mi algoritmo (sector financiero)”. La evaluación se lleva a cabo por medio de un cuestionario de preguntas. Al finalizar la conversación, Fiabilito emite un informe en formato PDF con el resultado de la evaluación realizada. El chatbot se ubica en la parte inferior derecha de la web.

El ideólogo del proyecto ha sido Ricardo Oliva , con el que hablábamos recientemente en LexGoApp,. Un abogado que ha visto en la tecnología su  nicho de especialización para ofrecer su asesoramiento legal.  

Los cuatro ingenieros se han encargado de la parte técnica del proyecto (la programación, el diseño y desarrollo en Dialogflow y lenguaje Python, y su posterior despliegue e integración en la página web). 

Por su parte, los abogados Ricardo Oliva y Elena Almazán se han centrado en todos los aspectos jurídicos del proyecto (estudio a profundidad de la normativa europea e internacional sobre IA) y de alimentar al chatbot con suficiente información jurídica acerca de la inteligencia artificial lícita, ética y robusta. 

Abogados e ingenieros crearon el índice de fiabilidad del chatbot para medir el nivel de fiabilidad de los algoritmos de IA en el sistema financiero.  

El desarrollo de la página web ha corrido a cargo del experto programador Óscar Domínguez

Según nos explica el propio Oliva, el equipo multidisciplinar ha trabajado durante seis meses ininterrumpidos en este proyecto. Algoritmo Legal proporcionó a los ingenieros la documentación necesaria para identificar los requisitos que debe cumplir un sistema de IA fiable en el sector financiero y elaboró una serie de preguntas clasificadas según el uso de la IA en el seno de los bancos. 

Estas preguntas han sido elaboradas siguiendo, particularmente, las Directrices Éticas para una Inteligencia Artificial fiable, publicadas por la Comisión Europea en junio de 2018, la Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial de abril de 2021, y la Recomendación sobre la Ética de la Inteligencia Artificial aprobada por la UNESCO el 18 de noviembre de 2021.

Vinculado al sector financiero 

Oliva aclara que una de las primeras cuestiones que se tuvo que decidir al inicio fue el sector concreto en el que el chatbot debía operar.

Finalmente, se optó por el sector financiero debido a que el uso de algoritmos de IA en dicho sector es cada vez más común y la interacción directa con los usuarios resulta recurrente

Los principales usos de la IA en el sector bancario que se han analizado para la confección de las preguntas que el chatbot realiza a los usuarios, son los siguientes:

  1. Robo advisors.: Un robo advisor es un gestor de inversión completamente automatizado, el cual, gracias a una serie de algoritmos, configura una cartera conforme a tu perfil de inversor y la mantiene ajustada constantemente a ese perfil sin intervención humana.
  1. Trading algorítmico:   es una modalidad de operación en mercados financieros (trading) que se caracteriza por el uso de algoritmos, reglas y procedimientos automatizados en diferentes grados, para ejecutar operaciones de compra o venta de instrumentos financieros.
  1. Scoring crediticio:  El score crediticio es un número de tres cifras que miran las entidades financieras a la hora de otorgar un préstamo o un crédito para evaluar la capacidad de pago de un cliente.
  1. Onboarding financiero. Es la primera interacción de intercambio entre una empresa y el cliente, intercambio de información y, por tanto, de confianza. Este paso clave generalmente representa el mayor reto para la activación exitosa de un prospecto. Es también la mejor oportunidad para comenzar a generar engagement. Esto en el largo plazo se traduce en lealtad y una posición más competitiva para tu empresa.
  1. Sistemas de gestión de riesgo.  Los sistemas de gestión de riesgo se diseñan para identificar los riesgos, cuantificarlos y predecir su impacto en una organización. Estos riesgos se clasifican como aceptables o inaceptables dependiendo de qué tan factible sea funcionar o no con ellos, o teniendo en cuenta si su resolución implicará, por ejemplo, una afectación mayor que la que causa el riesgo en sí mismo.

6. Compliance en materia de prevención del blanqueo de capitales. La política de prevención de blanqueo de capitales de cualquier banco tiene como objetivo la no utilización de nuestra red comercial para actividades relacionadas con el blanqueo de capitales. En algunas ocasiones se detectan operaciones sospechosas mediante la utilización de un software desarrollado en cooperación con una compañía especializada. En ese software los algoritmos son claves para su funcionamiento.

Reunión de trabajo de los profesionales de Unir y Algoritmo Legal.

Un chatbot inteligente 

Nuestro interlocutor nos explica el funcionamiento de Fiabilito.  Para determinar si un algoritmo puede considerarse fiable, el chatbot procede a calcular un índice que mide el grado de fiabilidad y ética de los sistemas de IA implantados por una empresa del sector financiero.

 A cada una de las preguntas que realiza el chatbot se le ha asignado un peso de importancia, de manera objetiva, teniendo en cuenta las posibles vulneraciones a derechos fundamentales que podrían darse.

El chatbot distingue así entre preguntas de importancia alta, media y baja. Las preguntas cuya importancia se considera alta tienen un valor asignado de 1, las de importancia media tienen un valor de 0,6 y las de importancia baja puntúan con 0,25.

Este valor asignado a cada una de las preguntas en función de su importancia será utilizado a modo de penalización en caso de que la respuesta correspondiente sea negativa. Por lo tanto, si se responde con un NO, el chatbot calcula el índice sumando el valor correspondiente a la importancia de esa pregunta. 

Al final, el índice se calcula sumando todas las penalizaciones obtenidas de las respuestas negativas y, si el resultado es mayor o igual que 1, significa que el algoritmo evaluado no supera el test, por lo que no podrá considerarse ético.

Obsérvese que las respuestas a todas las preguntas consideradas de importancia alta deben ser siempre SÍ para poder hablar de IA fiable. 

Fiabilito, finalmente, resume los resultados del cuestionario en un PDF que se genera automáticamente conforme registra las preguntas que son enviadas en el propio cuadro conversacional, de manera que queda disponible para su descarga inmediata por el usuario. 

Nuestro interlocutor destaca que iniciativas como “Fiabilito es un proyecto pionero de I+D legal que demuestra las potentes sinergias que pueden surgir cuando los abogados trabajan de la mano con los ingenieros y científicos de datos”.

Un despacho especializado en derecho de la Inteligencia artificial

Con Fiabilito, Algoritmo Legal predica con el ejemplo, refuerza su área de Derecho de la IA y se posiciona como una firma pionera e internacional de abogados especializados en Inteligencia Artificial

Algoritmo Legal cuenta en su equipo con experimentados abogados expertos en Derecho de la Propiedad Intelectual, Derecho del Software, Protección de Datos y Privacidad, Derechos Humanos y Derecho Mercantil, todos los cuales poseen experiencia nacional e internacional. 

A diferencia de las perspectivas reduccionistas, esta firma aborda la problemática de la IA y diseña sus soluciones jurídicas desde una visión holística. Ricardo Oliva , Elena Almazán, Anne Sophie Firion, Lorena Pérez-Campillo y Alejandro Sánchez del Campo integran el equipo de abogados expertos en Derecho e Inteligencia Artificial de la firma, todos ellos competentes juristas con experiencia nacional e internacional y excelentes personas. La firma cuenta además con un cualificado equipo de ingenieros y científicos de datos especializados en Big Data e IA españoles que serán los responsables de la parte técnica del servicio de auditorías algorítmicas.

Salir de la versión móvil