La reciente aprobación por parte del Parlamento Europeo de la primera legislación que regula el uso de la inteligencia artificial (IA) marca un hito significativo en el panorama financiero y tecnológico. Esta regulación, basada en criterios de riesgo, reconoce la necesidad de abordar de manera rigurosa el uso de la IA en diversos campos, incluido el de la concesión de créditos en entidades financieras.
A este respecto la AI Act, como se conoce la regulación europea, establece que el otorgamiento de préstamos es una actividad de alto riesgo y, por lo tanto, debe poder explicarse de forma transparente cómo se toman las decisiones. La trazabilidad y la explicabilidad de los modelos que dictaminan la concesión o no de los créditos va a estar, pues, bajo el foco.
Las entidades financieras se enfrentan a un creciente deseo de adoptar modelos de IA debido a su mayor poder predictivo, que permite elaborar perfiles de riesgo más ajustados con el consiguiente aumento de precisión a la hora de evaluar la capacidad de pago de los usuarios y de determinar los límites óptimos de cada crédito. Esto tiene un impacto directo en el negocio de las entidades financieras, que, manteniendo el mismo nivel de apetito al riesgo, pueden aumentar la concesión y la captación de nuevos clientes.
Reguladores y supervisores bancarios reconocen también cada vez más las ventajas de este tipo de modelos avanzados y trabajan también para poder entenderlos y aprobarlos. Un ejemplo claro es el del Banco Central Europeo, como expone Elizabeth McCaul, miembro del Consejo de Supervisión del BCE en un artículo del pasado 26 de febrero. En ese mismo artículo pone de manifiesto lo que es una realidad para todos los que trabajamos en la industria del crédito: que la adopción de modelos de IA conlleva desafíos importantes en términos de transparencia y comprensión de cómo se toman las decisiones y los supervisores van a exigir su cumplimiento. El objetivo es evitar posibles sesgos que hagan del acceso al crédito una actividad discriminatoria.
Siguiendo la estela de Spiderman
Parafraseando el clásico de las películas de Spiderman: “un gran poder conlleva una gran responsabilidad”. Y eso es, en cierto modo, lo que pasa con los modelos de IA y la trazabilidad para las áreas de Riesgos.
Los modelos avanzados, especialmente los de aprendizaje automático (machine learning), los más extendidos en la banca, son a menudo percibidos como «cajas negras» y su explicabilidad es un reto de dimensiones colosales en el escenario actual.
Sin embargo, el efecto black box es algo que AIS superamos exitosamente hace varios años. Movidos por una necesidad propia de disponer de una herramienta que nos ayudara a trazar y validar internamente las decisiones de los modelos avanzados que desarrollábamos, creamos AIS Master. Su potencia para explicar los modelos y sus procesos de decisión transformó ese instrumento interno en una solución con la que proporcionamos a los equipos de expertos las capacidades necesarias para comprender y analizar modelos de riesgo basados en IA.
¿Quieres conocerla en detalle?
