El Banco de España avisa de los riesgos de la IA para la banca
Supervisión
Advierte del peligro del “comportamiento de rebaño” y de la elevada cantidad de proveedores tecnológicos de fuera de la UE
Soledad Núñez, subgobernadora del Banco de España
La nueva frontera tecnológica en la banca promete un gran salto cualitativo en eficiencia, pero está plagado de riesgos para el sector. La subgobernadora del Banco de España, Soledad Núñez, ha avisado este martes de los peligros de la IA en aspectos como la excesiva confianza de los procesos en proveedores extracomunitarios o el peligro del “comportamiento de rebaño” en torno a la IA. Las máquinas puede provocar estragos en el sistema financiero con el gregarismo de sus algoritmos.
Durante la presentación del último número de la revista de Funcas Papeles de Economía Española, dedicado en esta edición a los retos del sector bancario, Núñez ha avisado de que la IA supone “una ventaja competitiva en costes y eficiencia, pero también implica debilidades y riesgos que ha que mitigar”.
Hay unos cuantos. Uno de ellos tiene que ver con la información que manejan los bancos. “Es esencial que los datos que se introducen en el sistema estén validados y soportados por una gobernanza robusta y estén sometidos a estándares de calidad reforzados”, ha afirmado.
Por el momento, los bancos están acotando el uso de la IA a la evaluación de crédito y a la detección de fraude, pero el Banco de España da por hecho que en el futuro se extienda a otros ámbitos, por que lo que “resulta necesario que se establezcan las bases para que su uso sea seguro, fiable y ético”. En cambio, Núñez no ha concretado quién debería poner esas bases ni si el Banco de España trabaja en algún tipo de código para hacerlo.
El 70% de los proveedores está fuera de la UE y el 50%, en EE.UU.
También ha avisado de la dependencia de proveedores tecnológicos externos. Es un riesgo que hay que “sopesar y mitigar”, ha indicado. Estos operadores terceros ofrecen ventajas de costes, pero es necesario que los bancos mantengan el control sobre los procesos y los datos. Como ha dicho, esta intervención puede afectar a la toma de “decisiones estratégicas”.
Durante la presentación de la revista, Pedro Cuadros, profesor de Cunef, ha comentado que, conforme a los últimos datos de la autoridad bancaria europea, la EBA, el 70% de los proveedores tecnológicos de la banca procede de fuera de la UE, y el 50% de ellos se encuentra en Estados Unidos.
La especialización de tareas “conllevan el reto de dejar en manos de un tercero actividades, procesos o funciones esenciales”, afirma la subgobernadora en el artículo con el que participa precisamente en el último número de la revista de Funcas.
“Comportamiento de rebaño” al compás de los algoritmos
Otro de los riesgos en torno a la IA detectados por el Banco de España es el de “comportamientos de rebaño por homogeneización de algoritmos”. “Es un elemento central, dado que puede poner en peligro la estabilidad financiera en el caso en que se generen reacciones en cadena exacerbando comportamientos sin que exista un fundamental sólido que justifique dicha decisión, o al menos no a esa escala”, indica.
Otros elementos de inquietud son el “mal uso o sesgos en el empleo de los modelos”, asociado a la “falta de transparencia y las dificultades en la explicación e interpretación de los modelos”, además de posibles problemas relacionados con la protección de datos de los consumidores y el aumento de los ciberataques.
De nuevo, como ocurrió antes de la crisis financiera, la complejidad y el oscurantismo juegan en contra de la banca. “Es esencial que los resultados de los modelos que aplican inteligencia artificial puedan ser explicados con transparencia, sobre todo si son usados en áreas de negocio críticas”, señala.