El pasado 22 de noviembre, desde ASUFIN participábamos en el III FORO ANUAL FINSALUD, sobre exclusión financiera y en concreto, en una mesa de debate sobre la inteligencia artificial y la inclusión financiera. A continuación, destacamos algunas de las principales cuestiones que quisimos poner de manifiesto, desde la perspectiva de la defensa de los derechos e intereses de los usuarios financieros.
Plena inclusión sin IA de por medio
Antes de abordar las implicaciones de la IA en sector, conviene reflexionar sobre la propia actividad financiera y la evolución de su proceso de digitalización, observando así, que no se está garantizando la plena inclusión. Esto tiene amplias implicaciones en términos de derechos para los usuarios financieros, sobre todo teniendo en cuenta que el acceso a los servicios financieros básicos debe entenderse, en sí mismo, como un derecho que, además, de verse vulnerado, puede materializar la vulneración de otros.
Sumamos, además, un “efecto secundario” de la digitalización que es la optimización por eficiencia que, junto al fenómeno de concentración bancaria, lleva a las entidades al cierre de oficinas y cajeros. Y aquí, de nuevo, encontramos afectados a los mismos colectivos: entorno rural o zonas, en las grandes ciudades y sus periferias, que suelen coincidir con las que presentan datos más bajos en renta per cápita… Doble vulnerabilidad para los mayores y personas con discapacidad que, además, se encuentren en estas zonas.
Con todo esto, queremos advertir de que la exclusión financiera es intrínseca a la actividad financiera tal y como se desarrolla en su «estado natural» y que, por tanto, hay que vigilar y corregir estos fallos. Si a este estado de situación incorporamos sistemas de IA, pensando en sus beneficios para la actividad, estaremos reproduciendo una actividad que produce externalidades tan negativas como las mencionadas en términos sociales y de derechos. Si, desde una óptica más positiva, consideramos que la IA pueda contribuir, precisamente a solucionar problemas que hasta ahora no se han podido enfrentar con el éxito deseable, como es este de la exclusión financiera, habrá que hacer primero este ejercicio, honesto y consciente, que detecte factores e inercias que provocan las situaciones de exclusión actuales. A este propósito también buscamos contribuir desde ASUFIN, como se puso de manifiesto en nuestro Congreso Anual 2023.
Los riesgos de la IA para la inclusión financiera
Los principales riesgos que comporta la incorporación de los sistemas de IA a la actividad financiera, serían:
- La brecha digital, aunque no sea exclusiva de la IA, no debemos olvidarnos que la falta de acceso a la tecnología por parte de ciertos grupos de la población suele ir vinculada a situaciones económicas y sociales de especial vulnerabilidad. Por tanto, avanzar en soluciones basadas en tecnología para el acceso a los servicios financieros y bancarios, aleja a estas personas de una solución financiera ahondando en su situación de vulnerabilidad.
- El sesgo algorítmico: como consecuencia de lo apuntado con anterioridad, si se entrenan con datos sesgados, los algoritmos reproducirán exponencialmente estos sesgos sistémicos, llevando a decisiones injustas y discriminatorias en la prestación de los servicios financieros a determinados colectivos.
- La falta de confianza y transparencia: si los ciudadanos y, en concreto los usuarios financieros no entienden, mínimamente, cómo funcionan los algoritmos de IA o no confían en ellos, se mostrarán reticentes a utilizar los servicios basados en esta tecnología. Esto puede suponer que determinadas personas no accedan a determinadas soluciones, servicios o productos por decisión propia, pero sin que podamos decir que sea una decisión voluntaria y que, desde luego, podrá tener consecuencias en sus finanzas o bienestar futuro (si pensamos en la industria aseguradora).
Transparencia, rendición de cuentas, garantía de acceso equitativo y educación financiera
Además de las necesarias medidas regulatorias y la preparación de los supervisores para la incorporación de estos sistemas en el sector, cabe exigir a las entidades el máximo compromiso y medidas encaminadas a garantizar:
- Máxima transparencia: mediante la publicación de principios y políticas claras sobre el uso de la IA en sus servicios financieros, así como la explicabilidad de los algoritmos en cuanto a la toma de decisiones;
- Evaluación y mitigación de sesgos desde el diseño: tanto en la incorporación de datos diversos y representativos de diferentes realidades, como mediante auditorías externas y periódicas de sus algoritmos;
- Garantía de acceso equitativo: mediante la incorporación de controles y medidas correctoras de factores de exclusión, pero también en el aseguramiento de que los servicios basados en IA sean accesibles y comprensibles para todos los usuarios, incluidas las personas con discapacidades o poca experiencia tecnológica.
- Educación financiera: las entidades deben incorporar a su educación financiera programas específicos para el conocimiento y comprensión de sus servicios basados en IA.
