El documento «Regulating AI in the financial sector.pdf» analiza el uso creciente de la inteligencia artificial (IA) en el sector financiero, particularmente en bancos y aseguradoras, centrándose en sus aplicaciones (detección de fraudes, atención al cliente, suscripción de créditos y seguros) y los riesgos asociados (microprudenciales, macroprudenciales y de protección al consumidor). Examina las directrices internacionales y nacionales sobre la regulación de la IA, destacando temas comunes como la transparencia, la responsabilidad y la equidad, y aborda los desafíos prácticos de su implementación, incluyendo el uso de servicios de IA de terceros y nuevos modelos de negocio. Finalmente, propone áreas que requieren mayor atención regulatoria, como la gestión del riesgo de modelos y la gobernanza de datos. El documento ofrece un análisis de los desarrollos recientes y los retos principales en la regulación de la IA en el sector financiero.
Documento original
Documento resumen
Documento de Resumen: Regulación de la IA en el Sector Financiero
Introducción
Este documento de resumen analiza el informe «Regulating AI in the financial sector: recent developments and main challenges», elaborado por el Financial Stability Institute (FSI) del Banco de Pagos Internacionales (BIS). El informe aborda el creciente uso de la inteligencia artificial (IA) en el sector financiero, los riesgos asociados, las guías regulatorias existentes y los desafíos prácticos para su implementación.
Temas Clave y Hallazgos Principales
- Uso Generalizado de la IA en el Sector Financiero:
- Casos de Uso Comunes: La IA se utiliza en chatbots de atención al cliente, detección de fraude (incluyendo AML/CFT) y en la suscripción de créditos y seguros.
- Aumento de la Inversión: Se espera que el gasto del sector financiero en IA aumente de USD 35 mil millones en 2023 a USD 97 mil millones en 2027.
- Beneficios Potenciales: La IA puede mejorar la eficiencia operativa, la gestión de riesgos y la personalización de productos y servicios.
- Expansión de la IA Generativa (Gen AI): La popularidad de aplicaciones como ChatGPT ha acelerado la adopción de gen AI en el sector financiero. Se espera que el gasto en gen AI en el sector bancario aumente de USD 3.86 mil millones en 2023 a casi USD 85 mil millones en 2030.
- Riesgos Asociados al Uso de la IA:
- Exacerbación de Riesgos Existentes: La IA puede intensificar riesgos como el riesgo de crédito, riesgo de modelo, riesgo operacional, riesgo reputacional, riesgos de conducta y protección al consumidor, y riesgos macroprudenciales.
- Ejemplo: «Admittedly, AI use may heighten some of the existing risks, such as model risk (eg lack of explainability makes it challenging to assess appropriateness of AI models) and data-related risks (eg privacy, security, bias).»
- Riesgos Microprudenciales: Incluyen el riesgo de crédito (subestimación de la probabilidad de incumplimiento), el riesgo de modelo (inexactitud del modelo y falta de explicabilidad), el riesgo operacional (fallos en IT y dependencia de terceros) y el riesgo reputacional.
- Ejemplo: «Lack of model explainability hinders the ability to assess its conceptual/technical soundness.»
- Riesgos de Conducta/Protección del Consumidor: Trato injusto a los clientes, discriminación basada en datos sesgados, y falta de transparencia.
- Riesgos de Ciberseguridad: Uso de la IA por parte de atacantes para realizar ataques más sofisticados, así como la posibilidad de ataques de «envenenamiento de datos» para comprometer la seguridad.
- Ejemplo: «At the same time, cyber criminals can use similar AI tools to conduct more sophisticated cyber attacks through, for instance, targeting vulnerabilities in underlying models or data or generating realistic fake profiles to be used in social engineering attacks.»
- Riesgos de Privacidad de Datos: Posibilidad de manipulación de modelos para filtrar información personal y sensible.
- Riesgos Ambientales: El uso intensivo de la IA aumenta la demanda de energía, lo que contribuye al cambio climático.
- Guías Regulatorias Transversales Específicas de la IA:
- Enfoques Regulatorios:Enfoque Basado en Principios: Confía en principios no vinculantes y estándares técnicos (ej., Singapur, Reino Unido, EE. UU.).
- Enfoque Basado en Reglas: Emite legislación sobre IA (ej., Brasil, China, UE, Qatar).
- Temas Comunes:Transparencia y Explicabilidad: Incluye la interpretabilidad, la auditabilidad y la obligación de proporcionar explicaciones comprensibles de decisiones tomadas por IA.
- Ejemplo: «An explainable AI model makes transparent how it arrived at a certain outcome.»
- Gobernanza y Responsabilidad: Establece responsabilidades para la gestión de riesgos de IA y la rendición de cuentas.
- Fiabilidad/Solidez: Requiere pruebas y monitoreo regulares para asegurar que los modelos de IA funcionen según lo previsto.
- Justicia, Ética y Seguridad: Busca evitar la discriminación y garantizar resultados justos, además de proteger los datos de privacidad.
- Privacidad y Seguridad de los Datos: Enfatiza el consentimiento para el uso de datos personales y su protección contra riesgos de privacidad y confidencialidad.
- Compensación al Consumidor y Alfabetización/Concienciación sobre IA: Exige canales para que los clientes consulten, apelen y soliciten revisiones de decisiones impulsadas por IA.
- Ejemplo: «…financial institutions using AI that may have a significant potential impact on customers should provide them with channels to inquire about, submit appeals for, and request reviews of AI-driven decisions that affect them.»
- Desafíos en la Implementación de la Guía Regulatoria en el Sector Financiero:
- Subscripción de Créditos y Seguros: Áreas donde la IA se utiliza cada vez más y que requieren especial atención regulatoria.
- Ejemplo: «Underwriting is a core process of lenders and insurers that is likely to become a focus for AI regulatory work by financial authorities.»
- Gobernanza y Responsabilidad: Necesidad de contar con personal con habilidades en IA para desarrollar, implementar y gestionar los riesgos.
- Transparencia y Explicabilidad: Dificultad para explicar el funcionamiento de sistemas complejos de gen AI, por lo que existen técnicas en desarrollo como los modelos sustitutos (SMs) y técnicas de importancia de características (FTs) para su analisis.
- Ejemplo: «Use of gen AI in credit and insurance underwriting will further exacerbate explainability challenges.»
- Uso de Servicios de IA de Terceros: Riesgo de dependencia, falta de control, problemas de seguridad de datos y la necesidad de asegurar la explicabilidad y la justicia en las decisiones tomadas por modelos de terceros.
- Ejemplo: «Increased use of third-party services (data providers, AI model providers) could lead to dependency, disruption of critical services and lack of control of processes, which may be exacerbated by vendor lock-in risk and increased market concentration.»
- Nuevos Actores y Acuerdos Comerciales: Necesidad de revisar las regulaciones aplicables a las fintechs y big techs que utilizan IA en la prestación de servicios financieros.
- Importancia de la Colaboración: Es necesario el trabajo conjunto entre el sector público y el privado para definir un léxico común sobre la IA y desarrollar marcos regulatorios adaptables a los avances de esta tecnología.
- Ejemplo: «The presence of various AI definitions across jurisdictions needs to be addressed by international collaboration.»
- Gen AI (Inteligencia Artificial Generativa):
- Capacidades de Gen AI: Genera contenido nuevo como texto, imágenes y música, pero también plantea desafíos relacionados con la falta de explicabilidad, sesgos y «alucinaciones» (generación de respuestas inexactas).
- Ejemplo: «BCBS (2024) highlights the potential of gen Al to hallucinate by generating responses that are inaccurate or inappropriate, and by producing different responses over time, even when given similar questions or prompts.»
- Precauciones en el Uso de Gen AI: Las empresas son cautelosas con la implementación de gen AI para la interacción con clientes debido a riesgos como la mala venta o la falta de claridad sobre la responsabilidad.
- Ejemplo: «Firms seem particularly cautious in using gen AI for customer-facing use cases. This can be attributed to the following: heightened risk exposures, for example potential mis-selling or provision of wrong advice…»
Conclusiones
- La IA ofrece beneficios significativos al sector financiero, pero también plantea riesgos que deben ser gestionados cuidadosamente.
- Las guías regulatorias transversales sobre IA abordan temas clave como la transparencia, la gobernanza y la ética, que se están implementando en el sector financiero a través de regulaciones generales ya existentes.
- La gen AI introduce nuevas complejidades relacionadas con la falta de explicabilidad y la potencialidad de sesgos, lo que requiere un enfoque cuidadoso.
- Es fundamental la colaboración internacional para definir términos comunes y desarrollar marcos regulatorios que se adapten a la rápida evolución de la IA.
- La capacitación de los supervisores y el personal es esencial para garantizar un uso seguro y responsable de la IA en el sector financiero.
Recomendaciones
- Continuar desarrollando e implementando regulaciones claras y adaptativas.
- Invertir en capacitación en IA para supervisores y personal de las instituciones financieras.
- Fomentar la colaboración internacional para armonizar enfoques regulatorios.
- Promover la transparencia y la explicabilidad de los sistemas de IA.
- Establecer mecanismos de reparación para los consumidores que puedan verse afectados por decisiones basadas en IA.
Este resumen proporciona una visión general de los temas y hallazgos clave del documento de FSI. Los lectores deben referirse al documento original para un análisis más completo y detallado.
Preguntas frecuentes
Preguntas Frecuentes sobre la Regulación de la IA en el Sector Financiero
1. ¿Cuáles son los principales casos de uso de la IA en el sector financiero?
Las instituciones financieras están empleando la IA de diversas maneras, siendo las más destacadas: chatbots de atención al cliente para soporte y resolución de dudas; detección de fraudes y actividades sospechosas, incluyendo para propósitos de lucha contra el lavado de dinero y financiación del terrorismo; y en la suscripción de créditos y seguros, para evaluación de riesgo, puntuación de crédito y predicción de riesgos. La IA también se usa para mejorar la eficiencia operativa, facilitar la gestión de reclamos y analizar grandes volúmenes de datos no estructurados para establecer primas de seguro.
2. ¿Qué riesgos plantea el uso de la IA en las finanzas y cómo se están abordando?
El uso de la IA en el sector financiero conlleva riesgos significativos, que en gran parte, se superponen con los riesgos tradicionales que ya preocupan a las autoridades financieras. Estos incluyen riesgos microprudenciales (riesgo de crédito, modelo, operacional, reputacional), riesgos de conducta y protección al consumidor, y riesgos macroprudenciales o de estabilidad financiera. La IA puede exacerbar estos riesgos, especialmente el riesgo de modelo (falta de explicabilidad) y riesgos relacionados con datos (privacidad, seguridad, sesgos). Para abordarlos, las autoridades buscan establecer marcos de gobernanza sólidos, gestión de riesgos y controles adecuados, además de aclarar cómo las regulaciones existentes se aplican a la IA, incluso considerando la necesidad de regular áreas específicas de forma más detallada.
3. ¿Qué significa la falta de una definición global de «IA» y por qué es un problema en el sector financiero?
Actualmente, no existe una definición globalmente aceptada de «IA» para fines regulatorios en el sector financiero, lo que crea desafíos importantes. Esta falta de consenso hace difícil distinguir claramente entre sistemas de IA y no-IA, así como comprender la diversidad de tipos de IA. Esta ambigüedad es especialmente problemática para empresas que operan globalmente, pues las definiciones varían ligeramente entre jurisdicciones, creando incertidumbre sobre qué tecnologías se consideran IA y cómo deben ser reguladas.
4. ¿Cómo están lidiando las autoridades financieras con el uso de la IA en la suscripción de créditos y seguros?
La suscripción (underwriting) de créditos y seguros es una área donde la IA está ganando mucha atención regulatoria. Las autoridades están enfocadas en garantizar que las instituciones financieras mantengan una adecuada gobernanza y rendición de cuentas, que los modelos de IA sean transparentes y explicables (que se entienda cómo llegan a sus conclusiones) y que se gestionen de manera adecuada los riesgos asociados con servicios de terceros y la seguridad de datos. Se busca que la IA no discrimine injustamente a los clientes, que los procesos sean justos y que se establezcan mecanismos claros para reclamaciones y revisiones. La complejidad de la IA, especialmente de los modelos generativos, y la falta de entendimiento de cómo operan, hace particularmente desafiante esta supervisión.
5. ¿Qué retos plantea el uso de IA de terceros y cómo se aborda el tema de la rendición de cuentas en este contexto?
El uso de servicios de IA de terceros es muy común en el sector financiero, generando dependencias y riesgos de concentración en pocos proveedores. Esto dificulta que las instituciones financieras tengan visibilidad completa sobre el funcionamiento de los modelos. Si bien la responsabilidad final recae en la institución que utiliza el servicio, las autoridades deben examinar si es necesario una supervisión más directa de estos proveedores. Además, es difícil asegurar la transparencia y la explicación de decisiones impulsadas por modelos de terceros, lo cual puede llevar a que las instituciones financieras carguen con la reputación cuando algo sale mal, incluso si no tienen control total sobre la IA.
6. ¿Cuáles son los principales temas que abordan las guías regulatorias sobre IA, y por qué son importantes?
Las guías regulatorias sobre IA suelen centrarse en temas como: transparencia y explicabilidad (necesidad de entender cómo funcionan los modelos y cómo se toman decisiones), gobernanza y rendición de cuentas (roles y responsabilidades en la gestión de IA), fiabilidad y solidez (garantizar que la IA opere según lo previsto y no cause daño), justicia, ética y seguridad (uso no discriminatorio de la IA), privacidad y seguridad de datos (protección de la información personal), reparación al consumidor y alfabetización en IA (educar a los consumidores y ofrecer mecanismos para quejarse y buscar soluciones en caso de problemas). Estos temas son importantes porque buscan alinear el uso de la IA con principios de justicia, responsabilidad y protección del consumidor.
7. ¿Cuál es la diferencia entre el enfoque regulatorio basado en principios y el basado en reglas en el ámbito de la IA?
Las jurisdicciones están adoptando diferentes enfoques para la regulación de la IA. Algunas prefieren un enfoque basado en principios, que se apoya en guías y estándares no vinculantes y que dan flexibilidad para la evolución rápida de la IA. Otras prefieren un enfoque basado en reglas, estableciendo leyes específicas con un marco más estricto y capacidad para sancionar incumplimientos. El enfoque basado en principios es más adaptable, pero puede carecer de claridad y exigibilidad. El enfoque basado en reglas ofrece más claridad pero puede ser menos adaptable a la rápida evolución de la IA.
8. ¿Cómo influye la IA generativa (gen AI) en los desafíos y riesgos en el sector financiero?
La IA generativa, como ChatGPT, plantea nuevos desafíos, aunque en su mayoría son extensiones de riesgos ya existentes. Específicamente, la IA generativa dificulta la explicabilidad, ya que los modelos son muy complejos y sus resultados pueden variar incluso con la misma entrada. Hay preocupación por la «alucinación» de los modelos (generar respuestas incorrectas o inapropiadas), y los sesgos en la información utilizada para entrenarlos. Además, la accesibilidad de esta tecnología puede llevar a una dependencia excesiva y un menor control por parte de las instituciones financieras. Esto ha impulsado a que algunas empresas prohiban su uso hasta que se establezcan mejores controles y salvaguardas. Sin embargo, se reconoce que tiene un gran potencial de mejorar procesos y la experiencia del cliente.