IA separará a los bancos ganadores de los perdedores, según el 77% de los ejecutivos bancarios encuestados durante COVID-19.
COVID-19 intensificará el uso de IA, haciendo que la gobernanza efectiva sea más urgente.
El informe de la Unidad de Inteligencia de The Economist identifica el sesgo de datos, el riesgo de “recuadro negro” y la falta de supervisión humana como preocupaciones clave.
Esta revisión global independiente consolida los hallazgos de 25 informes regulatorios para proporcionar información profunda y orientación sobre el uso de la inteligencia artificial en la banca.
El sesgo de datos, el riesgo de "caja negra" y la falta de supervisión humana son los principales problemas de gobernanza para los bancos que usan IA, según el informe de la Unidad de Inteligencia de Economist (EIU) "Supervisando la IA: gobernando la inteligencia artificial en la banca ". El informe se basa en una revisión de la orientación reguladora global sobre los riesgos de IA y la gobernanza en la banca realizada por la EIU en nombre de Temenos (SIX: TEMN), la compañía de software bancario. Las tendencias del informe se analizarán en el seminario web "Reglas del cambio de juego: gobernar la IA en la banca" el 23 de julio, con CWB Financial Group, TSB Bank y Temenos. El informe destaca que la IA es una prioridad para la inversión en tecnología para los bancos y revela que el 77% de los ejecutivos bancarios creen que la IA separará a los bancos ganadores de los perdedores. Se espera que la IA mantenga su importancia después de la pandemia, ya que los bancos buscan nuevas tecnologías para ayudarlos a adaptarse a las necesidades cambiantes de los clientes y competir con los nuevos participantes en el mercado. El informe de EIU revela que garantizar decisiones éticas, justas y bien documentadas basadas en IA será vital para que los bancos implementen tecnología de IA. El informe de EIU destaca los desafíos clave de gobernanza y destila orientación normativa para los bancos que utilizan IA, que incluyen:
Ética y equidad: los bancos deben desarrollar modelos de IA que sean "éticos por diseño". Los casos y decisiones de uso de la IA deben ser monitoreados y revisados y las fuentes de datos evaluadas regularmente para asegurar que los datos sigan siendo representativos.
Explicabilidad y trazabilidad: los pasos tomados para desarrollar modelos de IA deben documentarse para explicar completamente las decisiones basadas en IA a las personas a las que impactan.
Calidad de los datos: se deben establecer y aplicar estándares de gobernanza de datos en todo el banco para garantizar la precisión e integridad de los datos y evitar sesgos.
Habilidades: los bancos deben garantizar el nivel adecuado de experiencia en inteligencia artificial en todo el negocio para construir y mantener modelos de inteligencia artificial, así como supervisar estos modelos.
Prema Varadhan, arquitecta jefe de producto y directora de inteligencia artificial de Temenos, comentó: "La inteligencia artificial está cambiando la faz de la industria bancaria. Brinda a los bancos la capacidad de procesar más datos en tiempo real y aprender del comportamiento de los clientes, ayudándoles a mejorar reducen los costos e hiper-personalizan sus servicios. Los bancos están utilizando la inteligencia artificial para transformar las experiencias de sus clientes y las operaciones administrativas, por lo que garantizar que la tecnología se implemente de manera ética es más importante que nunca. Los modelos de “caja blanca”, como la IA explicable de Temenos (XAI), pueden explicar en un lenguaje humano simple cómo se toman las decisiones y ganar la confianza de los reguladores y los clientes por igual. Como custodios de los datos de los clientes y asesores de confianza, los bancos tienen la responsabilidad de adoptar una tecnología de IA transparente y explicable: aquellos que sí pueden obtener la ventaja competitiva en la nueva normalidad ". La revisión de EIU cita el sesgo de datos que conduce a la discriminación contra individuos o grupos de personas como uno de los riesgos más importantes para los bancos que usan IA. Al comentar en la revisión de EIU, Prag Sharma, vicepresidente sénior de Citi Innovation Labs, dijo: “El sesgo puede colarse en los modelos de IA en cualquier industria, pero los bancos están mejor posicionados que la mayoría de los tipos de organizaciones para combatirlo. Maximizar la explicabilidad de los algoritmos ayuda a reducir el sesgo ". Pete Swabey, Director Editorial EMEA - Thought Leadership, The Economist Intelligence Unit, dijo: “La IA es vista como un diferenciador competitivo clave en el sector. Nuestro nuevo estudio, basado en la orientación dada por los reguladores de todo el mundo, destaca los desafíos clave de gobernanza que los bancos deben abordar para capitalizar la oportunidad de IA de manera segura y ética ".
