Um mapeamento com mais de 3000 empresas de 89 países da consultoria Gartner identificou que a adesão à inteligência artificial por empresas cresceu 270% entre 2015 e 2019. No mercado financeiro, a consultoria Insider Intelligence, focada em mercado digital, mapeou que 80% das instituições financeiras veem grande benefício na adesão à IA, seja em relação à redução de custos ou desenvolvimento de novos produtos e serviços. Há uma percepção geral no setor, portanto, que a IA tem um enorme potencial de gerar benefícios e que estes ainda não foram completamente explorados.
Embora a indicação de benefícios trazidos pela IA seja clara, na prática existem riscos associados ao seu desenvolvimento, também presentes no setor financeiro, que podem levar a um balanço negativo de seu uso, o que pode demandar atuação por parte de reguladores. A tendência é, portanto, de um maior movimento normativo de iniciativas regulatórias para inteligência artificial.
Inteligência artificial no mercado financeiro: um caso de destaque
Na última década, o setor financeiro passou por uma transformação digital praticamente sem precedentes, com novos modelos de negócios surgindo a partir da aplicação de inovações tecnológicas e culminando no crescimento das fintechs. O desenvolvimento de aplicações para inteligência artificial teve um papel importante nesse processo.
As mais simples envolviam a oferta de serviços de gerenciamento em que informações de gestão de recursos são disponibilizadas por meio de mensagens de texto ou chats on-line alimentados por IA. Com o tempo, a tecnologia começou a ser usada para atividades mais complexas, como detectar mudanças nos padrões de transações que podem significar fraude e sinalizá-las às instituições e ao consumidor, minimizando perdas.
Hoje, a inteligência artificial é usada até para atividades centrais como avaliar melhor os riscos de empréstimos, inclusive permitindo identificar a adequação de certas atividades a critérios de sustentabilidade no caso de empresas buscando crédito. No caso do crédito ao consumidor, a IA tem sido usada para personalizar ofertas que estejam mais próximas das reais necessidades do cliente.
A Insider Intelligence chegou a mapear que implementar essas aplicações de inteligência artificial, e quaisquer outras relacionadas a automação e personalização, pode levar a uma economia de custos de até US$ 447 bilhões para instituições financeiras da América do Norte. Grande parte dessa economia vem da IA ser fundamental para a movimentação do setor financeiro para o mundo online, mais especificamente mobile, em que há menor dependência de agências e atendimento físico.
Mas a IA tem um impacto transformador ainda maior no setor financeiro quando se considera que, além de permitir novos produtos e modelos de negócio, ela está facilitando também o compliance com a regulação. Empresas de RegTech começaram a oferecer soluções que usam IA para tornar mais precisa a identificação de transações suspeitas, reduzindo o custo de compliance com a legislação contra lavagem de dinheiro. A título de exemplo, o mesmo mapeamento da Insider apontou que 90% das transações identificadas como de risco nos EUA são falsos positivos. Soluções que melhorem esse monitoramento, portanto, teriam grande potencial de melhorar a eficiência dos processos e reduzir seus custos.
O setor financeiro, portanto, já vem se beneficiando do crescimento da inteligência artificial e, ainda assim, novas possibilidades de transformar o setor com redução de custos e novas formas de gerar receita continuam surgindo. Faz sentido, portanto, a aposta que especialistas fazem nessa tecnologia como central para o futuro do mercado.
No entanto, da mesma forma que o setor financeiro é uma boa lente por meio da qual entender o potencial da inteligência artificial de facilitar a vida de empresários e consumidores, ele também evidencia os principais riscos trazidos por ela.
No entanto, da mesma forma que o setor financeiro é uma boa lente por meio da qual entender o potencial da inteligência artificial de facilitar a vida de empresários e consumidores, ele também evidencia os principais riscos trazidos por ela. Sendo um setor que envolve o dinheiro e informações sensíveis do consumidor, quaisquer problemas derivados de riscos como viés, qualidade dos dados e ética são potencializados.
Na prática, a teoria é outra: os riscos que a inteligência artificial traz ao mercado
Para além do habitual debate sobre a substituição do trabalho humano, os questionamentos envolvendo os riscos da inteligência artificial não têm sido poucos. O tema tem ganhado destaque e visto o crescimento tanto da pesquisa acadêmica dedicada à compreensão do fenômeno, como de cargos dedicados ao assunto em empresas. No caso do setor financeiro, 4 dos riscos destacados nesse meio chamam atenção: viés, explicabilidade, qualidade dos dados e gerenciamento de riscos dos modelos.
A experiência vem mostrando bons motivos para que nos preocupemos com a possibilidade da inteligência artificial aumentar em vez de diminuir o viés nas tomadas de decisão. Mais do que isso: poder legitimar o viés sob um véu de tecnicidade. A explicação geral dos especialistas que apontam tal risco é a de que a tecnologia é amoral: ela “aprende” sem considerar restrições éticas ou legais, a não ser que estas sejam detalhadamente programadas de forma prévia.
Alguns casos ajudam a entender o problema: aplicações de IA para crédito, se mal desenhadas, podem penalizar consumidores por critérios como gênero e raça, absorvendo vieses da sociedade e o replicando como algo “técnico” decidido por uma máquina, agravando a marginalização de certos grupos dentro do sistema financeiro.
As questões de explicabilidade e qualidade dos dados estão relacionadas ao processo acima. Explicabilidade é a preocupação de que certas atividades estão sendo automatizadas sem que haja compreensão de como exatamente as decisões vão sendo tomadas na medida em que a inteligência artificial aprende, dificultando a garantia de accountability do processo. Assim, fica ainda mais difícil identificar e corrigir vieses, por exemplo. Os riscos, portanto, se alimentam.
Já a preocupação com a qualidade dos dados vem do fato de as escolhas da IA serem tão boas quanto as informações nas quais elas se baseiam e nem sempre haver garantias de que estes serão bons o suficiente para minimizar problemas como viés, e outros. Um exemplo é a aplicação para identificar transações suspeitas: dados de qualidade ruim e falta de explicabilidade podem levar a resultados desastrosos em termos de prevenção de fraude e compliance regulatório.
Tudo isso culmina na preocupação com o gerenciamento de risco dos modelos: na medida que a inteligência artificial é mais usada e se torna cada vez mais complexa, se tornará cada vez mais difícil para os responsáveis gerenciarem tais riscos, de modo que as consequências podem tomar proporções ainda maiores. E a dimensão das consequências não é a mesma entre uma inteligência artificial que faz recomendações ruins no streaming e uma que não aprova crédito por conta da cor da pele ou sexo de uma pessoa. Ou ainda uma que aprova uma transação em que há grande perda de recursos por fraude.
O setor financeiro, portanto, pode ser tanto uma vitrine dos benefícios como dos grandes riscos associados. Assim, há necessidade de equilibrar expectativas: da mesma forma que pode trazer imensos benefícios para o mercado financeiro e para a sociedade em geral, a inteligência artificial pode aprofundar problemas que hoje buscamos resolver. Como garantir que sigamos o caminho de um saldo positivo da aplicação em escala dessa tecnologia? A resposta está sendo buscada por reguladores.
A regulação da IA pode resolver o problema? Singapura e UE definem tendências
A compreensão de que o crescimento da inteligência artificial pode levar a um saldo final negativo para o setor e sociedade têm levado a discussões sobre como mitigar riscos. Duas experiências chamam atenção: Singapura e União Europeia.
Singapura tem, desde 2019, uma Estratégia Nacional de Inteligência Artificial que tem como objetivo ser o líder na implementação de soluções de IA, mas foi no final de 2021 que a autoridade monetária (MAS) anunciou uma iniciativa específica para o setor. O Programa Nacional de IA em Finanças foca especificamente em induzir um desenvolvimento do uso da IA no setor mitigando os riscos mencionados, com uma das 5 iniciativas focando na governança e garantia de que aplicações sejam baseadas em princípios de equidade, ética, responsabilidade e transparência.
Tendo sido anunciado no final de 2021 e sendo uma iniciativa de incentivo e não marco regulatório, o programa não chega a oferecer uma resposta clara sobre como mitigar os riscos, mas os reconhece e oferece orientação e planejamento para que o setor não cresça sem oversight. Tal mentalidade deveria ser replicada e pode ser decisiva para definir quão positivas serão as transformações da IA no mercado financeiro e na sociedade.
É o que busca a UE, mas a região foi mais longe e busca aprovar um marco regulatório de inteligência artificial no qual define um plano para identificar setores e aplicações de alto risco. O objetivo é impor regras e avaliações prévias para garantir conformidade em termos de segurança, justiça e proteção de dados antes de serem lançados no mercado. Apesar de ter um caráter impositivo ao invés de apenas orientador, o objetivo permanece: não permitir que a IA possa crescer enquanto mercado sendo baseada em dados de baixa qualidade, pouca compreensão dos processos de aprendizado dos algoritmos, invasão de privacidade e quebra de princípios éticos, dentre outros.
Com o debate apenas começando, há mais perguntas que respostas sobre os instrumentos mais adequados para mitigar os riscos da inteligência artificial. O que já é possível identificar é que esses riscos existem, podem prejudicar a sociedade se o setor crescer sem mitigá-los e a atuação dos reguladores para lidar com a questão é, hoje, a melhor aposta para que as pessoas de fato se beneficiem do que a inteligência artificial pode oferecer. Olhar para quem saiu na frente desse debate pode, portanto, oferecer um ponto de partida.
Bruna Cataldo é pesquisadora do Instituto Propague e doutoranda em economia pela UFF.
Veja mais:
Os riscos da Inteligência Artificial aumentam o debate da regulação
Singapura busca o futuro da tecnologia e do sistema financeiro na Inteligência Artificial
