A inteligência artificial (IA) se consolida cada vez mais como grande aliada dos serviços financeiros. Contudo, apesar dos benefícios, a tecnologia também é alvo de preocupação quanto ao seu uso irresponsável.

Segundo o Relatório de Riscos Globais, apresentado no Fórum Econômico Mundial de Davos de 2024, além do risco de propagar desinformação, o uso indevido da IA pode representar novas ameaças para os sistemas de informação desencadeadas por ataques cibernéticos mais refinados.

Motivo pelo qual a tecnologia polarizou os debates durante o evento, o que acabou chamando a atenção para a governança em torno da IA. Na prática, trata-se das regras, princípios e normas que possam garantir que as soluções baseadas nessa ferramenta sejam desenvolvidas de forma responsável.

Na avaliação dos especialistas, essa abordagem é fundamental para contemplar o amplo leque de preocupações e desafios associados à IA, o que também inclui a ética na tomada de decisões, privacidade dos dados, eventual preconceito a partir dos algoritmos e seu impacto em toda a sociedade.

Nesse contexto, o conceito pautou artigo recentemente publicado pela plataforma The Cointelegraph, corroborando que a governança em IA tem como princípio equilibrar os rápidos avanços nessa tecnologia com os valores sociais e éticos, além dos aspectos técnicos e da sua dimensão jurídica.

Principais abordagens

De acordo com a publicação, a governança em IA não segue padrões universais. Na verdade, são construídas abordagens estruturadas do que já estabelecem várias entidades globais, como a União Europeia, o NIST (sigla em inglês para Instituto Nacional de Padrões e Tecnologia) e a OCDE (Organização para a Cooperação e Desenvolvimento Econômico).

Tais abordagens abrangem tópicos como transparência, responsabilização, justiça, privacidade, segurança e proteção, fornecendo uma base robusta para práticas de governança em IA.

Por conta dessa abrangência, as organizações conseguem fazer adaptações conforme as suas necessidades, considerando o seu porte, a complexidade dos sistemas de IA que utiliza e o cenário regulamentar em que se insere.

Em linhas gerais, existem três grandes abordagens: governança informal, governança ad hoc (expressão latina para classificar uma finalidade específica), e governança formal.

A primeira estratégia é a mais básica e se fundamenta nos valores e princípios essenciais de uma organização, envolvendo alguns processos informais, tais como conselhos de revisão ética, mas sem uma estrutura formal criada para esse fim.

Já a governança ad hoc oferece um nível mais estruturado em relação ao formato informal e contempla o desenvolvimento de políticas e procedimentos específicos em resposta aos desafios a eles relacionados. No entanto, pode não ser abrangente ou sistemática.

Por fim, a abordagem formal é o formato mais abrangente ou sistemático, e implica na criação de um quadro de governança capaz de refletir os valores da organização, alinhando-se com a legislação e incluindo, ainda, uma análise em detalhes das ameaças e processos de supervisão ética.

O futuro da governança em IA

Além de considerar essas três principais abordagens, a publicação chama a atenção, ainda, para a importância da cooperação ativa entre todas as partes interessadas na governança em IA tendo em vista o tamanho da sua complexidade.

Isso porque essa participação pode garantir a perpetuação da IA e deve envolver governos, empresas, o meio acadêmico e a sociedade civil.

Desse modo, acredita-se que será possível contemplar múltiplas perspectivas na criação de políticas mais robustas e inclusivas, promovendo, ainda, um sentido de responsabilidade partilhada pelo desenvolvimento ético de soluções em IA e o seu uso.

Outros aspectos a serem considerados acerca do futuro da governança em IA são: novos avanços na tecnologia, evolução dos valores sociais e necessidade de cooperação internacional, visando a harmonização dos quadros regulamentares além-fronteiras. É esse conjunto de fatores que moldará os princípios, regras e nomas que virão.

A expectativa é de que as práticas de IA sustentáveis também sejam enfatizadas, ou seja, aquelas favoráveis ao meio ambiente e economicamente viáveis a longo prazo, com maior foco social.

Dessa forma, a IA orientada para o ser humano prioriza sistemas que melhoram as capacidades humanas e o bem-estar, garantindo que ela sirva como instrumento para aumentar o potencial das pessoas em vez de substituí-las.

Veja mais:

O impacto da inteligência artificial na inclusão financeira

Inteligência artificial: supervisão humana é necessária para garantir conformidade

Inteligência Artificial no Sistema Financeiro: onde se aplica?