O poder computacional, em especial com o surgimento dos sistemas de inteligência artificial e robótica, vem aumentando as chances de substituição do trabalho humano em uma magnitude até então não observada.

Quanto mais repetitiva e menos criativa, principalmente sob condições de trabalho inadequadas, maior é a probabilidade de uma ocupação ser automatizada.

É nesse cenário que organizações dos mais diversos setores se valem da inteligência artificial para finalidades variadas, como aprimorar o atendimento ao consumidor, otimizar os processos de detecção de atividades fraudulentas e simplificar o acesso a dados.

Ao mesmo tempo, é a inteligência artificial que toma decisões autônomas em diferentes atividades do cotidiano das empresas, ao utilizar algoritmos e sistemas de aprendizado de máquina nesse processo, baseada nos dados coletados ou que foram a ela disponibilizados.

Entretanto, embora em muitas áreas o trabalho humano seja passível de substituição, a adoção de sistemas de inteligência artificial pede a intervenção do homem, como quando se pretende um alinhamento às normas, políticas e diretrizes, assim como aos controles internos e externos das organizações, apontam alguns especialistas em tecnologia e negócios.

Entenda como funciona a inteligência artificial clicando aqui.

Compliance na inteligência artificial

De acordo com Telma Luchetta, que é sócia de dados e análises da consultoria EY para a América do Sul, um dos aspectos mais cruciais quando se refere a compliance – ou seja, a conformidade às regras e controles aos quais as empresas são submetidas – no contexto da inteligência artificial, é justamente a supervisão humana.

Segundo Luchetta, o banco de dados em uso pelos sistemas de inteligência artificial será avaliado por meio desse trabalho, evitando, dessa maneira, o que se considera vieses inconscientes.

Em artigo publicado pela Agência EY, ela explica que essas distorções se traduzem em visões preconcebidas sobre determinados temas que usualmente resultam em discriminação contra diversos grupos da sociedade.

Dessa forma, expõe, se um banco de dados estiver distorcido por gênero, por exemplo, a inteligência artificial poderá, consequentemente, levar a uma decisão injusta.

Nesse sentido, ela destaca como exemplo, bancos de dados antigos e incompatíveis, visto que certamente caracterizam uma sociedade não mais representativa da realidade. Afinal, nos últimos anos, uma série de iniciativas vêm sendo adotadas com o objetivo de combater preconceitos.

Resultados e decisões em IA: por que é importante avaliar?

Para resolver os eventuais vieses inconsistentes presentes em bancos de dados que alimentam os sistemas de inteligência artificial, a executiva orienta a definição de parâmetros claros para a tecnologia.

Ainda assim, acrescenta, os comandos devem ser frequentemente revisados a fim de garantir que os sistemas estejam no caminho certo na tomada de decisões e na entrega de resultados.

Só assim, justifica Luchetta, será possível proteger a reputação das organizações, evitando prejuízos financeiros como consequência

Nesse contexto, primeiramente, aponta que é essencial validar internamente os sistemas de inteligência artificial em uso antes de levá-los a público.

Além disso, uma curadoria sobre os bancos de dados que alimentam esses sistemas e a adoção de um manual de padrões éticos para assegurar a transparência e a compreensão dessas ferramentas, completam as boas práticas recomendadas para o compliance no cenário de inteligência artificial.

Sobre esse último ponto, ela destaca que os modelos de inteligência artificial devem ser capazes de permitir que os resultados sejam compreendidos pelos usuários e pelas pessoas afetadas pelas decisões.

Ela relata, inclusive, que já houve casos nos quais os próprios desenvolvedores não souberam justificar por que a tecnologia tomou determinada decisão.

Veja mais:

Inteligência artificial no setor financeiro traz oportunidades e desafios

A inteligência artificial e os desafios macroeconômicos que se apresentam

Saiba quais são os desafios para regular Inteligência Artificial

China avança na regulação de IA generativa e regras chamam atenção do mundo!