A pesquisa "Data Bias: The Hidden Risk of AI" ("Viés de dados: o risco escondido da IA”, em português) mostra que entre empresas brasileiras, 57% afirmam sofrer com o viés de dados, 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões, e 75% confirmam que precisam fazer mais para lidar com esse problema.

Patrocinado pela empresa de software para desenvolvimento de aplicações Progress e realizado pela empresa de pesquisa independente Insight Avenue, o estudo é baseado em entrevistas com mais de 640 profissionais de negócios e TI em todo o mundo, em cargos de direção e acima, que usam dados para tomar decisões e que usam ou planejam usar inteligência artificial (IA) e aprendizado de máquina (ML ou machine learning, em inglês) para apoiar suas tomadas de decisão. 

Os vieses da dados muitas vezes são herdados por experiências culturais e pessoais daqueles que constroem os modelos de inteligência artificial e de machine learning, produzindo resultados inesperados e potencialmente prejudiciais às pessoas e organizações. No entanto, apesar do risco de armadilhas legais e financeiras, há uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz.

A pesquisa indica que, no mundo, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão atualmente tratando disso e têm um processo de avaliação contínuo. 

No caso do Brasil, 96% dos líderes de negócios e TI acreditam em um potencial aumento das oportunidades de mercado com o uso de recuros de IA e ML, 92% dizem que isso trará mais atratividade para o cliente e uma tomada de decisão mais eficaz e 90% pensam que isso ajudará a melhorar a diversidade e a inclusão.

Entre os principais riscos de não abordar adequadamente o viés de dados, 61% dos executivos brasileiros citam possíveis danos à reputação e credibilidade, além de que 57% deles estão preocupados com problemas de segurança e governança.

Entre as maiores barreiras apontadas, 47% dos executivos enfrentam uma falta de ferramentas para identificar e mitigar o fenômeno, 45% sentem que não têm a compreensão sobre a melhor maneira de evitar o viés de dados e 43% mencionam a falta de conscientização de possíveis enviesamentos.

Os resultados da pesquisa também mostram que:

80% dos líderes brasileiros acreditam que a ética em torno da automação de decisões se tornará mais importante e urgente nos próximos dois anos;

78% das organizações no Brasil preveem tornar-se mais dependentes de IA/ML para a tomada de decisão nos próximos anos;

71% das empresas brasileiras estão trabalhando para garantir a integridade dos conjuntos de dados a fim de evitar e resolver problemas com o enviesamento de dados.