Uma nova pesquisa da Universidade de Bath mostra que a discriminação contra mulheres piora se a Inteligência Artificial (IA) for usada por credores para empréstimos, mas que credores éticos podem escolher ajustar os algoritmos de IA para lidar com esse preconceito e ainda melhorar seus lucros, bem como a reputação de sua marca.
O estudo sobre o papel das comissões da equipe de vendas nas decisões de empréstimos tomadas em concessionárias de automóveis no Canadá destacou que o uso de IA aumentou significativamente os lucros dos credores e não intensificou os preconceitos existentes contra grupos de clientes que foram tradicionalmente marginalizados pela sociedade — com a gritante exceção das mulheres.
“Descobrimos que os credores poderiam aumentar os lucros aplicando técnicas de aprendizado de máquina a milhares de empréstimos de carros. No entanto, esse lucro vem com uma desvantagem considerável: a IA pode tornar os acordos de empréstimos de carros desproporcionalmente menos favoráveis para mulheres, exacerbando a injustiça social no sistema”, disse o Dr. Christopher Amaral, da Escola de Administração da Universidade.
A pesquisa mostrou que os credores que empregam IA para otimizar as comissões da força de vendas podem aumentar os lucros anuais em até 8%, mas isso tem um custo maior para as mulheres. No entanto, os pesquisadores identificaram que o preconceito contra as mulheres pode ser mitigado ajustando os algoritmos de IA por trás das comissões de vendas e ainda resultar em um aumento de lucro de até 4%.
Os pesquisadores programaram o algoritmo de aprendizado de máquina para maximizar os lucros, ao mesmo tempo em que o restringiam para garantir que as mulheres não fossem mais prejudicadas. Eles descobriram que as organizações ainda podiam aumentar seus lucros obtendo-os do grupo não marginalizado – os homens.
“Isso ressalta o impacto positivo que a IA pode ter no bem-estar social e, ao mesmo tempo, beneficiar as empresas com melhorias imediatas nos resultados financeiros e benefícios de reputação a longo prazo devido ao comportamento equitativo e socialmente responsável”, disse o Dr. Amaral, autor do estudo Otimizando a delegação de preços para forças de vendas externas por meio de comissões: uma investigação empírica.
O Dr. Amaral disse que o preconceito contra as mulheres neste setor foi bem documentado, com pesquisas recentes mostrando que os vendedores negociam termos de empréstimos menos favoráveis para mulheres do que para homens. Algumas pesquisas sugerem que esse resultado pode ser devido aos vendedores presumirem que as mulheres são menos capazes de avaliar se os termos de empréstimos são justos devido a terem menos conhecimento do que os homens sobre tipos específicos de produtos, como empréstimos para carros, mas também devido às mulheres não serem tão assertivas quanto os homens.
“Para aliviar a injustiça e evitar ações de reguladores, pode parecer que a abordagem prudente é que as empresas se afastem completamente da IA - mas isso sacrifica o aumento nos lucros possível com ferramentas de IA. Nós argumentaríamos que há um meio termo – que a IA pode ser usada de forma mais responsável para equilibrar o trade-off entre lucros e justiça social”, disse o Dr. Amaral.
“Não há dúvida de que a IA, usada irrefletidamente, pode piorar a discriminação contra as mulheres. Mas, se usada de forma responsável, a IA não é a ameaça que a sociedade frequentemente retrata. Em vez de limitar o uso da IA, devemos encorajar as empresas a usá-la de forma responsável, garantindo que ela beneficie tanto seus objetivos comerciais quanto a equidade social”, disse o Dr. Amaral.
O estudo foi coautorado pelo Dr. Ceren Kolsarici e pelo Dr. Mikhail Nediak da Smith School of Business da Queen’s University, no Canadá.
