Como as empresas podem eliminar os vieses de seus dados, segundo o Chief Data Officer da Mastercard

Há seis anos na empresa, o executivo é responsável por garantir a qualidade dos dados usados pela Mastercard por meio da governança da inteligência artificial. Ele usa as expressões data readiness (“prontidão de dados”) e data accuracy (“precisão de dados”) para definir como devem ser os serviços fornecidos pela empresa para grandes clientes, como os bancos. “Precisamos garantir a eles que estamos usando a melhor qualidade de dados possível - não apenas corretos, mas transparentes, com suas origens checadas e aprovadas”, diz.

Crítico do que chama de “hype da inteligência artificial”, o CDO diz que ainda há muito trabalho pela frente para garantir bons modelos, informação de confiança, dados que deem o suporte necessário às melhores tomadas de decisão.. “Por isso trabalhamos com human in the loop, quer dizer, seres humanos no sistema, avaliando os dados e diminuindo o risco para os parceiros.”

Confira os principais trechos da entrevista.

Uma de suas principais missões dentro da Mastercard é tentar garantir a qualidade e a precisão dos dados usados pelos modelos de linguagem da empresa. Como isso é feito?

Vai depender muito do objetivo. Por exemplo, nós precisamos determinar a confiabilidade dos vendedores que trabalham conosco. Para isso, o nome e a localização desse comerciante é fundamental, então temos funcionários checando isso o tempo todo, tanto por canais internos quanto por meio de fontes independentes. Há todo um processo criado para isso. E há inúmeros casos onde a investigação é específica. Por exemplo, já tivemos que checar um caso em que o cartão não havia sido usado, mas o chip sim, o que é tecnicamente impossível, daí o sistema já vai em busca de uma possível fraude. Quer dizer, nós sabemos quais são os elementos mais importantes para identificar se um golpe está acontecendo. Nunca vamos alcançar um nível de segurança de 100%. Mas dá para chegar perto, se você souber quais são os elementos na sua análise de dados que fazem a diferença, e nos quais deve investir seu tempo e dinheiro.

Você disse que há um grande investimento para tentar evitar os vieses. Acredita que todas as companhias deveriam estar fazendo isso também?

Todas as empresas com grandes volumes de dados deveriam estar tentando eliminar os vieses. Grandes companhias de tecnologia, varejistas físicos ou do e-commerce. Muitos deles já estão fazendo isso para garantir que seus dados estão “limpos”. Porque traz muito mais valor para esses dados, o que é bom para os negócios. Então faz sentido, tanto de uma perspectiva estratégica quanto de gestão responsável de dados.

Você acredita que praticar a IA Responsável sempre ajuda a trazer lucros para os negócios? Imagino que muitos donos de empresas pensem de maneira diferente.

Veja bem, acho que muitos de nós ainda estão na fase de experimentação no que se refere à IA generativa, tentando descobrir onde estão as fronteiras. E alguns fazem só o que realmente acreditam ser bom para os negócios. Uma companhia de IA anunciou recentemente que seu consumo de energia cresceu 30% [em maio, a Microsoft disse que suas emissões aumentaram 30% desde 2020]. Eu leio isso e fico pensando, quanto dinheiro isso custou à companhia? Então havia uma boa razão estratégica para ele ter restringido o consumo de energia, é isso que eu quero dizer. Há muitos casos em que os objetivos dos negócios podem se alinhar com a questão da responsabilidade. E também há escolhas a serem feitas. Devo usar IA para rastrear pessoas pelo planeta? Não. Mas posso usar para encontrar uma criança que se perdeu dos pais? Sim. Então onde está o limite e como o delimitamos? Não tenho a resposta ainda. Por isso vivemos tempos interessantes. Só espero que nós aprendamos a usar a IA nas circunstâncias certas.

Algumas companhias estão usando dados sintéticos para tentar resolver os problemas com escassez de dados reais, e também para corrigir a questão dos vieses. Como vê essa alternativa?

Sim, chegamos ao ponto em que não há dados suficientes para treinar os modelos de fundação, então alguns estão se voltando para essa alternativa, criando dados a partir de pessoas reais, simulando amostras a partir de um determinado conceito de diversidade, buscando uma precisão estatística para esse processo. Mas a verdade é que não sabemos ainda se isso vai funcionar. É uma boa metodologia? Vai resultar em bons produtos? Dados sintéticos corrigem ou reforçam os vieses? Pessoalmente, acho que ainda há muito a provar neste campo. Só vamos descobrir na medida em que treinarmos os modelos. Pode melhorar, ou podemos tornar as coisas ainda piores.

Em novembro, o lançamento do ChatGPT completa dois anos. Acha que estamos chegando ao final do hype da inteligência artificial generativa?

Olha, acho que ainda estamos no começo do hype, para dizer a verdade. As pessoas ainda têm essas expectativas grandiosas, como se a tecnologia fosse uma espécie de pó mágico que transforma tudo em ouro. Mas espero que alcancemos uma certa dose de realidade em breve. Não, a tecnologia não vai mudar todas as coisas e salvar o planeta. Pode até mudar algumas coisas, como ajudar no desenvolvimento de novos medicamentos, por exemplo. Mas ainda não temos prova disso. Eu espero que ela torne o trabalho das pessoas mais interessante.

* Marisa Adán Gil viajou a convite da Mastercard.