Startup cria modelo de IA para repassar informações precisas sobre a cultura negra

De acordo com o fundador e CEO da Latimer, John Pasmore, a ideia para a IA surgiu no início deste ano, quando ele percebeu que nenhuma outra empresa estava abordando o preconceito racial dentro dos LLMs como uma questão técnica a ser resolvida.

+ Quer saber mais sobre inovação? Entre no grupo de Época NEGÓCIOS no WhatsApp

“Eu não apenas estava vendo questões de preconceito, mas também havia imprecisões na história”, disse Pasmore ao DigiDay. “Tenho um filho de 16 anos e a última coisa que você quer é que a história seja inserida incorretamente no que considero a próxima princial tecnologia de pesquisa.”

Segundo o CEO, o grande diferencial da plataforma é oferecer respostas extraídas de fontes especializadas no assunto, e não de lugares potencialmente problemáticos, como as redes sociais. Usando o LLM da OpenAI como modelo básico, a startup está treinando sua plataforma com uma variedade de fontes, incluindo livros e jornais de escritores negros.

• Medo de perder o emprego para IA é maior entre trabalhadores negros, mostra pesquisa
• Novo chatbot de IA de Elon Musk é desbocado e adora sarcasmo

Ao usar uma abordagem “RAG” – abreviação de geração aumentada de recuperação, em inglês – Latimer é capaz de aproveitar o poder de um LLM como o GPT-4, mas treiná-lo para obter respostas de um conjunto diferente de informações.

A startup também está fazendo parcerias com universidades para dar aos alunos acesso à tecnologia e também para incluí-los como parte do processo de treinamento em IA. A Latimer também trabalha com especialistas, como o professor da Temple University, Molefi Kete Asante, famoso autor responsável pela teoria da Afrocentricidade.

“Acho que somos um exemplo de correção e tenho certeza de que haverá muitas outras, se ainda não existiram”, disse Pasmore. “Acho que o próprio mercado, especialmente se você estiver falando com clientes comerciais, definitivamente não quer ter a responsabilidade adicional de uma IA irresponsável. Então, acho que qualquer pessoa nessa categoria vai querer aderir aos padrões para entregar produtos de primeira linha.”

Quer conferir os conteúdos exclusivos de Época NEGÓCIOS? Tenha acesso à versão digital.