SXSW 2024: somos a geração T (de transição)

E o valor de tudo também mudará. Criação, em todos os seus formatos, arte, design, tudo já é feito pela IA. Estudos cegos de análise técnica já demonstram que arte, textos e vídeos criados por essa nova tecnologia podem ser superiores aos criados por humanos. Qual será o valor numa sociedade em que a máquina cria melhor que os seres humanos?

Os defensores dizem que a IA será uma ferramenta, sempre anexa a um humano nas decisões e que, dessa forma, será o melhor assistente do mundo, trazendo o poder de infinitos dados para pensarmos melhor - o que nos dará tempo para pensar em questões mais profundas. O problema disso? IA também tem vieses. A linha entre um assistente eficiente e um assistente manipulador é tênue. Tão tênue que não sei se poderá ser perceptível.

Na melhor das hipóteses, teremos uma crise global sem precedentes de transição profissional. Não existe profissão ou emprego que permanecerá igual após a IA. Gerar fluência nessas tecnologias, capacitação e apoio econômico às famílias em transição será essencial. O “sonho americano”, de crescer com o seu esforço apenas, não será mais uma realidade nos tempos de IA em escala.

Se o ensino e o acesso a essas plataformas não for para absolutamente todos, a maior possibilidade é que ampliemos a desigualdade social no ambiente digital em um volume muito maior do que temos no ambiente físico. E o pior, sem a possibilidade de nenhum esforço humano sequer chegar minimamente perto de ser capaz de compensar essa equação.

Muitos são os que levantam potenciais riscos perante essas afirmações, mas sinto que os avanços dos que o fazem não são tão significativos - ou, ao menos, tão ouvidos, como os defensores do avanço da tecnologia e, claro, das ações de mitigação dos impactos gerados.

A tecnologia sempre nos fez evoluir como sociedade e, sem ela, dificilmente sobreviveríamos. Afinal, não somos a espécie mais forte do mundo animal. Criamos cidades, ciência, transistores, internet… vivemos na era do Silício. Sempre fui e permaneço uma entusiasta tecnológica, mas, pela primeira vez, sinto pouca confiança na responsabilidade social de tudo que temos desenvolvido.

Vi aqui no SXSW, por exemplo, apresentadores em êxtase lançando mini cérebros portáteis, como o Rabbit R1, que leem voz, vídeo e texto para serem mini réplicas de como pensamos e aprendem tudo conosco. Numa era em que a tecnologia tenta modelar como penso, vivo e decido, me pego refletindo sobre o quanto isso é, de fato, algo desejável. Desejamos abrir mão da nossa intuição, imprevisibilidade, criação, e nos tornar uma grande massa de cérebros digitais? Desejamos transformar aquilo que julgamos ser inerente nosso em uma modelagem matemática, que antevê o que faremos e como pensaremos? Queremos realmente que a nossa essência seja replicada num dispositivo? Qual o valor humano numa era pós IA? Precisaremos de humanos?

São tantas perguntas e o inacreditável tem acontecido: pela primeira vez, tenho entendido pensamentos como o de Elon Musk, que diz que a humanidade potencialmente será destruída pela IA. Vou detalhar aqui apenas alguns dos maiores riscos que deveriam estar na mente de todos nós.

Energético: Já estamos em crise climática, e a energia necessária para o volume de processamento de dados que será demandado será enorme.

Trabalho: Como transicionar praticamente toda a mão de obra do planeta em um curto período de tempo? Como dar acesso à educação necessária para todos eles?

Segurança da informação e Fake News: Como demonstrar em que momentos os modelos de IA têm alucinações nas respostas, vieses ou, simplesmente, estão faltando com a verdade? Quem será responsabilizado quando a IA errar e pelas consequências desses erros?

IA de fonte aberta: Apesar de aumentar a qualidade e velocidade do desenvolvimento da tecnologia, as iniciativas de fonte aberta possibilitaram ataques de disponibilização de instruções de guerra e de pornografia.

Por um lado, nos maravilhamos com as possibilidades de aplicação em diagnósticos, consumo, longevidade, produtividade e qualidade de vida. Por outro, abrimos um momento histórico sem precedentes de transformação. Nas palavras do VP da Open AI, Peter Deng: "em todos os meus anos de Google, Microsoft e Uber, eu nunca vi uma tecnologia tão poderosa e transformacional".

Em um mundo em que somos completamente mapeáveis e previsíveis por meio de modelos que nos entendem e aprendem melhor do que nós, como viveremos e o que faremos? A Geração T (de transição) está prestes a vivenciar um dos maiores momentos da história da humanidade até agora.

* Glaucia Guarcello é Chefe Global de Operações na The Bakery, empresa referência em estratégia e inovação corporativa. Anteriormente, ocupou o cargo de CIO na Deloitte e na Andrade Gutierrez. Doutora em Administração pela COPPEAD, é docente com foco em inovação em diversas instituições, como a Fundação Dom Cabral, a Singularity University e a USP, além de ser membro do conselho de tecnologias de educação do SENAI e do programa de desenvolvimento de talentos femininos AngelUS Network.