Estamos a passos largos para uma sociedade algorítmica

O que é onipresente em nossos dias atuais? Sem falsa modéstia, dados são o novo petróleo, ouro ou dólar. Como tal, acabam virando commodities, mas de tão marcante no cotidiano, um fenômeno novo surge e já é observado não somente por pesquisadores, mas por empresas e o mercado em geral: um capitalismo de dados.

Esse fenômeno está no centro da transição de um sistema socioeconômico calcado fundamentalmente na indústria para um sistema que se desenvolve a partir da produção de bens imateriais. Estes têm encontrado nas tecnologias cibernéticas, ou seja, em processos de comunicação e controle, ferramentas fundamentais para o desenvolvimento daquilo que se tem denominado de capitalismo de dados, baseado, principalmente, na coleta, no monitoramento e na análise de informações pessoais produzidas em algum ambiente digital.

Dados que, se deveriam circular livremente em redes dispersas e distribuídas globalmente, têm sido coletados constantemente e utilizados sem que saibamos como e por quê e, em grande parte, fora de qualquer regulamentação nacional. É neste cenário que as grandes corporações têm se apropriado das tecnologias digitais para se colocar à frente da concorrência, ao passo que Estados e governos têm lançado mão dessas ferramentas como dispositivos de poder e controle sobre os cidadãos.

Tal dinâmica sugere a configuração de uma sociedade controlada por algoritmos, em que a prática de influência das condutas e dos comportamentos, incluindo desejos e pensamentos dos indivíduos, por meio de um ambiente digital, incide nas atuais relações sociais. Já pesquisou algo em um site e aquilo foi sugerido para você no Facebook? Em seu livro “Algoritmos de destruição em massa”, a autora Cathy O’Neil soa o alarme para o perigo do uso indevido dessas tecnologias. Ela elenca, já nos dias de hoje, uma série de práticas na sociedade que são pautadas na gestão de algoritmos.

Segundo O’Neil, nos EUA 72% dos currículos não chegam a ser analisados por pessoas, mas sim por uma triagem automática baseada em algoritmos. Outro exemplo trabalhado por ela é que se um jovem pobre nos precisa pedir um empréstimo para pagar seus estudos, o sistema irá rejeitá-lo porque será considerado "muito arriscado" emprestar dinheiro a ele (por causa de sua raça ou pela região onde ele vive). Sendo assim, esse estudante ficará isolado do sistema educativo que poderia tirá-lo da pobreza - e isso alimenta um ciclo vicioso.

Vivemos na era dos algoritmos. Cada vez mais, as decisões que afetam as nossas vidas - como qual escola estudar, se podemos ou não fazer um empréstimo, quanto pagamos por um seguro de saúde - não são tomadas por humanos, e sim por análises matemáticas.