Em algum momento, você já deve ter utilizado a ferramenta de busca nas redes sociais para encontrar algum conteúdo e depois deparou-se com várias publicações relacionadas ao que havia pesquisado. Não posso afirmar se isso já aconteceu contigo, mas para aqueles que usam de forma regular as plataformas de relacionamento online, não é um cenário tão fictício. Na verdade, é até comum. Essa situação ocorre como parte de uma estratégia das plataformas para apresentar conteúdos que nos agradem, com a utilização dos algoritmos, a fim de que passemos mais tempo conectados.
Mas antes, o que são algoritmos?
Um algoritmo é uma sequência de orientações para executar uma ação definida ou resolver um problema no campo da computação. Ele funciona de maneira similar a uma receita, onde o sistema diz o que deve ser feito em determinada situação, sem que ninguém programe cada passo. Por isso, hoje em dia, os algoritmos apresentam o chamado machine learning (ou aprendizado de máquina, em português) que, aliado à inteligência artificial, consegue reconhecer padrões e aprender por si mesmo com o mínimo de interferência humana e entregar um bom resultado.
Esse mecanismo se relaciona inteiramente com nossa atividade no meio virtual. Assim que começamos a utilizar as plataformas digitais, foi preciso fazer um recorte das informações que chegam até nós, para que sejam relevantes e de nosso interesse. Os mecanismos de seleção, portanto, agem para que as plataformas conheçam quem somos e nossas preferências e, a partir da coleta desses dados, inicie a disseminação de conteúdos personalizados para cada perfil em particular. A respeito da implantação desses mecanismos, o criador do Facebook, Mark Zuckerberg, chegou a comentar em entrevista: “Um esquilo morrendo em frente à sua casa pode ser mais relevante aos seus interesses neste momento do que pessoas morrendo na África”. Assim, do momento que o indivíduo entra no Instagram, por exemplo, até quando sai, esses mecanismos monitoram suas atividades em rede, a fim de descobrir mais sobre suas predileções e melhorar a entrega das informações num feed personalizado.
Entretanto, este esquema de funcionamento divide opiniões. Ao mesmo tempo que há pessoas que apoiam a coleta de seus dados para melhorar a visualização de conteúdos na internet, outros se preocupam com até onde vai o domínio dessas plataformas sobre nossos dados. Em pesquisa de campo, onde a maioria dos participantes eram estudantes de comunicação, um internauta comentou que não era completamente contra a ideia do feed personalizado. “Acho que corresponde a uma vontade natural de ver coisas relacionadas conosco, estar mais perto do que preferimos”. Enquanto isso, outro usuário relatou: “Me preocupo por não saber o limite dessa captura de informações e também por não saber até que ponto posso controlar isso”. Ambos responderam anonimamente à pesquisa.
O preço por trás das redes sociais
O Facebook iniciou em 2004 com a promessa de “conectar pessoas”: de diferentes lugares, culturas e saberes. Hoje, porém, com a utilização dos algoritmos, observamos uma movimentação de agrupamentos de indivíduos que se relacionam pelas ideias e gostos similares. Em resposta à pesquisa elaborada, 48 usuários votaram que, muitas vezes, as publicações que lhes eram ofertadas nas redes sociais iam de encontro aos seus posicionamentos e pontos de vista, enquanto 19 relataram notar isso numa escala habitual.
Em razão disso, uma consequência da personalização do conteúdo é o favorecimento à formação de bolhas sociais. As chamadas bolhas sociais representam um ambiente digital no qual indivíduos são inseridos em contato apenas com pessoas que pensam de maneira similar e com pontos de vistas próximos, sem que ninguém conteste seus ideais. Para Francisco Ferreira, mestre em ciência da computação pela Universidade Federal de Pernambuco (UFPE) e pesquisador na área de redes de computadores e segurança da informação, essa estrutura tende a causar uma perda do senso crítico e uma limitação da visão de mundo, uma vez que o indivíduo recebe apenas aquilo com que simpatiza. “Numa concepção filosófica, o mundo é aquilo que você vê. Se você só vê o que gosta, vai achar que o mundo é só aquilo e vai ter dificuldade de lidar com o que é diferente”, afirma o pesquisador. Ele ainda comenta sobre a incapacidade de lidar com elementos distintos: “Quanto mais você consome coisas muito parecidas, mais perde contato com ideias divergentes e, assim que entra em contato com o diferente, não consegue aceitar e tendem para a agressividade”.
Outro ponto que Ferreira discute é o aumento da violência com o auxílio da internet. O pesquisador, em seu artigo, faz um paralelo entre a formação dos agrupamentos sociais formados no cotidiano e em rede, expondo os diversos grupos que se constroem na sociedade: os de amigos, aqueles de pessoas com afinidades em comum e até mesmo aqueles que se unem com o propósito de fazer mal a terceiros e disseminar preconceito. O problema que o pesquisador destaca é quando tais associações crescem também na internet e alcançam mais pessoas, fortalecendo comportamentos violentos. “Os grupinhos deixam de ser inofensivos, deixam de ser coisa de bairro, e ganham visibilidade na própria rede social, na mídia e até na política”, finaliza Ferreira.
Redes sociais e democracia
Por outro lado, além das bolhas sociais e violência em rede, os algoritmos podem afetar também a democracia como um todo. Com a premissa de entregar para nós aquilo que é mais relevante, o sistema algorítmico julga as publicações que irão ou não aparecer em nosso feed. Durante o Festival 3i, Sérgio Amadeu, professor da Universidade Federal do ABC (UFABC), pesquisador de redes digitais e autor do livro Democracia e os Códigos Invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas trouxe em debate essa questão: “A comunicação controlada por algoritmos quer eliminar o inesperado, o incômodo e o oposto. Aí ele tem que fazer discriminações, classificações, um ranqueamento de tudo aquilo que é colocado para nós”, discutiu Amadeu.
Um exemplo muito claro disso foi quando a justiça americana colocou uma máquina para decidir processos judiciais. O instrumento analisou diversos julgamentos anteriores e procurou por padrões para entender como eram dadas as sentenças. O resultado da experiência foi um condenamento maior de pessoas negras, devido a todos os dados processados e tomando como base o histórico racista e segregador da sociedade. “É preciso entender que os algoritmos não são neutros, que portam as determinações de quem os desenhou, os produziu e que eles podem portar viés”, analisa Sérgio. Para isso, o autor também alerta: “Eles sempre vão ter um objetivo e pode ocorrer um desvirtuamento em seu funcionamento. Ao entrar em contato com um banco de dados, eles podem acabar ajudando a ampliar preconceitos ou gerar desinformação”.
Em seu livro, Amadeu elabora como os algoritmos podem afetar a sociedade democrática. Para ele, são três as principais ocorrências, sendo a primeira delas a forma como alteram as condições de briga pelo voto. “A disputa passa a não ser democrática quando somente alguns podem falar para a maioria do eleitorado ou quando outros são proibidos de divulgar amplamente suas opiniões [no meio digital]” discute, defendendo a equidade na disputa política e nas campanhas.
Outro ponto que Amadeu pontua é da modulação do comportamento. Por meio do controle da visualização de conteúdos, os algoritmos direcionam para a estruturação de um comportamento e causam um impacto nas preferências dos usuários, influenciando suas decisões políticas. Segundo o autor, esse fenômeno de delimitação do que pode ser visto, lido ou ouvido é o elemento fundamental para que ocorra a modulação, ou seja, uma formatação da opinião pública.
Por último, faz um alerta para a vigilância pervasiva e a incessante coleta dos dados pelas grandes corporações. A partir da análise das informações em mecanismos de busca ou das mensagens trocadas em redes sociais, já é possível identificar a mobilização de grupos sociais em um mesmo território e classificá-los. “Esse controle afeta a democracia, uma vez que pode ser utilizado para agir politicamente de modo autoritário sobre segmentos sociais” explica Sérgio, através de ações que podem anular opções, escolhas ou criando falsos negativos em sistemas de reputação e ranqueamento com grande repercussão social, econômica e política.
Um retrato real de como a tecnologia foi capaz de afetar um estado de direito é demonstrado pelo escândalo da Cambridge Analytica. A empresa inglesa fornecia serviços de comunicação orientados pelo uso de dados e ajudou ativamente na campanha eleitoral de 2016, em favor de Donald Trump, atual presidente dos Estados Unidos. A companhia de assessoria política começou a ser investigada em 2018, após relatos de uso indevido de dados do Facebook. A mesma utilizou esses dados obtidos para enviar aos usuários propagandas especialmente adaptadas a cada perfil, com o intuito de eleger seu candidato.
“A maior parte de nossos recursos foi direcionada àqueles cujas mentes pensamos que poderíamos mudar. Nós os chamávamos de ‘persuasivos’”, disse Brittany Kaiser, ex-funcionária da empresa inglesa e uma das principais informantes para a investigação. Kaiser explica ainda o modo como a organização operava: “Nós os bombardeamos com conteúdo em diversas plataformas, até que vissem o mundo como nós queríamos e votassem em nosso candidato”, complementa em seu relato ao documentário Privacidade Hackeada, da Netflix.
“Programe ou seja programado”
Em vista dos impactos que a tecnologia pode gerar na sociedade, alguns pesquisadores conversam sobre alternativas para minimizar essa ação. A fala de Douglas Rushkoff, “programe ou seja programado”, traz de forma bem clara qual é a sua proposta e é parte do título de seu livro: As dez questões essenciais da era digital: programe seu futuro para não ser programado por ele. Rushkoff é um pensador e escritor sobre as revoluções tecnológicas no mundo contemporâneo e defende uma resposta humana a essa evolução, junto à necessidade de implementação de um novo modelo de comportamento. Uma das formas de conseguir alcançar isso é estimulando a alfabetização digital da população. Em sua palestra ao Talks at Google, o autor afirmou que era necessário conhecer os mecanismos para que as pessoas entendam como usar de forma apropriada as máquinas, para que possam gerenciar e programar de modo equilibrado e também ter liberdade de escolha.
“Eu sinto que as pessoas olham para as tecnologias como consumidores, querem saber o que aquilo pode fazer ao invés do que nós podemos fazer com elas”, relatou Rushkoff, que ainda denunciou como isso pode ser perigoso em termos da participação dos seres humanos na era digital.
Já Francisco Ferreira acredita que antes mesmo de alfabetizar na programação, estimular o pensamento crítico e a leitura é um passo fundamental. Assim, antes mesmo de aprenderem tudo o que acontece por trás das plataformas, os usuários se questionariam com que tipo de pessoas estão se relacionando ou se aquilo que visualizam na internet é mesmo verdade. ”É estranho, você está na rede social e todo mundo só posta o que você gosta. Quando você tem um senso crítico, você começa a questionar: ‘Será que o mundo é só gente que pensa como eu?”, discute Ferreira.