Sistemas de recomendação aprendem com nossos hábitos para antecipar interesses, mas estudos mostram que aquilo que aparece na tela também pode influenciar escolhas posteriores. Uma cena de Matrix ajuda a compreender onde previsão e influência começam a se misturar

Uma série aparece entre as primeiras opções do streaming e parece combinar exatamente com seu gosto. Uma música desconhecida surge na lista de recomendações e, depois de algumas audições, passa a fazer parte da playlist. Nas redes sociais, um vídeo desperta interesse e logo outros conteúdos semelhantes começam a ocupar a tela. A impressão de que as plataformas sabem cada vez mais sobre seus usuários não é apenas impressão: sistemas de recomendação utilizam informações sobre comportamentos anteriores para tentar antecipar aquilo que poderá despertar interesse no futuro.

Cliques, pesquisas, avaliações, compras e diferentes formas de interação fornecem sinais que podem ser utilizados para aperfeiçoar essas previsões. O processo, no entanto, não termina quando o sistema calcula o que provavelmente interessa ao usuário. A partir dessa estimativa, determinadas opções recebem maior visibilidade e passam a integrar o ambiente no qual a próxima decisão será tomada. A reação a essas recomendações gera novos dados, que podem orientar aquilo que será mostrado depois.

Essa dinâmica cria uma questão importante para os estudos sobre comportamento: se um sistema aprende com nossas escolhas para decidir o que colocar diante de nós, até que ponto as escolhas seguintes refletem apenas preferências anteriores e quanto podem ser influenciadas pelas opções que receberam maior exposição?

O vaso da Oráculo

Uma cena de Matrix, lançado em 1999, oferece uma boa metáfora para esse problema. Quando Neo encontra a Oráculo, ela pede que ele não se preocupe com um vaso. Sem entender a referência, ele procura o objeto e, ao se virar, acaba derrubando-o. Surpreso com a aparente capacidade da personagem de antecipar o acontecimento, Neo pergunta como ela sabia que aquilo ocorreria.

A Oráculo não responde explicando como consegue prever o futuro. Em vez disso, deixa uma dúvida: Neo teria quebrado o vaso se ela não tivesse falado sobre ele? A pergunta introduz uma variável importante. A previsão foi apresentada antes do acontecimento e, ao ser conhecida por Neo, passou a fazer parte da sequência de ações que terminou com o objeto no chão.

A comparação tem limites. Matrix não estava antecipando Instagram, TikTok, Spotify ou os sistemas de recomendação contemporâneos, que sequer existiam quando o filme chegou aos cinemas. O interesse da cena para o debate atual está em outra questão: uma previsão pode interferir nas condições em que determinado comportamento acontece.

Quando a previsão participa do resultado

Esse problema aparece também nas pesquisas sobre aprendizado de máquina. Em 2020, Juan Perdomo, Tijana Zrnic, Celestine Mendler-Dünner e Moritz Hardt apresentaram na International Conference on Machine Learning um estudo sobre performative prediction, expressão que pode ser traduzida como previsão performativa. O trabalho analisa situações nas quais a utilização de um modelo preditivo provoca mudanças no ambiente sobre o qual novas previsões serão realizadas.

O conceito não foi desenvolvido especificamente para explicar redes sociais ou plataformas de entretenimento. Trata-se de um problema mais amplo relacionado à utilização de modelos preditivos em processos de decisão. A contribuição para o debate sobre comportamento está em demonstrar que uma previsão, quando utilizada para orientar uma ação, pode produzir consequências que posteriormente serão incorporadas aos próprios dados observados.

Nos sistemas de recomendação, há pesquisas que tratam mais diretamente da possibilidade de influência sobre preferências. Um estudo de Gediminas Adomavicius, Jesse Bockstedt, Shawn Curley e Jingjing Zhang, publicado em 2013 na revista científica Information Systems Research, investigou se previsões apresentadas por sistemas de recomendação poderiam influenciar as avaliações feitas posteriormente pelos usuários.

Os pesquisadores realizaram três experimentos controlados e encontraram evidências de efeito de ancoragem. As avaliações sugeridas pelo sistema influenciaram as avaliações posteriormente atribuídas pelos participantes, e a intensidade desse efeito também apresentou relação com a confiança depositada no sistema. O resultado não permite afirmar que uma plataforma seja capaz de determinar o gosto de alguém, mas indica que a recomendação apresentada pode deixar de ser apenas uma tentativa neutra de identificar uma preferência.

Quando a recomendação entra na escolha

Um exemplo ajuda a dimensionar o problema. Uma pessoa que nunca ouviu determinado artista recebe uma música como recomendação porque o sistema identificou semelhanças entre aquela faixa e seus comportamentos anteriores. Ela escuta, gosta e passa a procurar outras músicas do mesmo artista. Para a plataforma, a interação representa um sinal de que a previsão foi adequada.

Há, porém, uma informação que esse resultado sozinho não fornece: o que aconteceria se aquela recomendação não tivesse sido apresentada. A pessoa poderia encontrar o artista por outro caminho, poderia nunca conhecê-lo ou talvez tivesse contato com outra música. O dado disponível registra o comportamento dentro do ambiente efetivamente apresentado ao usuário, e não todas as alternativas que poderiam ter ocorrido.

Isso não invalida a capacidade de previsão dos sistemas. Mostra apenas que, depois que uma recomendação é apresentada, ela passa a integrar o contexto no qual o comportamento será observado. O sistema utiliza escolhas anteriores para organizar opções futuras, enquanto as respostas a essas opções passam a alimentar novas previsões.

Influenciar é diferente de controlar

A discussão sobre comportamento e algoritmos frequentemente esbarra no risco de atribuir às plataformas um poder absoluto sobre os usuários. Os estudos citados não sustentam essa conclusão. Pessoas podem ignorar recomendações, realizar buscas independentes, rejeitar conteúdos, comparar informações e tomar decisões diferentes daquelas estimadas pelos sistemas.

A influência sobre preferências também não nasceu com a internet. Publicidade, rádio, televisão, jornais, professores, familiares e grupos sociais sempre participaram daquilo que chega ao conhecimento das pessoas. Uma música executada repetidamente por uma emissora tinha maior possibilidade de se tornar conhecida, assim como a indicação de um professor poderia levar um aluno a descobrir um autor que provavelmente não encontraria sozinho.

Os sistemas digitais ampliaram algumas características desse processo. A coleta de dados permite personalizar recomendações para diferentes usuários, atualizar previsões continuamente e reorganizar conteúdos conforme novas interações acontecem. Em vez de uma seleção necessariamente igual para uma audiência inteira, diferentes pessoas podem receber conjuntos distintos de opções com base nos sinais acumulados sobre seus comportamentos.

Essa capacidade não elimina a autonomia individual, mas torna mais relevante compreender como o ambiente de escolha é organizado. O usuário continua decidindo se vai assistir, ouvir, comprar ou ignorar alguma coisa. Antes dessa decisão, porém, já ocorreu outra seleção: entre inúmeras possibilidades disponíveis, algumas foram colocadas em posição de maior destaque.

O comportamento que volta para o algoritmo

É nesse ponto que a cena de Matrix volta a ser útil. Depois que a Oráculo menciona o vaso, sua fala passa a integrar a situação que pretende antecipar. Quando Neo o derruba, não há como observar, nas mesmas condições, o que aconteceria caso ela permanecesse em silêncio.

Os sistemas de recomendação enfrentam um dilema semelhante quando tentamos separar previsão e influência. É possível registrar que uma pessoa ouviu uma música depois de recebê-la como sugestão ou comprou um produto depois de vê-lo entre as recomendações. Determinar exatamente como ela se comportaria caso outra opção tivesse ocupado aquele espaço é uma questão muito mais difícil.

O debate, portanto, vai além de saber quanto os algoritmos conhecem nossos gostos. À medida que utilizam esse conhecimento para selecionar o que veremos em seguida, eles passam também a fazer parte do ambiente no qual novos comportamentos serão produzidos e registrados.

O ciclo é contínuo: nossas escolhas ajudam o sistema a prever o que poderá nos interessar, enquanto aquilo que o sistema decide mostrar passa a compor o conjunto de possibilidades diante do qual faremos a próxima escolha. Entender essa relação talvez seja mais importante do que tentar decidir simplesmente se o algoritmo nos conhece ou nos influencia. Na prática, as duas coisas podem acontecer ao mesmo tempo.