Como funcionam os sistemas de recomendação nas plataformas digitais?

Poucas coisas são tão vitais para a democracia quanto o livre fluxo de informações. Se uma cidadania esclarecida é essencial para a democracia, como sugeriu Thomas Jefferson, então os cidadãos precisam encontrar uma maneira de se manterem informados. Durante a maior parte da era moderna, esse papel foi desempenhado pela imprensa – e especialmente pelos editores e produtores que exercem controle sobre quais notícias publicar e transmitir.

No entanto, à medida que o fluxo de informações mudou, a distribuição e o consumo de notícias mudaram cada vez mais da mídia tradicional para as mídias sociais e plataformas digitais, com mais de um quarto dos americanos recebendo notícias apenas do YouTube e mais da metade das mídias sociais. Enquanto os editores decidiam quais histórias deveriam receber o alcance mais amplo, hoje os sistemas de recomendação determinam qual conteúdo os usuários encontram nas plataformas online – e quais informações desfrutam de distribuição em massa. Como resultado, os sistemas de recomendação subjacentes a essas plataformas – e os algoritmos de recomendação e modelos treinados que eles abrangem – adquiriram uma importância recém-descoberta. Se informações precisas e confiáveis ​​são a força vital da democracia, os sistemas de recomendação servem cada vez mais como seu coração.

À medida que os sistemas de recomendação cresceram para ocupar um papel central na sociedade, um corpo crescente de estudos documentou possíveis vínculos entre esses sistemas e uma série de danos – desde a disseminação do discurso de ódio até a propaganda estrangeira e o extremismo político. No entanto, os próprios modelos permanecem pouco compreendidos, tanto pelo público quanto pelas comunidades de políticas encarregadas de regulá-los e supervisioná-los. Dada a sua importância descomunal e a necessidade de supervisão informada, este artigo visa desmistificar os sistemas de recomendação, mostrando como eles evoluíram e como os algoritmos e modelos de recomendação modernos funcionam. O objetivo é oferecer aos pesquisadores e formuladores de políticas uma linha de base a partir da qual eles possam tomar decisões informadas sobre como supervisioná-los e governá-los.

Suponha que você administre uma mídia social ou plataforma digital. Cada vez que seus usuários abrem seu aplicativo, você deseja mostrar a eles um conteúdo atraente em um segundo. Como você faria para trazer à tona esse conteúdo?

A abordagem mais rápida e eficiente é apenas classificar o conteúdo por tempo. Como a maioria das redes sociais e plataformas digitais tem um grande catálogo de conteúdo, o conteúdo mais recente ou "mais recente" tem mais probabilidade de ser atraente do que o conteúdo sorteado aleatoriamente. Simplesmente exibir os itens mais recentes em ordem cronológica inversa é, portanto, um bom ponto de partida. Como bônus, essa abordagem é fácil de implementar e simples de entender – seus usuários sempre terão uma noção clara de por que estão vendo um determinado conteúdo e um modelo mental preciso de como o aplicativo se comporta. Embora a indústria tenha ido além deles, os algoritmos de recomendação cronológica reversa alimentaram a primeira geração de feeds de mídia social e são o motivo pelo qual a maioria dos feeds ainda é conhecida hoje como "linhas do tempo".

Embora atraentes em sua simplicidade, os feeds puramente cronológicos reversos têm uma grande desvantagem: eles não escalam bem. À medida que as plataformas se expandem, a quantidade de conteúdo que elas hospedam cresce exponencialmente, mas o tempo livre do usuário não. O conteúdo adicionado mais recentemente servirá, portanto, como um proxy cada vez menos eficaz para o conteúdo mais atraente. Pior ainda, os usuários que desejam construir um público amplo inundarão a plataforma com novos conteúdos em uma tentativa de permanecer no topo dos feeds de outros usuários. Como resultado, seu aplicativo rapidamente se tornará tendencioso para os usuários mais ativos, em vez dos mais interessantes. Conteúdo menos atraente – ou até mesmo spam – começará a inundar os cronogramas dos usuários.

Para resolver esse problema, você pode criar regras codificadas para priorizar entre o conteúdo mais recente. Por exemplo, você poderia escrever uma regra que diga: Se Nicole gostou de postagens de Dia mais do que qualquer outro usuário, mostre a última postagem de Nicole Dia de hoje antes de qualquer outra coisa. Ou você pode escrever uma regra que diga: Se Nicole gostou mais do vídeo do que de qualquer outra forma de conteúdo, então o vídeo adicionado mais recentemente por seus amigos deve ser exibido primeiro para Nicol, antes de qualquer outro conteúdo. Ao misturar e combinar essas regras manuais, os algoritmos de recomendação baseados em atributos e categorias podem exibir conteúdo atraente de maneira mais confiável do que um feed puramente cronológico reverso.