Reddit alega que automação melhorou moderação de posts (imagem: Vitor Pádua/Tecnoblog) Resumo O Reddit utiliza LLMs para identificar e bloquear 23 milhões de posts de spam por dia, antes que eles cheguem às comunidades.A plataforma reduziu em 20% a exposição dos usuários a spam e em 40% a exposição a postagens nocivas, com remoção de conteúdo em menos de cinco segundos.O sistema de moderação do Reddit combina IA com participação humana, incluindo administradores, revisores e moderadores voluntários, além de sistemas de upvote e downvote dos usuários.O Reddit atualizou os sistemas de moderação, passando a utilizar LLMs (modelos de linguagem de larga escala) para identificar perfis de spam antes mesmo que cheguem às comunidades. Segundo a plataforma, os novos filtros retêm cerca de 23 milhões de publicações de spam por dia e remove, diariamente, mais milhões de interações falsas que inflam artificialmente a visibilidade de posts. Em um relatório de transparência divulgado hoje (06/07), a plataforma explica que a ideia é agir mais cedo contra contas falsas, campanhas coordenadas e outras violações, como discurso de ódio, dependendo menos de denúncias ou remoções manuais após a circulação do conteúdo. Segundo a plataforma, as atualizações já reduziram em 20% a exposição dos usuários a spam.Na publicação, o Reddit reforça que a moderação dos fóruns segue com participação de humanos, administradores e revisores, além de moderadores voluntários em cada comunidade. Os usuários também têm parte na estrutura da plataforma, através dos sistemas de upvote e downvote, que reduzem a visibilidade de posts considerados ruins — ações que também estão na mira dos sistemas automatizados do fórum. Reddit tenta barrar violações antes que ocorramSistemas de IA avaliam sinais desde a criação da conta (imagem: AppsHunter IO/Unsplash)Parte da nova proteção começa no momento em que uma conta é criada. O sistema avalia sinais e padrões de comportamento para tentar identificar esses perfis antes que eles consigam publicar. Quando uma conta já está ativa, os filtros buscam sinais de coordenação, automação e engajamento artificial. Isso inclui a promoção falsa de posts ou manipulação da posição de conteúdos (através do sistema de votos) dentro das comunidades.Contas suspeitas também podem ser obrigadas a passar por uma verificação de humanidade. A medida serve para separar usuários reais de bots ou sistemas automatizados que tentam operar em escala. O cofundador da plataforma, Alexis Ohanian, já havia demonstrado preocupação com o crescimento da atividade de bots na internet e é um grande defensor de mídias sociais mais humanas. Alexis Ohanian, cofundador do Reddit (imagem: reprodução/Jerod Harris/Getty Images)Remoção de conteúdo ficou mais rápidaO Reddit também ampliou o uso de IA para lidar com violações mais graves, como ameaças, assédio e discurso de ódio. Por enquanto, o monitoramento cobre textos em inglês, mas deve chegar a outros idiomas nos próximos meses, diz a plataforma. Segundo a empresa, o tempo médio entre a detecção desses conteúdos e a remoção caiu para menos de cinco segundos, sendo que o volume de ações contra esse tipo de violação cresceu mais de 200%. A plataforma afirma ainda que a exposição dos usuários a postagens nocivas caiu mais de 40%. Ao mesmo tempo, houve queda de 40% nos falsos positivos, ou seja, em casos em que conteúdos legítimos são removidos por engano. Apesar do investimento, a companhia tem sido bastante restritiva ao mercado de inteligência artificial, quando ela não representa vantagens diretas à plataforma. Ela chegou a processar a Perplexity e bloquear os robôs do Internet Archive, citando raspagem indevida de dados pelas empresas de IA. Reddit usa IA para bloquear 23 milhões de spams por dia