Usuários do Tumblr Dizem que a IA está Rotulando Erroneamente suas Postagens como “Adultas”
Crédito:Omar Marques/SOPA Images/LightRocket / Getty Images
O Tumblr é a mais recente plataforma de tecnologia que enfrenta reações negativas devido a sistemas automatizados com defeito que sinalizam e removem conteúdo.
Nos últimos dias, usuários relataram que o Tumblr está rotulando incorretamente postagens inofensivas como “adultas“, limitando sua visibilidade, já que muitos usuários têm configurações padrão que ocultam esse tipo de conteúdo.
Postagens inofensivas sinalizadas erroneamente como “adultas” geram preocupações sobre moderação de IA
Vários usuários reclamaram que o sistema sinalizou incorretamente postagens não explícitas — incluindo GIFs de gatos, fanarts e até imagens de mãos. Muitos acreditam que ferramentas de moderação de IA defeituosas podem estar por trás dos erros.
Outras plataformas de mídia social enfrentaram críticas semelhantes. O Pinterest reconheceu recentemente que um erro interno levou a uma onda de banimentos de usuários. Enquanto isso, o Instagram ignorou a crescente frustração dos usuários, que migraram para fóruns online como Reddit e X para discutir suspensões generalizadas de contas.
Em ambos os casos, os usuários acreditaram que a moderação orientada por IA foi a responsável, embora o Pinterest tenha rejeitado essa explicação.
No Tumblr, o problema de sinalização parece estar vinculado a uma atualização recente do aplicativo para Android. A empresa explicou que vem testando melhorias em sua filtragem de conteúdo adulto, incluindo uma nova camada de moderação adicionada ao seu sistema de Rótulos de Conteúdo, de acordo com comentários feitos ao TechCrunch.
Tumblr afirma que testes e feedback dos usuários moldarão as atualizações antes de uma implementação mais ampla
Um porta-voz do Tumblr disse que a equipe ainda está testando as mudanças e usará o feedback dos usuários para orientar as melhorias antes de lançar a atualização para outras plataformas.
Um porta-voz do Tumblr afirmou por e-mail que a empresa está trabalhando para tornar a plataforma mais segura para todos, respeitando a diversidade de interesses e preferências de conteúdo, que os usuários podem personalizar em suas configurações. “Este continua sendo um esforço contínuo à medida que aprimoramos nossos métodos de identificação e gerenciamento de conteúdo adulto.“
A empresa também abordou o problema em seu blog, em resposta a uma consulta de um usuário sobre postagens sinalizadas incorretamente. A equipe do Tumblr reconheceu o problema, afirmando estar ciente dos “problemas de classificação incorreta” e trabalhando ativamente para minimizá-los.
Tumblr atualizará processo de apelação em meio a problemas de moderação, com causas ainda obscuras
A postagem do blog também mencionou que o Tumblr planeja atualizar seu processo de apelação nas próximas semanas para gerenciar melhor um volume maior de casos. (O Tumblr se recusou a comentar sobre as atualizações específicas no processo de apelação.)
Não está claro se a IA ou outras formas de automação são responsáveis pelos problemas recentes, já que o Tumblr não forneceu detalhes específicos sobre a causa raiz. No entanto, a redução da força de trabalho na plataforma provavelmente contribuiu para o problema.
Desde que a Automattic adquiriu o Tumblr em 2019, o serviço passou por cortes de pessoal e realocação de funcionários. Para reduzir perdas e simplificar operações, a empresa anunciou a migração do back-end para a infraestrutura do WordPress.
Leia o artigo original em: TechCrunch
Leia mais:Teste Inovador para Alvo de Câncer “Intransferível” deve Começar
