Usuários do Instagram e do Facebook relatam que a moderação automatizada da Meta baniu, por engano, contas reais construídas ao longo de anos — incluindo pelo menos um perfil comercial com quase 1 milhão de seguidores. O mais grave: o recurso contra o banimento também costuma ser decidido por IA, deixando o usuário sem nenhum caminho para falar com uma pessoa. Alguns casos só foram revertidos depois que jornalistas entraram em contato diretamente com a Meta.
O que mudou
Segundo reportagens do TheNextWeb, Startup Fortune e NotebookCheck, mais de 60 mil usuários já assinaram uma petição pedindo que a Meta explique os banimentos e permita revisão humana nos recursos. A empresa, por sua vez, afirma que suas ferramentas de moderação mais recentes cometem 13% menos erros e identificam 10% mais violações reais do que revisores humanos — e diz que os casos analisados vieram de sistemas de moderação mais antigos, não da IA atual.
Por que isso importa
O ponto central não é se a IA da Meta é mais ou menos precisa que um humano — é que, quando o sistema erra, não existe caminho de escalonamento humano real. Uma taxa de erro baixa ainda gera um volume absoluto de decisões erradas quando aplicada em escala, e sem revisão humana disponível, cada erro vira um problema sem solução para quem foi afetado.
O impacto para o Brasil
Empresas que estão automatizando decisões que afetam clientes, parceiros ou usuários — aprovação de crédito, moderação de conteúdo, suspensão de conta, triagem de suporte — correm o mesmo risco estrutural que a Meta está enfrentando publicamente agora: por melhor que seja a precisão média do modelo, sem um caminho de apelação humano de verdade, um erro pontual vira crise de reputação e, em alguns casos, problema jurídico.
Leitura da Entercast
Precisão de modelo é uma métrica de laboratório; governança é o que decide se a empresa sobrevive ao erro que, estatisticamente, sempre vai acontecer. Nenhum projeto de automação de decisão deveria ir para produção sem um caminho de escalonamento humano genúuno para os casos em que a IA erra — não como exceção rara, mas como parte desenhada do processo desde o primeiro dia.