O Discord admitiu que seu sistema de segurança identificou sinais de risco em uma transmissão ao vivo relacionada ao caso que terminou com a morte de uma adolescente de 13 anos, mas não acionou um alerta automático para intervenção.
A informação consta em documento enviado pela plataforma ao governo brasileiro.
Segundo a empresa, o sistema de aprendizado de máquina analisou os sinais disponíveis, mas classificou o risco como insuficiente para desencadear uma ação automática.
A revelação ocorre após a Agência Nacional de Proteção de Dados (ANPD) determinar a suspensão das transmissões ao vivo do Discord no Brasil.
A medida foi tomada diante de indícios de que a plataforma não adotou mecanismos suficientes para proteger crianças e adolescentes de conteúdos relacionados a violência, automutilação e suicídio.
A ANPD deu à empresa três dias úteis para comprovar a adoção de medidas eficazes de proteção. Caso contrário, a plataforma poderá sofrer sanções previstas na decisão.
Sistema não acionou alerta de risco
De acordo com as informações apresentadas pelo Discord, o sistema automatizado atribuiu pontuação de risco de 0,12 ao conteúdo analisado.
O nível necessário para que o mecanismo acionasse automaticamente um alerta era de 0,95. Na prática, isso significa que a plataforma afirma ter processado os sinais disponíveis, mas que o sistema considerou que eles não atingiam o nível necessário para uma intervenção automática.
A empresa também informou que o servidor onde ocorreram os abusos foi removido menos de 25 minutos depois de receber uma notificação policial.
Discord contesta suspensão das lives
Após a decisão da ANPD, o Discord classificou a suspensão das transmissões ao vivo como “prematura” e afirmou que está reavaliando seus sistemas de segurança.
A plataforma também declarou que mantém uma equipe especializada no combate a atividades violentas e que está colaborando com as autoridades brasileiras.
Segundo a empresa, a atividade criminosa investigada pelas autoridades não teria começado no Discord.
A plataforma afirmou que os envolvidos teriam utilizado outras redes antes da criação do servidor e continuado nessas plataformas depois de serem banidos do Discord.
Suspensão atinge apenas as transmissões ao vivo
A determinação da ANPD não significa que o Discord foi bloqueado no Brasil. A medida atinge especificamente a ferramenta de transmissões ao vivo da plataforma.
A decisão está relacionada à investigação sobre a morte de uma adolescente de 13 anos, que teria sido induzida à automutilação e ao suicídio durante atividades realizadas na plataforma.
O caso também deu origem à Operação Lívia, que investiga adolescentes suspeitos de aliciar jovens emocionalmente vulneráveis e induzi-los a práticas violentas.
A suspensão ocorre em meio à pressão de autoridades brasileiras por mecanismos mais rígidos de proteção de menores na internet. A AGU também notificou a empresa para cobrar medidas relacionadas à segurança de crianças e adolescentes.
Próximos passos da plataforma
Para retomar as transmissões ao vivo no país, a plataforma deverá demonstrar à ANPD que adotou medidas consideradas eficazes para impedir que menores sejam expostos a conteúdos nocivos durante as transmissões.
A agência apontou, entre os problemas, a dependência excessiva de denúncias feitas pelos próprios usuários e a falta de mecanismos considerados suficientes para análise e intervenção em tempo real.
Enquanto a determinação estiver em vigor, usuários brasileiros continuam podendo utilizar o Discord, mas a funcionalidade de transmissões ao vivo fica suspensa.