O Discord informou ao governo federal que há indícios de que os atos que culminaram na morte de uma adolescente de 13 anos de Naviraí, em Mato Grosso do Sul, podem ter sido articulados previamente ou de forma paralela em outras plataformas digitais, especialmente Telegram e TikTok. Segundo documento encaminhado pela empresa às autoridades, a existência de interações fora do Discord ajudaria a explicar por que os sistemas internos da plataforma não identificaram o risco de forma imediata antes da transmissão que teria envolvido a adolescente. A empresa afirmou que a menção a outras plataformas não tem como objetivo afastar responsabilidades, mas delimitar tecnicamente quais informações estavam disponíveis para seus sistemas de monitoramento. No documento, o Discord declarou que a análise da atuação em outros ambientes digitais é importante para reconstruir a cronologia dos fatos e entender quais sinais poderiam ter sido identificados antes do episódio. O TikTok negou que tenha ocorrido qualquer atividade de coordenação relacionada ao caso dentro de sua plataforma. Em nota, a empresa afirmou que realizou buscas sobre o episódio e não encontrou indícios de que o incidente tenha sido articulado pela rede social ou que usuários tenham sido direcionados por meio dela para participar das ações investigadas. A Folha de São Paulo não conseguiu localizar representantes do Telegram para comentar as afirmações feitas pelo Discord. A investigação ganhou repercussão nacional após a morte da adolescente, em Naviraí, e passou a envolver órgãos do governo federal diante de suspeitas de que jovens teriam utilizado ambientes virtuais para manipular a vítima, inclusive durante uma transmissão ao vivo pelo Discord. Na quarta-feira, a ANPD (Agência Nacional de Proteção de Dados) determinou que o Discord suspenda temporariamente as transmissões ao vivo e recursos semelhantes de compartilhamento de vídeo no Brasil. A medida foi tomada após o caso e deverá ser cumprida pela empresa em três dias úteis. As funcionalidades só poderão retornar após a comprovação de medidas consideradas efetivas para ampliar a proteção de crianças e adolescentes. A decisão da agência não determina a retirada completa do Discord do ar. Os demais serviços da plataforma continuam disponíveis. Identificação do sistema – Em documento enviado ao governo federal, o Discord admitiu que havia sinais de risco relacionados à transmissão que teria culminado na morte da adolescente, mas afirmou que esses sinais não foram suficientes para gerar um alerta confiável pelos mecanismos internos da empresa. O documento, datado de 10 de agosto, foi elaborado como resposta a questionamentos da Secretaria Nacional de Direitos Digitais, ligada ao Ministério da Justiça, sobre a transmissão ao vivo. Segundo a empresa, seu sistema de segurança funciona a partir de uma pontuação de risco. A transmissão analisada teria recebido uma classificação de 0,12, enquanto o limite utilizado para disparar uma identificação automatizada seria de 0,95. O Discord afirmou que o resultado está sendo reavaliado e poderá contribuir para ajustes na sensibilidade do sistema, com o objetivo de melhorar a capacidade de detecção sem aumentar excessivamente os chamados falsos positivos. A empresa também informou que recebeu uma comunicação de um órgão de segurança às 3h50, mas sem muitas informações iniciais. Segundo o Discord, menos de 25 minutos depois, o servidor relacionado à transmissão foi removido. Falhas no monitoramento – A nota técnica da ANPD concluiu que o Discord não possui ferramentas suficientes para permitir análise de conteúdo e detecção de violações em tempo real. Segundo o documento da agência, a plataforma dependeria de sistemas automatizados considerados falhos e de denúncias feitas pelos próprios participantes dos ambientes onde ocorreriam as violações. Para a ANPD, o episódio demonstra uma falha grave no modelo adotado pela empresa, já que uma situação envolvendo risco de automutilação e morte de uma adolescente teria recebido uma classificação de risco considerada baixa devido à falta de calibração adequada do sistema automatizado. A agência também afirmou que a possibilidade de aumento de falsos positivos caso os mecanismos sejam mais sensíveis não justifica a manutenção de falhas quando estão em jogo situações envolvendo crianças e adolescentes. Segundo a nota técnica, em casos de risco iminente de lesão grave, automutilação ou morte, o custo de uma falha na identificação seria muito superior ao custo de uma análise humana adicional de conteúdos suspeitos. Após a determinação de suspensão das transmissões ao vivo, o Discord classificou a decisão da ANPD como “prematura” e afirmou que a avaliação feita pelo órgão regulador não representa os sistemas de segurança mantidos pela empresa. Segundo a plataforma, o processo de fiscalização havia sido recebido na sexta-feira (7) e ainda estava dentro do prazo concedido para manifestação quando a suspensão foi determinada. Em comunicado, o Discord afirmou que não tolera grupos ou indivíduos que promovam violência e disse manter equipes responsáveis por identificar e remover conteúdos que violem suas regras. A empresa voltou a citar diretamente o caso da adolescente sul-mato-grossense e afirmou que o servidor privado relacionado ao episódio foi investigado e retirado do ar pouco após sua criação. O Discord também afirmou haver evidências de que a atividade criminosa investigada teria começado em outras plataformas antes da criação do servidor na plataforma e teria continuado nesses ambientes após usuários serem banidos. A empresa destacou que a referência ao Telegram e ao TikTok faz parte de uma tentativa de reconstruir a sequência dos acontecimentos e compreender quais sinais estavam disponíveis antes da transmissão. Caso de MS colocou plataforma sob pressão A morte da adolescente ocorreu em 22 de julho e ganhou maior repercussão política após a primeira-dama Janja Lula da Silva defender a retirada da plataforma do país na quinta-feira (6). A partir do caso, aumentaram as cobranças sobre os mecanismos de proteção oferecidos por plataformas digitais para usuários menores de idade. A ANPD abriu processo de fiscalização na sexta-feira (7) para investigar possíveis falhas do Discord e, cinco dias depois, determinou a suspensão preventiva das transmissões ao vivo. A agência afirmou ter identificado risco grave suficiente para justificar a intervenção antes do encerramento do processo e apontou que transmissões em tempo real aparecem de forma recorrente em episódios envolvendo violência e violações contra menores. Além da suspensão, o Discord poderá apresentar recurso administrativo em até dez dias úteis. Caso a fiscalização conclua que houve descumprimento das regras de proteção de crianças e adolescentes, a empresa poderá sofrer sanções previstas na legislação, incluindo multas que podem chegar a R$ 50 milhões por infração. O caso também chegou à AGU (Advocacia-Geral da União), que mantém discussões com representantes da empresa sobre medidas adicionais de segurança. Segundo informações divulgadas pelo governo, o Discord apresentou propostas e existe a possibilidade de negociação de um termo com novas obrigações para a plataforma.
