“Em novembro de 2022, os funcionários do Snap estavam discutindo 10.000 relatos de usuários sobre sextorção todos os meses, embora reconhecessem que esses relatos ‘provavelmente representam uma pequena fração desse abuso’, dada a vergonha e outras barreiras para denunciar”, diz uma versão recentemente aberta do processo. movido pelo Procurador-Geral do Novo México contra Snap. Esta versão menos editada do documento que vimos pela primeira vez há um mês adiciona novos detalhes sobre o que os funcionários do Snap supostamente sabiam sobre o escopo do problema de sextorção que é acusado de facilitar em sua plataforma.
Num suposto caso, os funcionários fizeram referência a um caso com 75 denúncias “mencionando nus, menores e extorsão, mas a conta ainda estava ativa”. E em 2022, a pesquisa interna do Snap supostamente descobriu que mais de um terço das meninas adolescentes e 30% dos meninos adolescentes em seu aplicativo foram expostos “a contatos indesejados em sua plataforma”. diz a reclamação.
Os novos detalhes mostram uma empresa ciente de suas supostas deficiências no que diz respeito à proteção de crianças em seus serviços, mas não suficientemente focada em corrigi-las. “Ex-funcionários de confiança e segurança do Snap reclamaram que ‘eles tinham pouco contato com a alta administração, em comparação com seu trabalho em outras empresas de mídia social, e que houve resistência na tentativa de adicionar mecanismos de segurança no aplicativo porque [Snap CEO] Evan Spiegel priorizou o design’”, diz a denúncia.
“… houve resistência na tentativa de adicionar mecanismos de segurança no aplicativo porque [Snap CEO] Evan Spiegel priorizou o design”
Em um declaração postada em sua redaçãoSnap disse que seu aplicativo foi projetado “como um lugar para se comunicar com um círculo próximo de amigos, com grades de segurança integradas, e fez escolhas de design deliberadas para tornar difícil para estranhos descobrirem menores em nosso serviço. Continuamos a evoluir nossos mecanismos e políticas de segurança, desde o aproveitamento de tecnologia avançada para detectar e bloquear determinadas atividades, até a proibição de amizades de contas suspeitas, até o trabalho em conjunto com autoridades policiais e agências governamentais, entre muito mais.”
De acordo com a denúncia, os funcionários do Snap divulgaram um relatório externo em 2021 que incluía exemplos de supostos predadores conectando-se com crianças de até oito anos por meio do Snapchat e obtendo material de abuso sexual infantil. Mas eles temiam que medidas para detectar esse tipo de comportamento seriam excessivamente onerosas para a privacidade do usuário e “criariam custos administrativos desproporcionais”, alega a denúncia.
Os funcionários também supostamente identificaram riscos com certos recursos do Snapchat, como o Quick Add, que sugere que outros usuários se conectem. “Precisamos criar novas abordagens que protejam nossos usuários mais vulneráveis (menores) e tornem mais difícil para usuários predatórios encontrá-los por meio de adição rápida, pesquisa, etc.”, escreveu um executivo, de acordo com a denúncia. “Acreditamos que podemos conseguir isso sem degradar significativamente a experiência do produto para esses usuários se buscarmos novas estratégias na geração/restrições de inventário e outras técnicas para isolar de forma mais eficaz os menores de pessoas fora de suas redes.” Mais tarde, o Snap fez com que o recurso Quick Add só aparecesse para contas de jovens de 13 a 17 anos quando eles tivessem “um certo número de amigos em comum com aquela pessoa”. Mas internamente, diz a denúncia, os funcionários reconheceram que a abordagem ainda apresentaria deficiências significativas.
A denúncia não lacrada também inclui mais detalhes sobre como o Snap supostamente facilitou a venda ilícita de armas. Numa apresentação sem data, a empresa reconheceu que a sua plataforma vê “50 publicações relacionadas com vendas ilegais de armas por dia e 9.000 visualizações por dia destas armas comercializadas”. E mesmo quando o conteúdo é denunciado, “[r]o conteúdo exportado geralmente é visualizado centenas de vezes antes do relatório.”
“As listras tornam impossível desconectar mesmo por um dia”
Também inclui comunicações internas reconhecendo o poder viciante dos Snapstreaks, onde os usuários são informados por quantos dias continuaram se comunicando com outro usuário. “Uau, deveríamos ter recursos mais viciantes como esse”, escreveu um funcionário, de acordo com um e-mail de janeiro de 2017. “A maioria dos Streakers é nosso principal grupo demográfico”, escreveu outro. Uma apresentação de outubro de 2019 supostamente observou que “as listras tornam impossível desconectar mesmo por um dia”.
