TikTok é acusado em Nova York por teste falso de segurança

O TikTok é acusado em Nova York de ter apresentado como recurso de proteção uma ferramenta que, em parte dos testes, não alterava de fato as recomendações mostradas a crianças e adolescentes. Os documentos judiciais divulgados nesta quarta-feira apontam que a plataforma teria mantido o algoritmo ativo mesmo depois da suposta redefinição do feed.

O que os documentos apontam

A informação veio a público pela Reuters e foi repercutida pelo The Next Web. Segundo os autos citados pelas duas publicações, a rede social teria colocado usuários em grupos diferentes durante a avaliação de um recurso de segurança, com uma parte recebendo a função ativa e outra ficando com uma versão sem efeito real.

Na versão investigada, o usuário era levado a acreditar que tinha retomado o controle sobre os conteúdos recomendados, mas a seleção dos vídeos continuava sob o mesmo padrão anterior. A acusação chama essa dinâmica de experimento de placebo e sustenta que ela foi usada como forma de medir comportamento dentro do aplicativo.

O centro da disputa não é só a existência de um teste, mas a forma como ele teria sido apresentado. Para a procuradoria, a diferença entre uma proteção que funciona e uma proteção apenas exibida como se funcionasse muda completamente a leitura sobre transparência e segurança em uma plataforma usada por adolescentes.

Como a ferramenta deveria funcionar

O recurso analisado no processo recebe o nome de Algo Refresh. Ele foi lançado em março de 2023 e tinha a proposta de redefinir as sugestões da aba Para Você, fazendo o sistema se comportar como se o perfil tivesse acabado de ser criado.

Na prática, essa função pode ser útil para quem quer reduzir a presença de certos assuntos no feed ou renovar o tipo de conteúdo recomendado. É justamente por isso que a acusação considera grave a hipótese de a ferramenta ter sido exibida como proteção, sem entregar a mudança prometida para todos os participantes.

Segundo os documentos, o efeito prometido seria temporário, o que reforça a linha adotada pela procuradoria de que a empresa teria exagerado a eficácia do recurso. A acusação afirma que o usuário poderia acreditar que o ambiente digital havia sido reconfigurado, embora o comportamento do sistema seguisse outra lógica por trás da tela.

Por que o teste virou alvo da ação

De acordo com os documentos, o objetivo interno seria comparar o comportamento de grupos diferentes e entender quanto tempo eles permaneciam no aplicativo. A apuração também indica que a empresa queria avaliar possíveis efeitos sobre a receita publicitária.

Essa parte do caso pesa porque a acusação envolve menores de idade. Se a função anunciada como mecanismo de controle não funcionava para todos, a leitura da procuradoria é que a plataforma teria criado uma sensação de segurança que não correspondia ao comportamento real do sistema.

A ação foi movida pela procuradora-geral Letitia James e começou em 2024. O processo acusa a empresa de adotar mecanismos que estimulariam o uso excessivo entre menores e de criar uma imagem enganosa sobre suas ferramentas de proteção.

O questionamento interno sobre o método

Os autos mencionam ainda que um gerente de produto da equipe de bem-estar digital teria questionado o uso desse formato de teste. Na descrição presente no processo, o funcionário teria alertado que um grupo placebo contrariava a proposta de uma ferramenta pensada para dar mais transparência ao usuário.

Esse ponto ajuda a mostrar que a discussão não ficou restrita à Justiça. Segundo a versão descrita na ação, havia preocupação interna sobre a distância entre a promessa pública do recurso e a forma como a experiência teria sido validada nos bastidores.

Esse tipo de questionamento é relevante porque mostra um conflito entre produto e proteção. Quando a ferramenta diz servir para devolver controle ao usuário, mas o teste mede outra coisa, a acusação entende que a própria lógica do recurso perde credibilidade.

Como a empresa reagiu à denúncia

Em resposta à Reuters, um porta-voz da plataforma afirmou que as alegações trazem uma leitura errada do funcionamento do recurso. A empresa também defende que testes frequentes fazem parte do desenvolvimento de novos produtos e servem para medir a experiência do público.

Isso não encerra o caso. As acusações ainda estão sob análise da Justiça e, por enquanto, não existe decisão definitiva que confirme a narrativa apresentada pela procuradoria. O TikTok contesta que tenha enganado usuários de forma deliberada.

A resposta da empresa tenta recolocar os testes no campo da experimentação comum de produto. A disputa, porém, continua centrada no que foi comunicado ao usuário e no que realmente acontecia nos bastidores durante a avaliação da ferramenta.

O alcance da investigação em Nova York

A ação de Nova York não é um caso isolado. Segundo a apuração, mais de 24 estados americanos já processam a plataforma por suspeita de incentivar uso compulsivo entre crianças e adolescentes.

Em setembro, a empresa concordou em pagar até US$ 300 milhões para encerrar uma ação no Alabama e também aceitou mudanças no funcionamento da plataforma para adolescentes naquele estado. A movimentação reforça que a disputa jurídica sobre proteção infantil e transparência algorítmica segue ativa no país.

Para a procuradoria, o acúmulo de ações ajuda a sustentar a tese de que o problema vai além de um recurso específico. O debate passou a envolver a própria forma como redes sociais desenham, testam e apresentam ferramentas supostamente pensadas para reduzir risco.

O outro experimento citado nos autos

Os documentos divulgados nesta semana também tratam de uma investigação separada, descrita anteriormente pela Bloomberg. Nesse episódio, a empresa teria deixado de aplicar uma atualização de segurança para cerca de 10% dos usuários nos Estados Unidos, o que corresponderia a 15 milhões de pessoas.

A finalidade seria medir se alterações na distribuição dos conteúdos influenciariam o tempo de permanência no aplicativo. Entre os participantes havia um adolescente de Nova York que morreu por suicídio em 2022, e análises internas teriam identificado a presença de conteúdo ligado a automutilação e suicídio no histórico dele. O processo, porém, não afirma que o experimento tenha causado a morte.

Esse ponto amplia o peso da investigação, porque aproxima a discussão sobre desenho de plataforma de um caso com desfecho trágico. Mesmo sem concluir causalidade, os autos reforçam o interesse da Justiça em entender se os testes de produto ignoraram riscos relevantes para menores.

O que o caso muda para o debate público

Mesmo sem decisão final, a discussão amplia a pressão sobre a forma como plataformas explicam seus mecanismos de segurança. Em casos que envolvem adolescentes, a diferença entre uma função que parece funcionar e uma ferramenta que realmente altera o feed pode ser determinante para a confiança no serviço.

O caso também ajuda a situar o tipo de disputa que autoridades americanas vêm levando aos tribunais. Não se trata apenas de contestar um recurso específico, mas de avaliar se produtos desenhados para reduzir risco e dar controle aos usuários entregaram, de fato, o resultado anunciado.

Por enquanto, o processo de Nova York continua em análise. A Justiça ainda vai decidir até onde vão as responsabilidades atribuídas à empresa e se os testes descritos nos autos configuram, ou não, uma violação das regras que ela dizia seguir.

Perguntas frequentes

O TikTok suspendeu o recurso citado no processo?
O material não informa suspensão. O caso segue em análise judicial e a empresa contesta as acusações.

Quem moveu a ação em Nova York?
A procuradora-geral Letitia James é a responsável pelo processo.

O que é o Algo Refresh?
É a ferramenta citada nos autos que deveria redefinir as recomendações da aba Para Você.

Já existe decisão final sobre as acusações?
Não. Segundo a apuração, ainda não há definição definitiva da Justiça.