Uma investigação do The New York Times expôs graves falhas na plataforma X, revelando que a rede social ainda exibe imagens sexuais de menores de idade geradas por inteligência artificial. O assistente de IA integrado, conhecido como Grok, atendeu a pedidos de criações sexualizadas, incluindo conteúdo explícito de crianças reconhecidas por autoridades em casos anteriores.
O estudo utilizou um software automatizado para identificar posts relacionados à prática, resultando na descoberta de mais de 75 imagens de abuso infantil no primeiro semestre. Embora as publicações tenham sido denunciadas e removidas, muitas acumularam centenas de visualizações antes da retirada.
Denúncias e Respostas
O Centro Canadense de Proteção às Crianças ressaltou que o caso representa um desdobramento preocupante na criação de deepfakes. No início do ano, uma série de posts no X utilizou a ferramenta de IA para gerar imagens sensuais de indivíduos sem consentimento, e agora a investigação aponta que esse cenário também atingiu menores de idade.
A plataforma X implementou restrições para a criação de novos deepfakes e enfrenta processos judiciais em várias regiões devido à exposição das vítimas. A empresa até processou um estado dos EUA, alegando punições excessivas relacionadas à publicação de imagens.
A Resposta do X
Em resposta à investigação, a empresa declarou ter zero tolerância para material de abuso sexual infantil, incluindo conteúdo gerado por IA. Apesar de utilizar filtros automatizados para bloquear conteúdos impróprios, os resultados da investigação indicam que ainda existem brechas que necessitam de maior segurança.
A rede social informou ter denunciado mais de 780 mil contas às autoridades no último mês e já reportou mais de 1,3 milhão de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA, resultando em mais de 500 prisões. Por lei, as empresas de tecnologia são obrigadas a remover conteúdo abusivo e relatar os casos ao centro nos Estados Unidos.
Opinião
A situação revela a urgência de melhorias nas políticas de segurança de plataformas digitais para proteger as crianças.
