O Governo do Brasil, por meio da Agência Nacional de Proteção de Dados (ANPD), da Secretaria Nacional do Consumidor (Senacon) e do Ministério Público Federal (MPF), emitiu recomendações à plataforma X para que impeça a geração de conteúdos indevidos utilizando o assistente de inteligência artificial Grok. Essa ação surge em resposta a denúncias sobre o uso da ferramenta para produzir conteúdos sintéticos de caráter sexualizado.
As denúncias apontam que o Grok tem sido utilizado por usuários para criar deepfakes, uma técnica de inteligência artificial que gera imagens falsas a partir de pessoas reais. Os conteúdos gerados incluem imagens sexualizadas de mulheres, crianças e adolescentes, o que levanta sérias preocupações sobre a violação de direitos e a dignidade das vítimas.
Recomendações do Governo
As recomendações conjuntas exigem que a empresa responsável pela plataforma X implemente, em um prazo de 30 dias, medidas para evitar a geração de novos conteúdos sexualizados. Isso inclui a suspensão imediata das contas que produzirem imagens eróticas ou pornográficas de crianças e adolescentes, assim como de adultos sem consentimento.
Além disso, a empresa deve apresentar relatórios mensais comprovando a eficácia das ações adotadas, bem como criar mecanismos que permitam aos titulares de dados denunciar abusos relacionados ao uso do Grok. A falta de cumprimento dessas recomendações pode resultar em medidas administrativas ou judiciais por parte das instituições envolvidas.
Impacto e Responsabilidade
A gravidade das denúncias levou as instituições a coordenarem esforços para proteger os direitos de mulheres, crianças e adolescentes, uma vez que os conteúdos gerados pelo Grok ampliam a exposição e os riscos de danos às pessoas retratadas. As recomendações visam garantir a proteção de dados pessoais e a dignidade humana no ambiente digital.
Opinião
As medidas recomendadas pelo Governo são essenciais para coibir práticas abusivas no uso de tecnologias de inteligência artificial e proteger os direitos dos mais vulneráveis.
