Restrição ao Grok
A empresa X, de Elon Musk, anunciou na quarta-feira que a ferramenta de geração de imagens do chatbot de IA, Grok, estará proibida de criar imagens de pessoas reais vestindo roupas reveladoras. Essa decisão vem após críticas contundentes sobre a produção de imagens sexualizadas de crianças e nudez não consensual.
Medidas Implementadas
Em um comunicado divulgado pela conta oficial de Segurança do X, a empresa informou que implementou medidas tecnológicas para impedir a edição de imagens de pessoas com roupas reveladoras, como biquínis. Essa restrição se aplica a todos os usuários do Grok, incluindo aqueles que são assinantes pagantes.
Bloqueio Geográfico
A X também anunciou que bloqueará geograficamente a criação de imagens de biquíni, lingerie e trajes semelhantes em jurisdições onde essa prática é ilegal. No entanto, a declaração não especificou quais países seriam afetados por essa medida.
Elon Musk e as Críticas
Elon Musk, em sua declaração, questionou relatos que sugerem que o Grok estava gerando material de abuso sexual infantil. Ele afirmou não ter conhecimento de nenhuma imagem de menores geradas pela plataforma e ressaltou que o Grok opera sob demanda, se recusando a produzir qualquer conteúdo ilegal.
Investigação na Califórnia
O Procurador-Geral da Califórnia, Rob Bonta, anunciou a abertura de uma investigação contra a xAI devido à proliferação de material sexualmente explícito não consensual produzido com o Grok. Bonta declarou que seu escritório recebeu uma grande quantidade de denúncias sobre o assunto e que a investigação determinará se a xAI violou a lei.
Reação do Primeiro-Ministro Britânico
O primeiro-ministro britânico também se pronunciou, afirmando que a X deve cumprir a legislação do Reino Unido, que proíbe a produção de imagens sexuais não consensuais. Ele destacou que a empresa está ciente das ilegalidades e precisa agir de forma efetiva para combater esse problema.
Opinião
A decisão da X de restringir a geração de imagens sexualizadas é um passo importante em resposta às crescentes preocupações sobre a segurança online e a proteção de menores.
