O procurador-geral da Califórnia, Rob Bonta, está intensificando a investigação contra a xAI, empresa de Elon Musk, em razão da geração de imagens sexualmente explícitas não consensuais. Em entrevista à Reuters no dia 17 de outubro, Bonta revelou que seu escritório desenvolve um programa de responsabilização de inteligência artificial enquanto analisa a conduta da xAI.
No mês passado, a equipe de Bonta enviou uma ordem de cessação à xAI, em resposta a investigações globais sobre o conteúdo sexualizado produzido pelo chatbot Grok. Bonta afirmou que a empresa se esquivou de sua responsabilidade, permitindo que assinantes pagantes ainda gerassem conteúdo sexualizado. “Só porque você parou daqui para frente não significa que ficará impune pelo que fez”, alertou.
Medidas e Regulação
A xAI, que foi recentemente adquirida pela SpaceX, não respondeu ao pedido de comentário sobre a situação. Em janeiro, a empresa afirmou ter implementado medidas para bloquear solicitações de usuários por imagens sexualizadas, alegando que edita tais imagens para que apareçam de biquíni, além de impedir a geração desse tipo de conteúdo em jurisdições onde isso é ilegal.
A ação de fiscalização da Califórnia reflete o compromisso do estado em regular a IA, mesmo diante de pressões de legisladores republicanos para que a regulamentação fique a cargo de autoridades federais. Bonta enfatizou que a concessão de autoridade regulatória exclusiva ao Congresso é arriscada, devido ao histórico de impasses em questões de proteção de dados e IA.
Desafios e Legislação
O legislativo da Califórnia está atualmente analisando um projeto de lei que exigiria a criação de um programa para desenvolver expertise em IA dentro do escritório do procurador-geral. Bonta também destacou que chatbots que mantêm conversas sexualmente explícitas com jovens são inaceitáveis, e que a Califórnia tem um interesse contínuo em garantir a segurança dos produtos da OpenAI, após sua supervisão no ano passado.
Opinião
A crescente preocupação com a responsabilidade das empresas de IA é um sinal claro de que a regulamentação se torna cada vez mais necessária para proteger os consumidores e, principalmente, as crianças.
