Uma nova análise revelou que a Meta falhou em identificar 55% das imagens geradas pelo seu modelo de inteligência artificial, o Muse Image, quando estas foram cortadas. O teste, que avaliou 40 imagens, foi publicado pela Reuters nesta sexta-feira (10).
A ferramenta de detecção foi apresentada em pré-visualização na mesma semana do lançamento do Muse Image, que está disponível gratuitamente no Meta AI, Instagram Stories e WhatsApp. A Meta afirma que a ferramenta utiliza uma marca d’água invisível chamada Content Seal, projetada para resistir a edições comuns e indicar se o conteúdo foi produzido por seus sistemas.
Problemas na detecção
O problema de detecção surgiu quando as imagens foram cortadas para cerca de um terço a metade do tamanho original. Questionada sobre os resultados, a Meta afirmou que a ferramenta ainda está em fase de pré-visualização e que o sinal da marca d’água pode se perder em cortes mais agressivos.
Além disso, especialistas como Siwei Lyu, professor de ciência da computação na Universidade de Buffalo, alertam para as limitações conhecidas dos sistemas baseados em marca d’água. Modificações como cortes, redimensionamentos e compressões podem reduzir a eficácia da detecção.
Contexto e implicações
A falha na detecção de imagens ganha relevância em um ano crítico, marcado pelas eleições de meio de mandato nos Estados Unidos, onde a verificação de imagens após alterações simples se torna ainda mais desafiadora, facilitando a circulação de deepfakes.
Em março, o Comitê de Supervisão da Meta já havia solicitado um investimento em ferramentas de detecção mais robustas para combater a proliferação de conteúdo enganoso gerado por IA.
Muse Image e Muse Spark 1.1
O Muse Image é o segundo lançamento do laboratório Superintelligence da Meta. A ferramenta permite criar imagens a partir de comandos de texto, mas também gerou controvérsia ao possibilitar que usuários manipulem fotos públicas de outras pessoas no Instagram sem notificação prévia. Recentemente, a Meta anunciou o Muse Spark 1.1, que traz avanços em raciocínio multimodal, com acesso aberto através da nova Meta Model API.
Opinião
A falha da Meta em detectar suas próprias imagens gera preocupações sobre a eficácia das tecnologias de detecção em um cenário onde a manipulação de imagens se torna cada vez mais comum.
