No início de outubro de 2023, a Anthropic anunciou uma nova funcionalidade que promete revolucionar a identificação de conteúdos gerados por Inteligência Artificial (IA). A marca d’água será inserida diretamente durante a geração de conteúdo pelo Claude, oferecendo uma alternativa mais confiável em comparação aos detectores tradicionais.
Como funciona a marca d’água do Claude?
Ao contrário dos detectores de IA convencionais, que se baseiam em análises estatísticas e podem gerar falsos positivos e falsos negativos, a marca d’água do Claude será embutida no próprio texto enquanto ele é gerado. Contudo, é importante ressaltar que textos com menos de 200 tokens não apresentarão a marca, uma vez que não oferecem informações suficientes para uma detecção confiável.
Confiabilidade da nova tecnologia
A confiabilidade da marca d’água do Claude é considerada superior à dos detectores convencionais. De acordo com o professor Marcos Barreto, da Fundação Vanzolini e da POLI-USP, a nova abordagem busca elementos mais complexos, como estilo e estrutura, que são mais difíceis de qualificar. Isso significa que, se o Claude identificar que um texto foi gerado por IA, a probabilidade é maior do que com os métodos tradicionais.
Limitações e desafios
Apesar das vantagens, a Anthropic reconhece que a marca d’água não é infalível. Textos que passam por grandes alterações ou revisões podem ter a marca d’água reduzida ou até eliminada. Além disso, a ferramenta não registra informações do usuário que gerou o conteúdo, garantindo privacidade.
O futuro da identificação de IA
A nova tecnologia do Claude poderá ser utilizada como um complemento aos detectores convencionais, especialmente em ambientes acadêmicos e corporativos que buscam validar a origem de textos. A Anthropic também anunciou planos para lançar uma API que permitirá a detecção de marcas d’água em textos no futuro.
Opinião
A implementação da marca d’água no Claude representa um avanço significativo na identificação de conteúdos gerados por IA, mas é crucial que instituições e usuários entendam suas limitações e a necessidade de complementar essa tecnologia com outras ferramentas de validação.
