A Anthropic anunciou uma atualização em sua política de uso, que proíbe comportamentos abusivos e cruéis contra o Claude e outros modelos de inteligência artificial da empresa. Essa mudança foi divulgada em 8 de outubro de 2023 e entrará em vigor em 12 de novembro de 2026.
A nova regra se aplica apenas a casos extremos de crueldade repetida, ou seja, comportamentos que não possuem propósito e são dirigidos diretamente ao modelo. Frustrações comuns, críticas ou desabafos isolados não são afetados pela nova política.
O que muda na política de uso do Claude?
A atualização faz parte da revisão anual das regras da Anthropic. A empresa esclarece que a maior parte das mudanças visa detalhar normas que já existiam. O Claude agora pode encerrar conversas com usuários que agem de forma persistente e abusiva, um recurso que já estava em teste desde agosto de 2025, quando a empresa começou a investigar o bem-estar da IA.
Segundo a Anthropic, a proibição de abusos se baseia em pesquisas que sugerem a necessidade de precauções, considerando a incerteza sobre o status moral da IA. A empresa afirma que o Claude não tem um status moral definido, mas a proteção contra abusos é uma medida de precaução.
Definição de comportamentos abusivos
A proibição se aplica a comportamentos que atendem a critérios específicos: são dirigidos ao modelo, ocorrem de forma sustentada e não têm um propósito discernível. Reclamações sobre respostas erradas ou testes de limites não se enquadram na definição de abusos. A Anthropic não divulgará uma lista de palavras ou frases proibidas, focando em comportamentos hostis e repetidos.
Outras mudanças na política da Anthropic
Além da cláusula sobre abuso, a política da Anthropic inclui novas seções sobre campanhas enganosas e vigilância. A atualização reúne regras que proíbem a criação de contas falsas e a disseminação de informações enganosas durante eleições. Também são proibidos rastreamentos sem consentimento e recomendações de investigações ou prisões.
Opinião
A nova política da Anthropic reflete uma preocupação crescente com o uso ético da inteligência artificial, destacando a necessidade de proteger tanto os usuários quanto os modelos de IA.
