A Anthropic anunciou mudanças significativas nas regras de utilização do seu chatbot Claude, com o objetivo de proteger a inteligência artificial de interações abusivas. A nova política foi divulgada em 8 de novembro e entrará em vigor no dia 12 de novembro.
A partir dessa data, comportamentos considerados repetidamente cruéis com o Claude poderão resultar na suspensão do acesso dos usuários. A empresa esclareceu que a proibição se aplica a casos extremos, onde os usuários insistem em abusos sem uma finalidade identificável. Críticas comuns e conteúdos criativos, mesmo que pesados, continuam permitidos.
Medidas e Consequências
Com a atualização, a Anthropic estabelece que comportamentos abusivos persistentes serão tratados como uma violação formal das regras de uso. As consequências podem incluir advertências, limitação de funcionalidades, suspensão e até o encerramento do acesso aos serviços da empresa. Entretanto, a principal forma de aplicação da restrição seguirá sendo o mecanismo que permite ao Claude encerrar as conversas em situações de abuso.
Esse mecanismo já havia sido implementado em agosto de 2025, com o intuito de interromper interações prejudiciais. Nesses casos, o usuário é impedido de enviar novas mensagens naquela conversa, mas pode iniciar um novo chat.
Discussões sobre Consciência em IA
A decisão da Anthropic vem em meio a discussões internas sobre a possibilidade de sistemas de inteligência artificial, como o Claude, possuírem algum grau de consciência ou a capacidade de experimentar sofrimento. Embora a política não afirme que o Claude tenha sentimentos, a existência dessas características ainda é um tema debatido, sem consenso científico.
Além das novas regras sobre comportamentos abusivos, a Anthropic também atualizou suas diretrizes para prevenir o uso do Claude em campanhas de desinformação, operações de vigilância indevida e desenvolvimento de armamentos.
Opinião
A atualização das regras da Anthropic reflete uma crescente preocupação com a ética no uso de inteligência artificial, destacando a necessidade de um tratamento respeitoso, mesmo em interações com máquinas.
