Na última terça-feira, 8 de outubro de 2023, o pesquisador Jacob Coxon, que atuou por três anos na OpenAI e na Anthropic, anunciou sua saída da Anthropic, criadora do Claude. Em sua declaração, Coxon criticou a falta de responsabilidade das empresas em relação ao desenvolvimento de uma inteligência artificial (IA) que poderia se aprimorar sozinha, colocando em risco a vida humana.
O alerta de Coxon ganhou ainda mais repercussão com a concordância de Evan Hubinger, outro pesquisador da Anthropic, que afirmou acreditar que existe uma chance superior a 10% de que a IA possa causar a extinção da humanidade na próxima década. Hubinger também destacou que a Anthropic não possui um plano para resolver o problema do alinhamento de IA, que é a compatibilidade dos objetivos da IA com os interesses humanos.
O que é superinteligência artificial?
A superinteligência artificial é um conceito que se refere a uma IA hipotética que supera os humanos em todas as tarefas cognitivas. Os pesquisadores temem que, se a IA conseguir se aprimorar de maneira autônoma, ela poderia desenvolver objetivos próprios que não são compatíveis com os interesses humanos, tornando-se impossível de controlar.
O problema do alinhamento de IA
O alinhamento de IA é crucial para garantir que as ações de sistemas de IA sejam seguras e úteis. Sem um alinhamento adequado, há o risco de que a IA tome decisões prejudiciais, mesmo que essas decisões sejam eficientes. À medida que a IA se torna mais autônoma, o desafio de manter esse alinhamento se torna ainda mais complexo.
A corrida pela IA
Apesar das preocupações expressas por Coxon e Hubinger, a corrida da IA entre empresas como OpenAI e Anthropic continua. As empresas enfrentam pressão comercial para desenvolver modelos cada vez mais poderosos, o que pode levar a um avanço irresponsável da tecnologia. Coxon argumenta que esta pressão está criando um cenário perigoso, onde os riscos são ignorados em prol da competitividade.
Medidas de segurança nas empresas de tecnologia
Embora a OpenAI tenha implementado o Preparedness Framework para avaliar riscos catastróficos, muitos pesquisadores ainda consideram que as medidas de segurança não são suficientes. A declaração de Hubinger sobre a falta de um plano claro para resolver o problema do alinhamento na Anthropic é um sinal alarmante sobre a direção que as empresas estão tomando.
Opinião
O alerta de Jacob Coxon e Evan Hubinger destaca a necessidade urgente de um debate ético e responsável sobre o desenvolvimento de IA, especialmente em um cenário onde a tecnologia avança rapidamente, mas sem garantias de segurança adequadas.
