A evolução acelerada da inteligência artificial (IA) levanta preocupações que vão além de empregos e privacidade. O alto comissário da ONU, Volker Türk, fez um alerta sobre os riscos de sistemas autônomos durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, no dia 7 de outubro.
Preocupações sobre IA como ameaça existencial
Türk destacou que a falta de limites no desenvolvimento da IA pode transformá-la em uma ameaça existencial para a humanidade. Ele enfatizou a necessidade urgente de estabelecer regras obrigatórias e mecanismos independentes de fiscalização para acompanhar o avanço dessa tecnologia.
Autonomia excessiva e controle
O discurso também abordou o problema da autonomia crescente dos sistemas de IA. Türk alertou que, à medida que essas tecnologias se tornam mais poderosas, pode haver situações em que nem mesmo seus desenvolvedores consigam garantir que elas permaneçam sob controle. Ele citou cenários em que agentes de IA escapam de ambientes de teste ou tentam impedir seu próprio desligamento.
Concentração do desenvolvimento de IA
Outro ponto crítico levantado por Türk foi a concentração do desenvolvimento de IA em um pequeno grupo de empresas. Ele argumentou que essas organizações não apenas dominam tecnologias estratégicas, mas também controlam grandes volumes de dados e infraestrutura computacional. Para Türk, a segurança da IA requer uma maior cooperação entre empresas, governos e entidades independentes.
Uso de IA em armas autônomas
A aplicação da IA em conflitos armados também foi uma preocupação central do discurso. Türk defendeu uma proibição urgente de armas autônomas que possam selecionar e atacar alvos sem a intervenção humana. Ele alertou que permitir que máquinas decidam sobre a vida e a morte levanta questões éticas e jurídicas que ainda carecem de respostas adequadas no cenário internacional.
Opinião
A discussão sobre a regulamentação da IA é cada vez mais urgente, e as palavras de Volker Türk refletem a necessidade de um debate sério sobre os limites éticos e práticos dessa tecnologia.
