Os alertas sobre a segurança dos modelos de IA de ponta têm se intensificado. Em um artigo na revista Time, o ex-cientista-chefe do Instituto de Segurança em IA do Reino Unido destacou que a probabilidade de morte por sistemas de IA mais inteligentes que os humanos é de 50%. No mesmo dia, um funcionário sênior da OpenAI anunciou sua saída da empresa devido a preocupações com a cultura de segurança considerada “defeituosa”.
Enquanto isso, os Estados Unidos mostraram desinteresse em regulamentar a tecnologia, exceto por um acordo voluntário assinado por CEOs do setor de tecnologia e pelo presidente Donald Trump. Essa situação levanta a questão de quem deve regulamentar o desenvolvimento da IA de ponta.
Apelo por Controle da IA
Um grupo de potências médias, liderado pelo presidente finlandês Alexander Stubb e pelo primeiro-ministro norueguês Jonas Gahr Støre, lançou o “Apelo pelo Controle dos Modelos de IA de Ponta”, endossado por mais de 30 líderes políticos. O apelo clama por maior coordenação e pela criação de uma agência internacional de IA.
Este momento pode ser crucial, já que o risco da IA está na mente do público global, criando uma oportunidade para que países definam os termos de desenvolvimento e implantação da IA. Para isso, é necessário unir forças e converter o peso coletivo em alavancagem estratégica.
Coalizão de Potências Médias
Uma coalizão de potências médias, incluindo Índia, Japão, Coreia do Sul, Brasil e África do Sul, poderia condicionar o acesso ao mercado à conformidade com requisitos de segurança, como testes obrigatórios de modelos antes da implantação. Essa abordagem poderia ser facilitada por investimentos conjuntos em capacidades técnicas.
Além disso, o monitoramento compartilhado de incidentes poderia fornecer alertas sobre falhas nos modelos e gerar evidências para futuras regulamentações. A cúpula de IA de Genebra, marcada para junho de 2027, será um momento chave para que essas potências médias se alinhem em torno de uma agenda ambiciosa de segurança.
Desafios e Oportunidades
Ainda que a busca por consenso entre as potências médias seja desafiadora, a união de suas posições pode ser uma estratégia eficaz. A história já mostrou que países podem se unir em questões de segurança, como no Acordo de Paris sobre mudanças climáticas.
Garantir a segurança da IA exigirá regulamentação dos EUA e um acordo entre EUA e China sobre segurança cibernética e usos militares da tecnologia. Contudo, um leque mais amplo de países moldando a IA pode resultar em um desenvolvimento mais seguro e benéfico.
Opinião
As potências médias têm um papel crucial na definição de normas globais para a segurança da IA, e sua colaboração pode ser a chave para um futuro mais seguro.
