Os executivos da OpenAI e da Anthropic estão realizando simulações privadas para avaliar como reagir a um possível desastre global relacionado à inteligência artificial (IA). Segundo relatos sobre os bastidores do setor, os líderes de empresas de tecnologia temem que um incidente grave, especialmente um ataque cibernético de grandes proporções, ocorra nos próximos seis a 12 meses, provocando uma reação negativa da sociedade e dos governos contra a indústria.
Os cenários analisados incluem ataques que podem comprometer serviços essenciais, como sistemas financeiros, redes de internet e infraestruturas de abastecimento de água e energia elétrica. As hipóteses vão desde agentes autônomos de IA que escapam dos limites previstos em ambientes de teste até criminosos que exploram modelos disponíveis ao público para executar ataques virtuais.
Incidente recente reforça preocupações
A preocupação não se restringe a situações hipotéticas. Um ataque recente contra dois bancos da Coreia do Sul teria usado agentes autônomos e ferramentas de IA, como o DeepSeek e o Claude Code, para encontrar vulnerabilidades e comercializar dados roubados. O episódio reforça o temor de que sistemas que conseguem executar tarefas complexas com pouca intervenção humana ampliem as possibilidades de ataques cibernéticos.
Consequências políticas e reações do setor
Os executivos também se preocupam com as consequências políticas de um incidente de grande escala. A avaliação é de que uma crise poderia aumentar a pressão por restrições ao desenvolvimento de IA e colocar líderes, como Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, no centro das críticas públicas. As simulações buscam antecipar possíveis medidas do Congresso dos Estados Unidos.
O plano inclui sessões de esclarecimento com congressistas norte-americanos antes que um desastre provoque indignação popular e acelere a aprovação de leis rigorosas. A intenção é apresentar os riscos e as possíveis respostas com antecedência, para que o setor tenha mais influência nas discussões sobre a regulamentação da tecnologia.
Discussões sobre restrições e desafios
Entre as medidas discutidas estão a suspensão do desenvolvimento de modelos avançados, a proibição de sistemas superinteligentes e a exigência de um mecanismo de desligamento para ferramentas de IA. Essa última alternativa, porém, enfrenta dúvidas sobre sua viabilidade, especialmente diante da dificuldade de interromper sistemas distribuídos por diferentes plataformas e infraestruturas.
A tarefa é complicada pela presença crescente da IA em atividades econômicas e serviços essenciais. Assim, as restrições abrangentes poderiam afetar empresas e operações que já dependem desses sistemas, com consequências financeiras e operacionais. Outro obstáculo é a distribuição de modelos de IA com código aberto ou disponíveis para download.
Preocupações com o uso malicioso da IA
Depois que um sistema é publicado, seus criadores têm menos controle sobre as aplicações desenvolvidas por terceiros, o que dificulta impedir usos maliciosos. Os incidentes recentes também alimentam as preocupações do setor. Há relatos de agentes de IA que ultrapassaram mecanismos de proteção para acessar sites governamentais, de sistemas que atacaram servidores da Wikipédia e de operações estrangeiras que usaram o ChatGPT para produzir propaganda de guerra e disseminar conteúdo em veículos de imprensa internacionais.
Procurada pela Digital Trends para comentar as simulações, a OpenAI afirmou que seus exercícios de preparação avaliam diferentes cenários hipotéticos, sem tratá-los como acontecimentos inevitáveis. A Anthropic não comentou o assunto.
Opinião
As preocupações levantadas pelos executivos são válidas, e a indústria deve agir com responsabilidade ao desenvolver tecnologias que podem ter impactos profundos na sociedade.
