Criminosos virtuais estão ampliando o foco de malwares que roubam informações para capturar contas de inteligência artificial usadas dentro de empresas. O objetivo pode ir além de obter uma senha: uma sessão comprometida do ChatGPT ou de outra plataforma pode expor históricos de conversas, códigos, documentos internos e até chaves usadas para acessar modelos de IA.
Um levantamento da empresa de cibersegurança SOCRadar analisou mais de 1 milhão de registros coletados por infostealers, tipo de malware especializado em roubar informações armazenadas em dispositivos infectados. Os dados estavam relacionados a serviços de IA e envolviam mais de 80 mil domínios corporativos. Esse número não significa que mais de 80 mil empresas tiveram suas redes diretamente invadidas. Os domínios apareceram nos registros coletados pelos malwares, que podem incluir contas corporativas usadas em computadores pessoais infectados.
Análise de grandes empresas
Para uma análise mais detalhada, a SOCRadar selecionou 482 grandes empresas de 36 países e oito setores. Foram encontrados 5.434 registros ligados a cerca de 1,5 mil endereços de e-mail corporativos. Deste grupo, 295 companhias apareceram em registros produzidos nos últimos 90 dias.
Motivos do interesse criminoso
Por que contas de IA interessam aos criminosos? Infostealers normalmente são distribuídos por diferentes meios, como softwares adulterados, páginas maliciosas e campanhas de phishing. Uma vez no computador, o malware pode coletar senhas salvas no navegador, cookies de sessão, tokens de autenticação e chaves de API. Com a adoção de ferramentas de IA no trabalho, essas informações ganharam valor adicional.
Funcionários podem enviar códigos-fonte, contratos, dados de clientes e informações sobre projetos ainda não anunciados para chatbots, por exemplo. Caso um invasor consiga assumir uma sessão ativa, parte desse histórico pode ficar acessível. Há ainda um problema com os cookies de sessão, que mantêm o usuário autenticado depois do login e, dependendo das proteções adotadas pelo serviço, podem permitir que um criminoso reutilize uma sessão roubada sem precisar digitar novamente a senha.
Dados da pesquisa da SOCRadar
Entre as 482 empresas analisadas pela SOCRadar, credenciais ou sessões relacionadas ao ChatGPT e à OpenAI apareceram em 358 delas. Esses casos concentraram cerca de 90% dos registros encontrados no recorte da pesquisa. A própria SOCRadar ressalta que o dado não indica necessariamente uma vulnerabilidade maior nos serviços da OpenAI.
Segundo os pesquisadores, a concentração pode estar ligada à popularidade do ChatGPT e ao uso de contas criadas por funcionários com e-mails corporativos, inclusive fora dos dispositivos e sistemas gerenciados pelas empresas. Esse tipo de adoção é chamado de shadow AI, ou “IA sombra”: ferramentas de inteligência artificial usadas no ambiente profissional sem conhecimento ou controle do departamento responsável pela tecnologia e segurança.
Chaves de API e LLMjacking
Outro alvo são as chaves de API, credenciais usadas por programas e sistemas para acessar modelos de IA. Depois de roubadas, elas podem ser usadas para consumir recursos pagos pela vítima ou revendidas a terceiros. A prática ganhou o nome de LLMjacking. Em vez de pagar pelo processamento necessário para executar modelos de linguagem, criminosos utilizam contas, créditos ou infraestrutura pertencentes a outras pessoas e empresas.
A SOCRadar afirma ter encontrado anúncios em fóruns clandestinos oferecendo chaves de Claude, cookies de sessões pagas do ChatGPT e acessos a outras ferramentas de IA. O Google Threat Intelligence Group (GTIG) também relata casos de criminosos comprando contas comprometidas ou roubando credenciais para evitar os custos de serviços de inteligência artificial.
Opinião
A crescente incidência de ataques a contas de IA destaca a necessidade urgente de empresas reforçarem suas medidas de segurança cibernética e conscientização sobre os riscos associados ao uso de ferramentas de IA.
