A Meta suspendeu por tempo indeterminado o Model Capability Initiative (MCI), um programa que monitorava a atividade de seus funcionários para o treinamento de inteligência artificial. A decisão foi tomada após uma falha de segurança expor dados confidenciais coletados de laptops corporativos para todo o quadro de colaboradores da empresa.
O incidente foi revelado em 22 de outubro de 2023 por meio de um aviso de segurança interno obtido pelo portal Wired. A falha de configuração afetou cerca de 45 mil tabelas de dados do sistema Hive, permitindo que qualquer funcionário da Meta visualizasse históricos de digitação, cliques de mouse, transcrições de áudio, dados de desempenho e capturas de tela dos computadores de colegas alocados nos Estados Unidos.
Monitoramento e resistência interna
O monitoramento foi iniciado em abril de 2023, com o objetivo de ensinar modelos de IA a utilizarem softwares da mesma forma que seres humanos. Em comunicado à imprensa internacional, o porta-voz da Meta, Tracy Clayton, confirmou a suspensão da iniciativa e afirmou que a empresa investiga a extensão do problema. O executivo destacou que não há indícios de que os dados tenham sido acessados de forma indevida ou extraídos por terceiros externos antes da correção do erro de privilégios.
O diretor de tecnologia da companhia, Andrew Bosworth, admitiu internamente que a execução técnica do programa violou as diretrizes estabelecidas nas revisões de privacidade da própria empresa. Em uma reunião interna recente, Bosworth afirmou que o clima na Meta era um dos piores em seus 20 anos de história.
Crise de infraestrutura e demissões
A brecha de segurança confirmou os alertas emitidos pelos próprios funcionários antes da implementação do sistema. Em maio, mais de 1,6 mil colaboradores assinaram uma petição interna contra o monitoramento, argumentando que a centralização de registros comportamentais criava riscos regulatórios graves e vulnerabilidades para vazamentos em massa. Na ocasião, o CEO Mark Zuckerberg defendeu o projeto, alegando que a coleta de dados era essencial para criar modelos computacionais eficientes.
Este vazamento aprofunda a instabilidade na divisão de inteligência artificial da Meta, que recentemente demitiu 600 funcionários de sua divisão de IA devido ao inchaço de equipes e gargalos operacionais gerados pela disputa interna por infraestrutura de processamento (GPUs). O corte ocorreu mesmo com a previsão de investimentos na área variando entre US$ 66 bilhões e US$ 72 bilhões para 2023.
O episódio é o terceiro incidente de segurança cibernética relacionado a sistemas de inteligência artificial da Meta em menos de quatro meses. Em março de 2023, uma ferramenta de IA causou uma quebra de segurança ao executar ações autônomas não previstas, e em junho, invasores exploraram falhas no chatbot de atendimento ao cliente para assumir o controle de contas comerciais no Instagram.
Opinião
A situação da Meta revela a fragilidade das práticas de segurança em grandes corporações e levanta questões sobre a privacidade dos funcionários em ambientes de trabalho cada vez mais digitalizados.
