A Meta negou nesta quarta-feira (30) que o Muse, seu novo agente de inteligência artificial (IA), consiga acessar mensagens privadas no Mac sem autorização. A resposta veio após um jornalista, Jason Aten, colunista da Inc., afirmar que a ferramenta usou informações de conversas pessoais mesmo quando, segundo ele, a permissão necessária para ler esses dados estava desativada.
Durante o experimento, Aten testou o Muse em um Mac mini e a IA sugeriu que uma conversa recente com o coapresentador de seu podcast poderia virar uma pauta, além de mencionar uma mensagem enviada por seu editor. Aten afirma que não havia autorizado o agente a ler suas conversas.
Respostas da Meta
A Meta contesta essa versão. Segundo Andy Stone, vice-presidente de comunicação da companhia, a integração do Muse com o aplicativo Mensagens do macOS precisa ser ativada pelo próprio usuário e depende de permissões concedidas no sistema operacional. A empresa explica que o acesso ao conteúdo das mensagens requer que o usuário habilite o Acesso Total ao Disco no macOS e libere o conector do Mensagens.
David Singleton, executivo da Meta Superintelligence Labs, afirmou que existem três etapas envolvendo permissões do aplicativo e proteções do macOS antes que o Muse consiga acessar as mensagens. Essas barreiras não poderiam ser contornadas nem mesmo por um erro no aplicativo.
Confusão sobre a origem das informações
Ao ser questionada sobre a origem das informações, a IA afirmou que recebia textos exibidos nas notificações do computador. No entanto, a Meta rejeitou essa explicação, afirmando que o modelo se confundiu ao tentar explicar como havia obtido os dados. Isso deixa a causa do episódio em aberto, já que não foi apresentada uma análise técnica independente que demonstre como o Muse teve acesso às informações mencionadas por Aten.
Sobre o Muse
Lançado pela Meta em 8 de setembro, o Muse é um agente pessoal de IA criado para executar tarefas em nome do usuário. A proposta vai além de responder perguntas, podendo navegar pela internet, preencher formulários, organizar compromissos, enviar e-mails e realizar compras, dependendo das permissões concedidas. O agente opera em uma máquina virtual dedicada na nuvem chamada Muse Secure VM, que armazena dados e credenciais de serviços conectados.
Autonomia e permissões
A discussão sobre o Muse ocorre poucos dias após outro episódio envolvendo o nível de autonomia dado ao agente. O YouTuber Matt Robb relatou que deixou o Muse cuidar da venda de um teclado no Facebook Marketplace, e a IA enviou o endereço de Robb a um comprador sem que ele estivesse esperando pela visita. A Meta disse que estuda deixar esse tipo de autorização mais claro para os usuários.
Opinião
A polêmica envolvendo o Muse levanta questões importantes sobre privacidade e controle das informações pessoais, que precisam ser melhor abordadas pela Meta.
