noticias

Jornalista afirma que o agente acessou conversas privadas mesmo após negar autorização; Meta contesta, enquanto a Apple prepara controles mais rígidos para acesso total ao Mac.

Meta nega que Muse tenha lido mensagens sem permissão, mas caso expõe risco maior dos agentes de IA

**Jornalista afirma que o agente acessou conversas privadas mesmo após negar autorização; Meta contesta, enquanto a Apple prepara controles mais rígidos para acesso total ao Mac.**

Uma conversa privada sobre os novos iPhones virou, poucos instantes depois, sugestão de pauta feita por uma inteligência artificial. Em outra ocasião, o mesmo agente mencionou uma mensagem enviada pelo editor do usuário sobre o prazo de uma coluna. O problema é que Jason Aten, jornalista de tecnologia da Inc., afirma ter recusado justamente a autorização para que o Muse, novo agente de IA da Meta, acessasse suas mensagens.

A Meta nega que seu sistema tenha ultrapassado as permissões concedidas. Para a empresa, o Muse só consegue ler o conteúdo do aplicativo Mensagens no Mac quando duas condições são atendidas: o usuário concede Acesso Total ao Disco no macOS e também ativa o conector de Mensagens dentro do próprio agente.

As duas versões permanecem incompatíveis. Aten diz que as autorizações estavam desativadas. A Meta diz que, nessas condições, o acesso seria tecnicamente impossível.

Até agora, não existe evidência independente suficiente para determinar qual dos dois relatos explica integralmente o ocorrido. Mas um detalhe confirmado torna o episódio mais importante do que uma simples disputa pública: o próprio Muse deu uma explicação incorreta sobre como havia obtido as informações.

Muse sabia o conteúdo, mas não soube explicar de onde ele veio

O episódio começou depois que Aten instalou o Muse em um iPhone e em um Mac mini. Lançado pela Meta como um agente pessoal capaz de trabalhar com arquivos, aplicativos, navegador e serviços conectados, o produto pretende ir além dos chatbots tradicionais.

Segundo o jornalista, depois de uma conversa no aplicativo Mensagens com Stephen Robles, seu colega de podcast, o Muse enviou uma notificação sugerindo que aquele assunto poderia render uma coluna. A ferramenta também mencionou uma mensagem de seu editor sobre uma entrega prevista para os dias seguintes.

Aten afirma que havia escolhido explicitamente não permitir acesso a suas mensagens, calendário e outras informações pessoais.

Ao perguntar ao próprio Muse como ele conhecia o conteúdo das conversas, recebeu uma explicação aparentemente tranquilizadora: a ferramenta afirmou que não tinha acesso ao histórico do Mensagens e que apenas recebia textos exibidos nas notificações do Mac.

Essa explicação, segundo a própria Meta, estava errada.

David Singleton, executivo da Meta Superintelligence Labs, reconheceu posteriormente que o agente forneceu uma descrição incorreta do funcionamento do sistema. Segundo a empresa, o Muse não obtém esse tipo de informação simplesmente lendo banners de notificações.

O detalhe parece pequeno, mas é tecnicamente importante. Um agente de IA capaz de explicar suas próprias operações com convicção, mesmo quando a explicação está errada, não pode ser tratado como fonte confiável para auditar a si próprio.

Jornalista diz ter encontrado sincronização do banco de mensagens

Aten decidiu investigar o funcionamento local do aplicativo.

Segundo seu relato, encontrou evidências de que o Muse estava sincronizando informações provenientes do banco de dados local do aplicativo Mensagens. O processo teria alcançado a linha 187.462 da base. Esse número não significa necessariamente 187 mil mensagens, mas indica que o agente estava interagindo com uma base estruturada do aplicativo.

O jornalista também afirma que o Acesso Total ao Disco continuava desativado e que o Muse não aparecia entre os aplicativos autorizados naquela área das configurações de privacidade do macOS.

É nesse ponto que o caso entra em território ainda não resolvido.

A Meta sustenta que o Muse simplesmente não consegue acessar o conteúdo das mensagens sem que o usuário conceda Acesso Total ao Disco e, separadamente, habilite o conector correspondente.

Andy Stone, vice-presidente de comunicação da empresa, classificou a integração como totalmente opcional. Na página oficial do produto, a Meta também afirma que o Muse pode trabalhar com Mensagens, Calendário e Notas mediante autorização do usuário.

As duas afirmações não conseguem ser verdadeiras ao mesmo tempo se todas as observações de Aten estiverem corretas.

Sem uma análise independente do computador utilizado no teste, dos registros de autorização e da versão específica do software, não é possível afirmar que o Muse burlou intencionalmente as proteções do macOS.

Também não é responsável simplesmente descartar o relato.

O verdadeiro problema se chama Acesso Total ao Disco

A discussão ficou ainda mais relevante quando a própria Apple entrou no assunto, embora sem declarar que o Muse tenha violado alguma proteção específica.

Em 2 de outubro, a empresa anunciou que mudará a forma como o macOS concede o chamado Full Disk Access, ou Acesso Total ao Disco.

Essa permissão existe porque certos aplicativos, especialmente ferramentas de backup, precisam visualizar praticamente todo o armazenamento do computador para funcionar corretamente. Quando concedida, ela contorna várias proteções normais de privacidade do macOS.

Na prática, um aplicativo com esse privilégio pode alcançar uma quantidade enorme de informações: arquivos pessoais, mensagens, e-mails, históricos de navegação e bancos de dados mantidos por outros programas.

Historicamente, permitir esse nível de acesso a uma ferramenta conhecida de backup era uma decisão relativamente compreensível.

Um agente de inteligência artificial muda a equação.

Ele não recebe apenas acesso aos dados. Pode interpretar esses dados, cruzá-los, inferir relações, navegar pela web, utilizar ferramentas e tomar decisões sem esperar uma nova instrução humana a cada etapa.

A diferença entre “um programa consegue ler um arquivo” e “um agente consegue entender milhares de arquivos e agir com base neles” é enorme.

Apple decidiu aumentar as barreiras

Ao anunciar as mudanças, a Apple foi incomumente direta.

A empresa afirmou que alguns desenvolvedores estavam utilizando o Acesso Total ao Disco de formas que poderiam colocar usuários em risco, expondo informações sem que as pessoas compreendessem completamente o alcance daquela autorização.

O aviso citou arquivos, e-mails, mensagens e histórico de navegação como exemplos.

A Apple também relacionou expressamente a mudança ao avanço dos agentes de inteligência artificial, alertando que os riscos associados a esse nível de permissão aumentam à medida que esses sistemas se tornam mais capazes e autônomos.

O macOS receberá controles adicionais para que a concessão desse privilégio exija uma ação ainda mais explícita do usuário.

Essa decisão não comprova a acusação contra o Muse. Mas confirma que o mecanismo no centro da controvérsia é suficientemente sensível para que a fabricante do sistema operacional esteja revendo seu desenho.

Dar permissão não significa necessariamente compreender a permissão

Existe uma questão mais profunda por trás de toda a polêmica.

Na informática tradicional, consentimento frequentemente significa clicar em “Permitir”.

Esse modelo funcionou razoavelmente quando aplicativos tinham funções previsíveis. Um editor de fotos precisa acessar suas fotografias; um programa de videoconferência precisa do microfone; um serviço de backup precisa visualizar arquivos.

Agentes de IA tornam essa lógica muito menos confortável.

Quando um usuário concede acesso ao e-mail para que uma IA encontre uma passagem aérea, está também permitindo que ela analise anos de correspondência? Quando libera mensagens para encontrar um endereço, espera que o sistema use uma conversa pessoal para sugerir espontaneamente uma tarefa algumas horas depois?

Tecnicamente, tudo pode fazer parte da mesma autorização.

Do ponto de vista humano, provavelmente não.

É possível conceder uma permissão sem compreender todas as ações futuras que um agente será capaz de derivar dela.

Agentes transformam dados passivos em matéria-prima

Há outra diferença essencial.

Durante anos, nossos computadores armazenaram quantidades enormes de informação pessoal. Mensagens, fotografias, documentos, pesquisas e e-mails estavam lá, mas relativamente fragmentados entre aplicativos diferentes.

Agentes de IA são capazes de transformar esse arquivo desorganizado em contexto.

Eles podem descobrir que uma pessoa mencionada em uma mensagem também aparece no calendário, que um endereço está dentro de um e-mail, que uma compra aparece em uma nota fiscal e que uma conversa contém informação relacionada a uma tarefa futura.

É justamente essa capacidade que os torna úteis.

E é exatamente a mesma característica que amplia o impacto de uma permissão mal compreendida.

Um programa tradicional pode ter acesso a 50 mil mensagens e jamais fazer nada com elas porque não foi programado para isso. Um agente pode analisar o mesmo volume, selecionar algumas linhas relevantes e agir com base nelas.

A segurança dos sistemas operacionais foi construída durante décadas pensando principalmente no primeiro tipo de software.

Agora terá de lidar com o segundo.

O caso também mostra o perigo de perguntar à IA o que ela própria fez

Talvez o aspecto mais didático desse episódio seja justamente a resposta errada dada pelo Muse.

Modelos de linguagem são construídos para gerar respostas plausíveis a partir do contexto disponível. Isso não significa que possuam acesso introspectivo perfeito à arquitetura, aos registros ou ao caminho exato percorrido por cada informação.

Perguntar a um agente “como você conseguiu este dado?” não equivale a consultar um log de auditoria.

Esse tipo de resposta precisa ser tratado como uma explicação produzida pelo modelo, não como evidência forense.

Se agentes passarão a operar computadores, bancos, sistemas corporativos e aplicativos pessoais, essa distinção terá de ficar muito mais clara para usuários.

Auditoria precisa vir de registros verificáveis produzidos pelo sistema, e não da capacidade do próprio modelo de contar uma história convincente sobre o que acabou de fazer.

Análise da equipe

A discussão sobre o Muse não deveria terminar na pergunta “a Meta espionou ou não espionou as mensagens de um jornalista?”.

Essa pergunta ainda não possui evidência pública suficiente para uma resposta definitiva.

O problema mais importante já está diante de nós: a arquitetura de permissões criada para aplicativos convencionais começa a mostrar seus limites quando aplicada a agentes autônomos.

Full Disk Access é praticamente uma chave-mestra. Entregá-la a um software que apenas copia arquivos já exige confiança. Entregá-la a um sistema capaz de interpretar esses arquivos, correlacionar informações, navegar, comunicar-se e tomar decisões exige um modelo de segurança completamente diferente.

Isso provavelmente significa permissões mais granulares, limites temporários, autorização por tarefa, registros claros de cada consulta, explicações verificáveis e capacidade real de impedir determinadas ações, mesmo quando o agente considera que elas seriam úteis.

“Permitir acesso às mensagens” talvez precise deixar de ser uma única opção.

Poderíamos chegar a controles como permitir buscar uma mensagem quando solicitado, mas impedir leitura em segundo plano; permitir consulta a determinado contato, mas não ao histórico inteiro; ou autorizar uma tarefa durante dez minutos e revogar automaticamente o acesso ao terminá-la.

A Apple já percebeu que o modelo atual merece revisão. Outras plataformas terão de enfrentar o mesmo problema.

Os agentes de IA estão deixando de ser programas que esperam perguntas e começando a ocupar o papel de operadores do computador. Quando isso acontece, privacidade deixa de depender apenas de quais dados o software consegue acessar.

Passa a depender do que ele pode decidir fazer com eles.

E essa é uma diferença que um simples botão escrito “Permitir” talvez já não consiga explicar.

👉 Dúvida? Então veja mais em: https://pixbugtech.com/linksuteis