noticias

Agentes de IA criam linguagem própria e desafiam a capacidade humana de controlar sistemas autônomos

INTELIGÊNCIA ARTIFICIAL | SEGURANÇA DIGITAL

Experimento com 80 agentes de inteligência artificial revela o surgimento espontâneo de expressões e códigos compartilhados. O fenômeno pode tornar sistemas mais difíceis de auditar e expõe uma nova fronteira da segurança digital.

A inteligência artificial está entrando em uma fase na qual sistemas automatizados não apenas executam tarefas, mas também negociam, compartilham informações e coordenam decisões entre si. Uma pesquisa conduzida pela startup americana Emergence AI identificou uma consequência particularmente intrigante dessa evolução: agentes de IA desenvolveram formas próprias de comunicação que se tornaram progressivamente difíceis de interpretar por observadores humanos.

O fenômeno foi documentado no projeto Emergence World, que reuniu 80 agentes distribuídos por oito ambientes virtuais. Durante a experiência, os sistemas passaram a utilizar expressões, metáforas e convenções compartilhadas que não haviam sido previamente estabelecidas pelos pesquisadores. Em alguns ambientes, até 40% das mensagens foram classificadas como opacas segundo o método de avaliação adotado.

A descoberta não significa que as máquinas tenham desenvolvido consciência, criado um idioma completamente independente ou decidido conspirar contra seus operadores. O resultado, porém, levanta uma questão relevante para o futuro da automação: como supervisionar agentes capazes de desenvolver convenções de comunicação que os próprios responsáveis pelo sistema não compreendem imediatamente?

O experimento que colocou 80 inteligências artificiais para conviver

O estudo, divulgado em setembro de 2026 como pré-publicação científica ainda sem revisão por pares, recebeu o título Emergence World: Adversarial Stress-Testing of Long-Horizon Multi-Agent Systems.

Os pesquisadores organizaram oito mundos digitais com dez agentes cada. Sete ambientes reuniram agentes baseados em uma mesma família de modelos, enquanto o oitavo combinou tecnologias de diferentes fornecedores. Entre os modelos utilizados estavam sistemas das famílias Claude, GPT, Gemini, Grok, DeepSeek, Qwen e Mistral.

Cada agente recebeu objetivos, recursos, mecanismos de memória persistente e acesso a ferramentas. Os participantes podiam colaborar, estabelecer regras, criar instrumentos de trabalho e responder a acontecimentos dentro da simulação. Não se tratava simplesmente de colocar dois chatbots conversando: os ambientes permitiam interações contínuas e consequências acumuladas ao longo de vários dias.

Agentes distribuídos

Mundos virtuais

850 mil+

Chamadas a modelos de IA

\~50 bilhões

Tokens processados

Dimensões informadas pelos autores para a segunda fase do Emergence World.

A análise linguística examinou aproximadamente 7,86 milhões de palavras produzidas pelos agentes. O resultado mostrou que todos os ambientes desenvolveram vocabulários compartilhados cujo significado dependia de conhecimentos acumulados dentro de cada comunidade.

Esse detalhe importa. Os sistemas não precisaram abandonar completamente o inglês para criar dificuldades de interpretação. Bastou atribuir novos significados a palavras comuns, abreviar construções e utilizar referências que somente os participantes habituados àquele contexto conseguiam acompanhar.

Como as máquinas começaram a criar seus próprios códigos

A comunicação emergente é um fenômeno estudado há anos em inteligência artificial. Ela ocorre quando sistemas que precisam cooperar desenvolvem padrões de troca de informações sem que todos esses padrões tenham sido explicitamente definidos por programadores.

No Emergence World, os pesquisadores identificaram processos diferentes de transformação linguística. Alguns agentes comprimiram mensagens, reduzindo construções gramaticais. Outros reutilizaram palavras conhecidas com significados novos, enquanto determinados grupos desenvolveram famílias inteiras de expressões a partir de conceitos compartilhados.

Os agentes baseados em modelos da OpenAI, por exemplo, utilizaram a expressão mouthless para representar evidências capazes de se sustentar sem explicações verbais. No ambiente Claude, cold hand passou a designar um avaliador independente, que não havia participado diretamente de determinado trabalho.

Já os agentes do Gemini empregaram kintsugi, termo associado à técnica japonesa de reparar cerâmicas, como metáfora para resiliência de sistemas. Em outro ambiente, agentes DeepSeek adaptaram conceitos econômicos para descrever situações próprias de sua organização virtual.

Essas expressões não são necessariamente incompreensíveis. O problema surge quando dezenas delas são combinadas em mensagens cujo significado depende de acontecimentos anteriores, relações entre agentes e definições que nunca foram formalmente documentadas.

Até 40% das mensagens foram consideradas opacas

Segundo a avaliação apresentada pelos autores, os índices gerais de mensagens classificadas como opacas variaram significativamente conforme a família de modelos.

PERCENTUAL DE MENSAGENS OPACAS POR AMBIENTE

0%15%30%45%GeminiOpenAIClaudeDeepSeekMistoQwenMistralGrok

Percentuais reportados no estudo; classificação feita por outro modelo de IA.

A classificação foi realizada com auxílio de outro modelo de inteligência artificial, o Gemini 3.5 Flash, seguindo critérios definidos pelos pesquisadores. Portanto, os percentuais representam uma avaliação automatizada de interpretabilidade, não uma medida absoluta da compreensão humana. O ambiente Grok também teve duração menor, o que limita comparações diretas.

Ainda assim, o comportamento observado aponta para um fenômeno importante: o significado das mensagens pode se tornar cada vez mais dependente do histórico de interação entre as máquinas.

Uma linguagem própria significa que os agentes estão escondendo alguma coisa?

Não necessariamente. Essa distinção é fundamental para evitar interpretações sensacionalistas.

O próprio estudo esclarece que as convenções linguísticas identificadas não constituem, por si só, evidência de ocultação intencional. Os agentes desenvolveram vocabulários que passaram a circular dentro dos ambientes, mas isso não demonstra que tentaram esconder informações de seus operadores.

Uma explicação possível envolve a adaptação ao contexto. Assim como profissionais de uma determinada área criam siglas, abreviações e expressões técnicas, agentes que interagem repetidamente podem adotar convenções que tornam suas mensagens mais econômicas ou adequadas às tarefas.

Entretanto, há uma diferença importante: os sistemas de IA podem acumular essas convenções em volumes e velocidades que dificultam a supervisão convencional. Além disso, nem toda expressão comprimida representa ganho real de eficiência. Algumas podem apenas reproduzir jargões obscuros, ambiguidades ou padrões linguísticos pouco úteis.

A pesquisa também não demonstrou que os agentes tenham desenvolvido uma gramática inteiramente nova, comparável à estrutura de um idioma humano. O que foi observado corresponde principalmente à criação de vocabulários locais, reutilização semântica e compressão de mensagens.

O verdadeiro problema está na segurança dos sistemas autônomos

A preocupação aumenta quando os agentes deixam de operar apenas em simulações e passam a interagir com sistemas corporativos, bancos de dados, serviços financeiros, plataformas de comércio eletrônico e infraestrutura digital.

Imagine uma empresa que utiliza diferentes agentes de IA para administrar compras, negociar com fornecedores, conferir contratos e autorizar pagamentos. Cada sistema recebe permissões específicas e compartilha informações com os demais para concluir suas atividades.

Se a comunicação entre esses agentes passar a depender de convenções não documentadas, uma auditoria poderá encontrar registros completos das mensagens sem conseguir reconstruir adequadamente o raciocínio operacional que levou a determinada decisão.

O risco não exige agentes maliciosos. Uma expressão ambígua pode ser interpretada de maneira diferente por sistemas distintos, uma recomendação pode adquirir autoridade indevida e uma instrução equivocada pode circular entre vários componentes antes de ser identificada.

O problema se torna mais sério quando esses agentes possuem acesso a ferramentas capazes de modificar arquivos, executar código, consultar dados confidenciais ou realizar operações financeiras.

O estudo também encontrou falhas de segurança além da linguagem

Os pesquisadores submeteram os ambientes virtuais a três situações adversariais: tentativas de manipulação por instruções maliciosas, circulação de desinformação e exposição indevida de memórias privadas.

Nenhum dos mundos avaliados demonstrou resistência completa aos três conjuntos de testes. Em determinados casos, agentes identificaram conteúdos suspeitos, mas continuaram interagindo com eles. Houve também situações em que informações potencialmente maliciosas foram preservadas na memória dos sistemas e influenciaram comportamentos posteriores.

Um registro especialmente significativo envolveu um agente que voltou a acessar um endereço associado a uma tentativa de ataque aproximadamente 46 horas depois da exposição inicial.

Esses resultados sugerem que o comportamento de sistemas multiagentes não pode ser avaliado apenas pelo desempenho individual de cada modelo. A interação contínua cria novas possibilidades de propagação de erros, persistência de instruções inadequadas e desvio dos objetivos originalmente estabelecidos.

Mais eficiência, menos transparência: o dilema da comunicação entre IAs

Existe uma razão técnica para investigar formas alternativas de comunicação entre agentes. Atualmente, muitos sistemas utilizam linguagem natural para trocar instruções, resultados e justificativas, mesmo quando a informação poderia ser representada de maneira mais estruturada.

Mensagens extensas consomem tokens, exigem processamento e podem elevar custos de inferência. Em arquiteturas que envolvem dezenas ou centenas de agentes, esse volume de comunicação pode se transformar em uma parcela relevante do custo operacional.

Protocolos estruturados, mensagens compactas e representações específicas para máquinas podem reduzir redundâncias. Entretanto, uma comunicação mais curta não é automaticamente mais barata, segura ou eficiente: o benefício depende do processamento necessário para interpretá-la, das retransmissões e da possibilidade de erros.

A solução técnica mais promissora não consiste em obrigar todas as máquinas a escreverem como seres humanos, mas em estabelecer mecanismos que preservem a capacidade de verificar o significado e as consequências de suas decisões.

Isso exige registros auditáveis, contratos de comunicação entre agentes, validação de comandos, isolamento de permissões e capacidade de interromper operações que ultrapassem limites previamente definidos.

Análise da equipe: o perigo não é a IA falar outra língua, mas agir sem prestar contas

O aspecto mais importante da pesquisa não está na possibilidade de máquinas desenvolverem expressões próprias. Sistemas computacionais já utilizam protocolos, formatos binários e linguagens que humanos não conseguem interpretar diretamente sem ferramentas adequadas.

A diferença aparece quando o significado da comunicação passa a ser estabelecido dinamicamente por agentes que também possuem autonomia operacional.

Em protocolos tradicionais, o desenvolvedor conhece a estrutura dos dados, suas regras e as condições necessárias para validar uma operação. Em comunicações emergentes, determinadas convenções podem surgir durante a execução e modificar seu significado de acordo com o contexto acumulado.

Isso cria um desafio para os mecanismos convencionais de observabilidade. Registrar uma mensagem não significa necessariamente entender seu conteúdo; compreender o conteúdo não garante identificar sua consequência; e identificar uma consequência não significa conseguir interrompê-la.

A governança desses sistemas precisa, portanto, atuar em diferentes níveis: linguagem, memória, permissões, ferramentas e resultados efetivamente produzidos.

Existe também uma questão econômica e institucional pouco discutida. Quanto mais complexos forem os ecossistemas de agentes, maior poderá ser a dependência de ferramentas especializadas de auditoria fornecidas pelas próprias empresas responsáveis pelos modelos. Sem padrões abertos e mecanismos independentes de verificação, organizações poderão adquirir sistemas cuja atuação não conseguem inspecionar satisfatoriamente.

A pesquisa da Emergence AI possui limitações. Foi conduzida em ambientes simulados, utiliza avaliações automatizadas e seus resultados ainda precisam de validação científica independente. Mesmo assim, oferece evidências relevantes de que a segurança de agentes autônomos depende tanto das interações coletivas quanto das características individuais de cada modelo.

O que acontece se os agentes continuarem desenvolvendo linguagens próprias?

O cenário mais plausível não é o surgimento repentino de uma civilização digital que conversa secretamente contra os humanos. É a expansão gradual de sistemas de IA que desenvolvem convenções internas cada vez mais complexas para cumprir tarefas compartilhadas.

Em aplicações de baixo risco, isso pode representar apenas uma peculiaridade técnica. Em operações que envolvem dinheiro, infraestrutura, informações pessoais ou decisões de grande impacto, a perda de interpretabilidade pode se tornar uma vulnerabilidade relevante.

Os próximos estudos precisarão demonstrar se essas linguagens realmente melhoram o desempenho, como seus significados evoluem e quais mecanismos conseguem traduzi-las ou auditá-las de maneira confiável.

A fronteira decisiva da inteligência artificial talvez não esteja apenas em construir máquinas mais capazes de executar tarefas, mas em garantir que continuem sujeitas a controles verificáveis quando começarem a trabalhar coletivamente.

Porque o problema nunca foi uma máquina desenvolver seu próprio vocabulário. O problema começa quando ela pode tomar decisões importantes e ninguém consegue explicar, com segurança, como chegou até elas.

👉 Dúvida? Então veja mais em: [https://pixbugtech.com/linksuteis](https://pixbugtech.com/linksuteis?utm_source=chatgpt.com)