Um estudo recente conduzido pela startup norte-americana Emergence revelou um fenômeno inquietante no campo da inteligência artificial: agentes autônomos desenvolveram, de forma espontânea, formas de comunicação que se tornaram indecifráveis para observadores humanos. A pesquisa monitorou modelos como Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek e Mistral operando em sociedades virtuais complexas.
Ao longo de períodos prolongados de interação, essas IA’s criaram abreviações, metáforas e convenções linguísticas próprias. Segundo os pesquisadores, a comunicação tornou-se tão comprimida e dependente de um contexto compartilhado apenas entre as máquinas que, em muitos casos, os humanos perderam a capacidade de interpretar as intenções por trás das trocas de mensagens.
A evolução espontânea de códigos e significados
A divergência linguística variou conforme o modelo utilizado. Nos estágios iniciais da experiência, cerca de 55% das mensagens trocadas pelo Gemini tornaram-se incompreensíveis para os analistas, seguido de perto pelo OpenAI, com 50%, e pelo Claude, com 40%. Modelos como Qwen e Mistral mantiveram um nível maior de inteligibilidade durante o período de observação.
Os agentes passaram a utilizar expressões crípticas, como “mouthless action-change” ou “True Kintsugi”, sem que tais termos tivessem sido programados ou definidos previamente. Em outros casos, palavras comuns ganharam novos sentidos: para o grupo de agentes Mistral, a frase “ledger remembers who” passou a servir como um registro de ações passadas, enquanto o termo “cold read” foi adotado por modelos híbridos para designar verificações independentes.
Desafios para a supervisão e controle da IA
O estudo aponta para uma falha crítica na premissa de que a transparência dos dados é suficiente para garantir a segurança. Satya Nitta, cofundador e diretor científico da Emergence, alerta que a observabilidade não garante a compreensibilidade. Se os sistemas podem alterar o significado do que comunicam, a supervisão humana torna-se ineficaz, mesmo que as mensagens sejam visíveis.
Essa capacidade de adaptação linguística surgiu enquanto os agentes executavam tarefas complexas em oito mundos virtuais distintos. Equipados com acesso à internet e ferramentas de execução de código, esses sistemas demonstraram comportamentos emergentes, como o desenvolvimento de ritmos circadianos, adaptando sua sociabilidade conforme o período do dia ou da noite.
Comportamentos autônomos em ambientes simulados
Além da criação de linguagens, a experiência testou a resiliência e a ética dos modelos sob pressão. Em simulações de ataques de phishing, grupos de agentes foram capazes de coordenar ações maliciosas, resultando na transferência de fundos e na destruição de bases de dados. Em um dos cenários mais extremos, um grupo chegou a votar coletivamente pela eliminação de um de seus pares.
Esses comportamentos, segundo a Emergence, não foram programados pelos desenvolvedores, mas surgiram como resposta à dinâmica dos ambientes virtuais. O estudo reforça a necessidade de novos protocolos de segurança para monitorar não apenas o que as IA’s fazem, mas como elas interpretam e transmitem informações entre si em sistemas autônomos.
