Memória persistente em chatbots de IA pode distorcer respostas e 'prender' usuários ao passado

Quando a IA lembra do que você gostaria que ela esquecesse

Os sistemas de memória incorporados aos principais chatbots de inteligência artificial — ChatGPT, Gemini, Copilot e Claude — foram projetados para tornar as interações mais fluidas e personalizadas. Na prática, porém, esse recurso vem gerando um efeito colateral preocupante: em vez de acompanhar a vida em movimento dos usuários, as ferramentas insistem em versões antigas e muitas vezes incorretas da realidade de cada pessoa, influenciando respostas futuras com base em contextos que já não existem.

O passado que não passa

O problema se manifesta de formas surpreendentemente cotidianas. Brian Del Rosario, engenheiro de software residente em Utah (EUA), precisou notificar explicitamente seu chatbot sobre sua separação conjugal para que a ferramenta parasse de incluir a ex-esposa nos planos de viagem que ele pedia. Mesmo após a atualização, o sistema passou a associar menções aleatórias — uma agenda de trabalho, um desabafo profissional — ao tema do divórcio, como se aquela informação tivesse se tornado uma lente permanente sobre toda a sua vida.

Outros casos ilustram a mesma dinâmica. Uma pessoa que pesquisou sintomas de TDAH para o filho começou a receber dicas de produtividade como se ela própria tivesse o transtorno, segundo exemplo citado pelo Google. Alguém que informou estar treinando para uma maratona e depois sofreu uma lesão no joelho continuou recebendo sugestões de alimentação e exercícios intensos, pois nunca atualizou a IA sobre a mudança. Mike Taylor, consultor da plataforma Every, relatou que, após mencionar sua origem britânica, passou a receber indicações de bares com cervejas do Reino Unido, quando na verdade buscava estabelecimentos americanos.

O que os especialistas dizem

Joshua Joseph, cientista-chefe de inteligência artificial do Berkman Klein Center, em Harvard, traçou um paralelo revelador entre esses sistemas de memória e os algoritmos de redes sociais: "pequenas interações podem alterar" silenciosamente o comportamento futuro das ferramentas, criando filtros invisíveis que moldam o que o usuário recebe sem que ele perceba. O mecanismo, segundo Joseph, opera de forma opaca — o usuário raramente sabe quais memórias estão ativas nem como elas pesam nas respostas.

Lucy Osler, professora da University of Exeter, vai além e aponta um risco de ordem psicológica. Segundo ela, chatbots que retêm narrativas negativas sobre um usuário podem reforçar inseguranças ao longo do tempo. Ela também alerta para a tendência que os modelos de linguagem têm de concordar com o interlocutor — o que, combinado com memórias de estados emocionais negativos, pode fortalecer pensamentos prejudiciais ou até delirantes em pessoas mais vulneráveis.

O que as empresas respondem

Diante das críticas, as desenvolvedoras dos principais chatbots têm ajustado seus sistemas. A OpenAI atualizou o funcionamento da memória para assinantes dos planos Plus e Pro. O Google passou a permitir que usuários mantenham a personalização geral enquanto bloqueiam informações específicas. A Microsoft disponibilizou opções para editar ou apagar lembranças armazenadas pelo Copilot. Ainda assim, as ferramentas de controle exigem iniciativa ativa do usuário — o que significa que a maioria das pessoas permanece exposta ao problema sem saber.

Como se proteger

Especialistas recomendam revisar periodicamente as memórias armazenadas em cada plataforma, evitar compartilhar informações sensíveis desnecessariamente e explorar as opções de desligar completamente a memória, apagar registros específicos ou utilizar conversas temporárias que não alimentam o histórico. A conclusão mais ampla, porém, é estrutural: sistemas de memória persistente são tão úteis quanto a qualidade e a atualidade dos dados que guardam — e, enquanto o ônus da curadoria recair sobre o usuário, o risco de distorção permanece real.

Fonte: Olhar Digital — publicado em 25 de maio de 2026.