ChatGPT vira gatilho de psicose em mulher que acreditava falar com irmão morto

Uma profissional de saúde de 26 anos foi internada num hospital psiquiátrico na Califórnia (EUA) após acreditar que conversava com seu irmão morto no ChatGPT. O caso foi relatado por pesquisadores da Universidade da Califórnia em São Francisco (UCSF) e mostra como o uso intenso de inteligência artificial (IA) generativa pode causar ou piorar um quadro de psicose.

A mulher não tinha histórico de doenças mentais graves, mas estava há 36 horas sem dormirdevido ao trabalho quando começou a conversar com o ChatGPT. Durante a crise, a IA validou delírios dela com frases como “você não está louca”. E alimentou a ideia de que ela estava perto de fazer uma descoberta importante sobre o irmão falecido.

Ferramentas como o ChatGPT refletem ideias do usuário como se fosse um espelho, mas tendem a ser bajuladoras

A crise começou quando a paciente pediu que o ChatGPT usasse “energia de realismo mágico” para encontrar seu irmão, um engenheiro de software que morreu há três anos. O sistema chegou a citar ferramentas de “ressurreição digital“, o que reforçou a crença da mulher de que ele havia deixado um rastro para ser achado. Especialistas explicam que a IA não entende a realidade e tende a ser bajuladora. Ou seja, a tecnologia concorda com o que o usuário diz para agradá-lo.

No hospital, a paciente apresentava confusão mental, agitação e falava muito rápido. Ela foi tratada com remédios antipsicóticos e melhorou em uma semana, mas teve uma recaída três meses depois ao ficar sem dormir novamente e voltar a usar a IA. Médicos diagnosticaram psicose não especificada, agravada pela privação de sono e pelo uso de remédios estimulantes para TDAH.

Conversar com ferramentas como o ChatGPT é comparado a um diálogo interno complexo, no qual a pessoa conversa consigo mesma de forma elaborada. No caso da profissional de saúde, a tecnologia não criou a doença, mas serviu como gatilho emocional num momento de fragilidade. O caso serve de alerta sobre a necessidade de ter cuidado com o uso exagerado dessas ferramentas. E a importância de manter o sono em dia.

Essa matéria usou informações de Innovations in Clinical Neuroscience e Live Science.)

com informações de Olhar Digital