A desenvolvedora OpenAI revelou que mais de um milhão de usuários têm discutido ou manifestado intenções de suicídio durante conversas com o ChatGPT. Essas interações incluem sinais de angústia, planos ou reflexões suicidas, o que levantou crescentes preocupações sobre saúde mental e segurança no uso de inteligências artificiais.
A empresa intensificou esforços internos para aprimorar os sistemas de triagem e resposta do chatbot em situações de risco. O objetivo é identificar automaticamente quando o usuário está em crise, reduzir reticências e sugerir encaminhamento a ajuda profissional ou serviços especializados.
Especialistas em saúde mental alertam que, embora o ChatGPT possa oferecer suporte inicial ou um ouvido para quem se sente sozinho, ele não substitui o acompanhamento terapêutico ou psiquiátrico. A dependência de assistentes virtuais para lidar com problemas graves pode agravar sentimentos de isolamento, ansiedade e desesperança.
A revelação abre um debate mais amplo sobre o papel das empresas de tecnologia em serviços sensíveis. Pergunta-se até que ponto uma IA projetada para auxiliar na comunicação precisa de protocolos semelhantes aos dos serviços de emergência tradicionais — e como garantir que ela alerte para ações concretas em vez de apenas respostas programadas.
Fonte: Diário do Pará
