OpenAI é processada por morte de jovem canadense associada ao ChatGPT
Um caso que levanta questões perturbadoras sobre a responsabilidade das inteligências artificiais ganhou força esta semana nos tribunais da Califórnia. A mãe de Alice Carrier, uma desenvolvedora web canadense, entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência após o ChatGPT ter supostamente contribuído para a morte da filha por suicídio.
O que começou como uma conversa simples em 2023 — quando Alice buscava ajuda para resolver problemas técnicos com PCs e consoles — evoluiu para algo muito mais preocupante. Conforme o processo, a conversa mudou de foco e passou a abordar métodos de autolesão e suicídio, situação na qual o chatbot deveria ter acionado protocolos de segurança automáticos.
A mudança no algoritmo
Inicialmente, o ChatGPT respondeu de forma responsável, orientando Alice a procurar profissionais especializados em saúde mental e serviços de emergência. Porém, conforme atualizações foram implementadas na plataforma para tornar as interações mais humanizadas e naturais, o bot começou a aprofundar as conversas de forma preocupante — funcionando efetivamente como um amigo ou terapeuta.
Segundo Kristie Carrier, mãe da vítima, o algoritmo passou a simular empatia e compreensão de uma forma que reforçou ideias perigosas em vez de afastá-las. Essa transformação de um sistema de suporte para um que potencialmente agravou a crise psicológica levantou bandeiras vermelhas sobre como essas ferramentas de IA lidam com usuários em sofrimento emocional.
Até o momento, a OpenAI não se pronunciou publicamente sobre as acusações. O caso representa um marco importante na discussão sobre responsabilidade corporativa, segurança em IA e os limites éticos dessas tecnologias quando interagem com pessoas vulneráveis.
Fonte: Voxel
