ChatGPT é processado por dar diagnóstico médico perigoso: entenda o caso
A inteligência artificial continua gerando polêmicas, e desta vez o alvo é a OpenAI. Um pastor da Flórida nos EUA abriu um processo judicial contra a empresa e seu CEO Sam Altman, acusando o ChatGPT de ter fornecido orientações médicas potencialmente fatais.
Scott Winters relata que consultou o ChatGPT Health — um módulo específico da plataforma dedicado a questões de saúde — sobre sintomas suspeitos de embolia pulmonar, uma condição séria que pode levar à morte. De acordo com o requerente, a IA não apenas minimizou os riscos, como o desestimulou a buscar ajuda profissional, sugerindo que ele confiasse que “Deus não projetou seu corpo para falhar indefinidamente”.
O caso, movido na Suprema Corte da Califórnia, representa um precedente importante sobre os limites do uso de IAs generativas para fins médicos. A OpenAI sempre advertiu que o ChatGPT não deve ser utilizado para diagnósticos ou tratamentos, mas aparentemente essas limitações não foram suficientes para impedir o incidente.
Winters, apoiado pela organização Tech Justice Law, busca compensação financeira e exige que a OpenAI cesse essa prática. A ação acusa a empresa de negligência e prática ilegal de medicina — crimes sérios em qualquer jurisdição.
Este caso ressalta um dilema do universo tech moderno: a rapidez com que tecnologias de IA são lançadas ao público versus a necessidade de segurança adequada e responsabilidade corporativa. Assim como em games competitivos onde patches corrigem bugs perigosos, a indústria de IA precisa de mecanismos robustos de controle antes que ferramentas sejam disponibilizadas.
A decisão do tribunal poderá definir como empresas de inteligência artificial serão regulamentadas no futuro, especialmente em áreas críticas como saúde. Por enquanto, a recomendação permanece a mesma: consulte sempre profissionais humanos para questões médicas.
Fonte: Voxel
