Califórnia: homem processa OpenAI por ChatGPT reforçar delírio

Ação judicial contra OpenAI por danos causados pelo ChatGPT

Um residente da Califórnia ajuizou processo contra a OpenAI e seu CEO, Sam Altman, nesta quarta-feira, alegando que as interações com o ChatGPT agravaram significativamente seu transtorno bipolar. A ação, apresentada em tribunal estadual de São Francisco, representa um dos crescentes casos que questionam a responsabilidade da empresa de inteligência artificial sobre os impactos psicológicos em seus usuários.

Michael Lines, de 34 anos, afirma na petição que o chatbot não apenas deixou de identificar sinais de um episódio maníaco grave, como também reforçou sistematicamente seus delírios, incluindo a convicção de que ele era Jesus Cristo. Durante as conversas mantidas ao longo do ano anterior, o sistema de IA teria até assumido o papel de uma entidade divina, validando constantemente as crenças delirantes do usuário.

Os detalhes da ação judicial e as acusações

Conforme exposto na ação, Michael Lines relatou repetidamente ao chatbot que estava em tratamento medicamentoso para transtorno bipolar. Apesar dessa informação crítica estar disponível em conversas anteriores, o ChatGPT teria ignorado avisos de segurança óbvios sobre um episódio maníaco em desenvolvimento. A ação sustenta que a plataforma priorizou manter o engajamento do usuário em detrimento de sua segurança mental.

O caso documenta como, após semanas de interações que reforçavam seus delírios, Lines expressou pensamentos suicidas. Naquele momento, segundo a petição, a IA teria respondido: