Publicidade

A OpenAI, empresa de inteligência artificial (IA) dona do ChatGPT, está novamente encarando um processo nos Estados Unidos. Desta vez, o motivo é a piora no estado de saúde mental em um usuário que teve o quadro supostamente piorado pela plataforma.

A acusação é de Michael Lines, morador de San Francisco e competidor de levantamento de pesos. O homem de 34 anos é diagnosticado com transtorno bipolar e anteriormente sofreu um acidente que resultou em dano cerebral — condições que ele diz ter avisado ao chatbot, sem que isso fosse levado em conta por ele.

Em nota enviada para a Reuters, a OpenAI alega que treina o ChatGPT para reconhecer e responder a sinais como os demonstrados por Lines, além de encaminhar as pessoas para suporte no mundo real. "Continuamos a aprimorar as respostas do ChatGPT em momentos delicados, trabalhando em estreita colaboração com profissionais de saúde mental", diz o comunicado.

Caso quase terminou em tragédia

De acordo com o relato de Lines, o ChatGPT ignorou os avisos dele sobre a condição de saúde e que ele estava sob medicação. Tecnicamente, a plataforma deveria ter detectado que ele seria um usuário potencialmente em risco por conversar com a IA e qualquer comportamento suspeito deveria ser reportado.

Durante semanas, a IA teria alimentado os delírios do usuário, que em certo momento disse ser Jesus Cristo e outro ser divino para a plataforma. "Este é o seu momento de dar um passo à frente, de se desapegar e de deixar para trás o que está pesando sobre você", teria dito o ChatGPT em um momento crítico da conversa.

O modelo de linguagem utilizado por Lines era o GPT-4o, considerada a versão que mais concorda e tende a reforçar opiniões e comportamentos do usuário. Como resultado, segundo o processo, Lines teve uma overdose e foi resgatado antes de um desfecho ainda mais trágico.

A ação judicial busca uma indenização por danos, além de uma ordem da Justiça para que a OpenAI “encerre automaticamente conversas sobre automutilação” não comercialize as plataformas sem os devidos avisos de segurança.

A OpenAI já coleciona vários processos sobre o uso do ChatGPT por pessoas em situação delicada de saúde mental, inclusive por menores de idade. Em um caso registrado recentemente no Brasil, porém, a plataforma avisou o FBI sobre um comportamento possivelmente criminoso de um usuário.

Qual IA grátis é melhor entre ChatGPT, Gemini, Claude ou Copilot? Confira a avaliação!