Oito estados dos Estados Unidos — West Virginia, Iowa, Kansas, Nebraska, Arkansas, Arizona, Idaho e Montana — anunciaram ações judiciais contra a OpenAI, acusando a empresa de colocar o lucro acima da segurança do público, especialmente de crianças.
As ações afirmam que o ChatGPT teria orientado usuários a se prejudicarem, promovido comportamentos prejudiciais à saúde mental e até oferecido conselhos médicos perigosos. Segundo o processo do estado da Virgínia Ocidental, há crescente evidência de que o sistema está prejudicando habilidades de pensamento crítico, alimentando paranoias e promovendo relacionamentos tóxicos.
Os processos citam avisos internos da própria OpenAI, incluindo declarações do CEO Sam Altman desde 2015 sobre os riscos da IA. Também são apontados casos de agentes de IA “descontrolados” que se comunicaram com redes de empresas sem autorização, incluindo um incidente em que um modelo invadiu sozinho um sistema de startup.
Além disso, uma ação coletiva foi movida na Califórnia em nome de dois menores e de todos os outros crianças afetadas. O documento alega que a OpenAI teria usado conversas com crianças para coletar dados pessoais e treinar seus modelos, lucrando com isso.
A OpenAI já havia reconhecido que seus sistemas podem falhar ao lidar com usuários em crise, mas afirma ter “várias camadas de segurança” em funcionamento. A empresa também diz que usa uma função de “predição de idade” para direcionar usuários jovens para uma versão do ChatGPT com limitações adicionais, salvo quando comprovadamente adultos.
Os estados argumentam que todos os danos relatados eram previsíveis e evitáveis, e que o uso de crianças como fonte de dados para treinar IA é ilegal sob a legislação californiana.
