OpenAI detalha uso do ChatGPT por adolescentes e relata falhas de segurança

Os adolescentes passam, em média, menos de 15 minutos por dia utilizando o ChatGPT, de acordo com o primeiro relatório divulgado nesta quarta-feira (7) pela OpenAI. O levantamento surge em um momento de intenso escrutínio sobre os impactos das ferramentas de inteligência artificial generativa no desenvolvimento e na saúde mental de crianças e jovens.

No relatório, a desenvolvedora do chatbot apontou que menos de 2% dos jovens interagem com a plataforma por mais de três horas consecutivas. A empresa destacou ainda que, em quase metade das conversas em que um lembrete de pausa foi exibido, os usuários encerraram o bate-papo ou fizeram uma pausa em até cinco minutos, o que, segundo a companhia, demonstraria a eficácia das medidas regulatórias voltadas para esse público.

A plataforma começou a implementar o recurso de contas dedicadas para adolescentes em agosto, ativado automaticamente com base na idade informada ou estimada. A modalidade permite o controle parental e restringe o acesso a conversas sobre tópicos sensíveis, além de oferecer ferramentas voltadas para a educação, como visualizações de aprendizagem e o Modo de Estudo.

Em contrapartida, um estudo divulgado no mesmo dia pela organização sem fins lucrativos Common Sense Media contestou a eficiência desses mecanismos. Com base na análise de mais de uma dezena de contas criadas para testes, a pesquisa apontou que o sistema muitas vezes falhou em emitir alertas tempestivos aos pais quando os adolescentes abordavam temas como suicídio, automutilação ou distúrbios alimentares, deixando de sugerir canais de atendimento em crises de maneira confiável.

Em resposta às críticas, um porta-voz da OpenAI argumentou que os testes realizados pela organização não refletem com precisão o funcionamento das ferramentas de segurança. A empresa justificou que o processo de vinculação entre as contas de pais e filhos e a ativação completa dos alertas de segurança podem levar horas devido a questões técnicas.

A poluição informacional e o uso da inteligência artificial por jovens também abrem debates sobre a dependência intelectual e a educação. Especialistas apontam que, embora os chatbots possam auxiliar no aprendizado se utilizados de forma crítica, o uso passivo para a obtenção de respostas prontas pode comprometer o desenvolvimento cognitivo e a autonomia dos estudantes a longo prazo.