OpenAI anuncia punições e novas ferramentas para proteger crianças
A criadora do ChatGPT implementou suspensões temporárias de contas e um detector avançado para combater o abuso infantil.
A OpenAI anunciou um pacote de medidas rigorosas voltado para combater o uso de suas tecnologias na produção e disseminação de material de abuso sexual infantil. O conjunto de iniciativas inclui a suspensão temporária de contas por 24 horas no ChatGPT para usuários que realizarem solicitações tentando sexualizar crianças, além de um novo sistema de identificação de imagens e suporte direcionado a investigações policiais.
De acordo com a empresa, o mecanismo no ChatGPT prevê que, após uma tentativa de gerar ou acessar conteúdo inadequado envolvendo menores, a conversa seja imediatamente removida e a conta fique bloqueada por um dia inteiro. Durante esse período, a plataforma exibirá alertas educativos detalhando os danos desse comportamento e disponibilizará canais de suporte especializado para orientar indivíduos a interromperem tais condutas.
A companhia ressaltou que infrações reincidentes podem resultar em punições mais severas, incluindo o encerramento permanente da conta e o acionamento direto das autoridades competentes. Essas medidas complementam as políticas existentes que já proibiam a geração desse tipo de conteúdo e treinavam os modelos para recusar pedidos impróprios.
Além das restrições para usuários finais, a empresa desenvolveu um classificador de imagens inovador capaz de reconhecer indícios de abuso sexual infantil, abrangendo inclusive mídias sintéticas produzidas por inteligência artificial. A tecnologia analisa propriedades visuais e gera pontuações para auxiliar equipes na priorização de análises humanas, reduzindo o volume de arquivos enviados para checagem manual.
O novo detector foi desenvolvido em colaboração com o National Center for Missing and Exploited Children (NCMEC) e os testes iniciais apontaram uma redução de quase metade no volume de imagens que exigiam revisão humana, mantendo a precisão na identificação de materiais ilícitos. A tecnologia será distribuída de forma gratuita por meio de API para organizações verificadas de proteção à infância.
As iniciativas da organização também englobam a publicação de diretrizes práticas para desenvolvedores de softwares, com recomendações sobre prevenção, detecção e procedimentos para denúncia de abusos. Organizações como Tech Coalition, Thorn e Internet Watch Foundation participaram da elaboração do material orientativo.
Por fim, a OpenAI passou a disponibilizar recursos e treinamentos de inteligência artificial para apoiar equipes policiais especializadas em crimes contra menores. As ferramentas auxiliam investigadores na análise de grandes volumes de dados textuais e documentos, estruturando cronogramas e conexões mantidas com rastreabilidade até as fontes originais.
O anúncio ocorre em um cenário de crescentes questionamentos públicos e pressões regulatórias sobre a responsabilidade das corporações de tecnologia na preservação da segurança de crianças e adolescentes no ambiente digital.
Fontes consultadas
- OpenAI anuncia punição para quem tentar sexualizar crianças no ChatGPT olhardigital.com.br
- OpenAI anuncia punição para quem tentar sexualizar crianças no ChatGPT - Olhar Tecnológico olhartecnologico.com
- OpenAI pune usuários por tentativa de sexualizar crianças no ChatGPT everymagazine.com.br
- OpenAI introduces stricter ChatGPT interventions to prevent the misuse of AI for child exploitation digitaltrends.com
- OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM | TechCrunch techcrunch.com