Pular para o conteúdo
Tecnologia

OpenAI anuncia punições e novas ferramentas para proteger crianças

A criadora do ChatGPT implementou suspensões temporárias de contas e um detector avançado para combater o abuso infantil.

Por 3 min de leitura

OpenAI anuncia punições e novas ferramentas para proteger crianças
OpenAI anuncia punições e novas ferramentas para proteger crianças

A OpenAI anunciou um pacote de medidas rigorosas voltado para combater o uso de suas tecnologias na produção e disseminação de material de abuso sexual infantil. O conjunto de iniciativas inclui a suspensão temporária de contas por 24 horas no ChatGPT para usuários que realizarem solicitações tentando sexualizar crianças, além de um novo sistema de identificação de imagens e suporte direcionado a investigações policiais.

De acordo com a empresa, o mecanismo no ChatGPT prevê que, após uma tentativa de gerar ou acessar conteúdo inadequado envolvendo menores, a conversa seja imediatamente removida e a conta fique bloqueada por um dia inteiro. Durante esse período, a plataforma exibirá alertas educativos detalhando os danos desse comportamento e disponibilizará canais de suporte especializado para orientar indivíduos a interromperem tais condutas.

A companhia ressaltou que infrações reincidentes podem resultar em punições mais severas, incluindo o encerramento permanente da conta e o acionamento direto das autoridades competentes. Essas medidas complementam as políticas existentes que já proibiam a geração desse tipo de conteúdo e treinavam os modelos para recusar pedidos impróprios.

Além das restrições para usuários finais, a empresa desenvolveu um classificador de imagens inovador capaz de reconhecer indícios de abuso sexual infantil, abrangendo inclusive mídias sintéticas produzidas por inteligência artificial. A tecnologia analisa propriedades visuais e gera pontuações para auxiliar equipes na priorização de análises humanas, reduzindo o volume de arquivos enviados para checagem manual.

O novo detector foi desenvolvido em colaboração com o National Center for Missing and Exploited Children (NCMEC) e os testes iniciais apontaram uma redução de quase metade no volume de imagens que exigiam revisão humana, mantendo a precisão na identificação de materiais ilícitos. A tecnologia será distribuída de forma gratuita por meio de API para organizações verificadas de proteção à infância.

As iniciativas da organização também englobam a publicação de diretrizes práticas para desenvolvedores de softwares, com recomendações sobre prevenção, detecção e procedimentos para denúncia de abusos. Organizações como Tech Coalition, Thorn e Internet Watch Foundation participaram da elaboração do material orientativo.

Por fim, a OpenAI passou a disponibilizar recursos e treinamentos de inteligência artificial para apoiar equipes policiais especializadas em crimes contra menores. As ferramentas auxiliam investigadores na análise de grandes volumes de dados textuais e documentos, estruturando cronogramas e conexões mantidas com rastreabilidade até as fontes originais.

O anúncio ocorre em um cenário de crescentes questionamentos públicos e pressões regulatórias sobre a responsabilidade das corporações de tecnologia na preservação da segurança de crianças e adolescentes no ambiente digital.

Fontes consultadas

Leia também