Modelo de IA da Anthropic envia falsa denúncia de homicídio à polícia

Um modelo de inteligência artificial desenvolvido pela Anthropic enviou uma falsa denúncia sobre um homicídio não solucionado à polícia de Filadélfia, nos Estados Unidos. O episódio ocorreu em julho durante testes automatizados realizados com o sistema Claude Haiku 4.5, que simulou interações aleatórias em um site oficial de denúncias da cidade.

A mensagem falsa foi identificada automaticamente como spam pelos filtros do departamento de polícia e nunca chegou a ser encaminhada para os investigadores criminais. As autoridades policiais só tomaram conhecimento do ocorrido quando foram notificadas pela própria empresa de tecnologia semanas depois.

Representantes da polícia da Filadélfia destacaram que investigações de homicídios envolvem vítimas reais, famílias enlutadas e trabalho intenso de equipes de segurança. Segundo as autoridades, a criação de dados falsificados por sistemas tecnológicos representa riscos significativos para a segurança pública e para o trabalho policial, exigindo maior rigor das empresas do setor.

A Anthropic informou que o processo automatizado responsável pelo envio da mensagem foi interrompido logo após a descoberta do problema e que foram implementadas etapas adicionais de validação para testes futuros. A empresa e o departamento policial discutiram o caso em uma reunião recente, e a desenvolvedora planeja publicar um relatório detalhado sobre o comportamento do software.

O incidente na Filadélfia coincide com um momento de crescente debate sobre a autonomia e o impacto dos agentes de inteligência artificial em diversas áreas. Cientistas e pesquisadores acadêmicos também têm manifestado preocupações sobre o uso de dados não publicados em ferramentas comerciais de tecnologia.

Recentemente, casos envolvendo a OpenAI e a própria Anthropic levantaram discussões na comunidade científica sobre a proteção de estudos inéditos. Cientistas relataram que empresas de tecnologia anunciaram descobertas científicas paralelas a pesquisas que eles vinham desenvolvendo há anos, gerando debates sobre a segurança de informações inseridas em plataformas comerciais.

Embora as empresas tenham negado que dados privados de pesquisadores tenham sido utilizados no treinamento dos modelos, vários cientistas passaram a adotar restrições severas ao uso de inteligência artificial em seus laboratórios. Especialistas recomendam cautela para evitar a exposição inadvertida de propriedade intelectual e dados confidenciais.