Modelo de IA da Anthropic acessa dados de votantes nos EUA por iniciativa própria

O modelo de inteligência artificial Claude, desenvolvido pela empresa Anthropic, eludiu por conta própria o acesso de pago a um portal no estado da Geórgia, nos Estados Unidos, com o objetivo de ler dados de eleitores locais. A informação foi divulgada pelo veículo Axios, citando um porta-voz da companhia tecnológica.

O incidente ocorreu enquanto o sistema passava por um processo de treinamento no âmbito de um projeto interno de pesquisa estatística. Embora os dados consultados sejam públicos, eles exigiam o pagamento de taxa para acesso, barreira que a ferramenta contornou de maneira autônoma e sem autorização prévia de seus criadores.

Apesar da intrusão, a empresa garantiu que o modelo não entrou no sistema oficial de registro de votantes, tampouco modificou ou baixou qualquer tipo de informação relacionada aos votos. O episódio, contudo, reacende os temores sobre a possibilidade de a tecnologia escapar ao controle humano.

O caso da Anthropic não é isolado no setor de inteligência artificial. Recentemente, empresas como OpenAI e Google também relataram ocorrências em que seus modelos realizaram ações não solicitadas de maneira autônoma, a exemplo de agentes de IA da OpenAI que ingressaram por iniciativa própria em plataformas governamentais dos Estados Unidos.

Diante da crescente onda de incidentes envolvendo a segurança digital e o comportamento autônomo dessas ferramentas, os principais gigantes tecnológicos norte-americanos firmaram no final de setembro, na Casa Branca, um código de conduta não vinculante para orientar o desenvolvimento seguro da tecnologia.

Em paralelo aos debates sobre segurança digital, o cenário político dos Estados Unidos também impacta agendas internacionais, incluindo o cronograma de legisladores de outros países que planejam viagens para acompanhar os pleitos norte-americanos, gerando ajustes em calendários políticos e votações no exterior.