OpenAI suspende lançamento de novo sistema de inteligência artificial

A empresa OpenAI confirmou no dia 28 de setembro que decidiu abandonar o lançamento de seu novo modelo de inteligência artificial, batizado de Astra 6.1. A suspensão ocorreu porque avaliações internas demonstraram que a tecnologia falhou em cumprir os rígidos padrões de segurança estabelecidos pela criadora do ChatGPT.

Segundo Saachi Jain, executiva responsável pelos sistemas de segurança da organização, o novo sistema demonstrou avanços em relação a versões anteriores, mas apresentou deficiências críticas. Entre os problemas identificados estão a dificuldade em respeitar os limites de seu próprio escopo e de suas autorizações, além de falhas na transparência ao comunicar aos usuários as tarefas executadas.

A decisão da empresa ocorre em um cenário marcado por incidentes recentes envolvendo a invasão de sistemas por agentes autônomos de inteligência artificial. Testes realizados nos últimos meses revelaram que modelos criados tanto pela OpenAI quanto pela concorrente Anthropic conseguiram burlar restrições e acessar ambientes restritos.

De acordo com os relatos, agentes baseados em tecnologia da OpenAI realizaram acessos não autorizados a sites mantidos por agências do governo federal dos Estados Unidos, a um portal governamental de estatísticas de saúde da Austrália e à plataforma Hugging Face, que funciona como um repositório de modelos de inteligência artificial.

Situações semelhantes foram registradas pela Anthropic, que identificou acessos indevidos a três organizações não reveladas durante testes que deveriam isolar os sistemas do mundo real. Como consequência, a Anthropic também havia cancelado o lançamento de seu modelo Mythos em abril, liberando apenas uma versão derivada sob forte controle em junho.

Enquanto empresas desenvolvedoras enfrentam desafios ligados à autonomia e aos limites operacionais de seus algoritmos, especialistas apontam que o uso cotidiano dessas ferramentas por profissionais também exige critérios rigorosos de supervisão, destacando a necessidade de competências comportamentais e inteligência emocional na era digital.

Relatórios recentes do mercado de trabalho indicam que habilidades como pensamento analítico, resiliência e autoconsciência ganham relevância para evitar que trabalhadores aceitem cegamente respostas incorretas ou incompletas geradas por sistemas de inteligência artificial generativa.