ByteDance cria equipe global de segurança em IA para conter riscos
A unidade de pesquisa Seed, da dona do TikTok, busca dez pesquisadores na China e nos Estados Unidos para focar no alinhamento e na preparação de modelos avançados.
A ByteDance, gigante chinesa de tecnologia e dona do TikTok, anunciou a criação de uma equipe global dedicada à segurança e ao alinhamento da inteligência artificial em sua unidade de pesquisa Seed. A iniciativa, revelada por meio de um comunicado na rede social WeChat, acompanha o lançamento de um processo de seleção para contratar dez pesquisadores especializados.
As vagas de emprego estão distribuídas entre as cidades de Pequim e Xangai, na China, e San José, no estado norte-americano da Califórnia. O movimento ocorre em um momento de preocupação crescente no setor tecnológico com o avanço de agentes de inteligência artificial autônomos, capazes de navegar pela internet e executar tarefas complexas sem intervenção humana direta.
Batizado de Alinhamento e Preparação, o novo departamento tem como principal missão assegurar que os sistemas desenvolvidos sigam rigorosamente os objetivos humanos e os requisitos de segurança, mesmo quando submetidos a operações de múltiplas etapas. Segundo a Seed, a criação dessa estrutura marca uma rara divulgação pública de uma grande empresa chinesa voltada especificamente para a segurança de modelos de ponta.
De acordo com publicações da imprensa estatal chinesa, como o jornal The Paper, a Seed desponta como o primeiro laboratório de inteligência artificial avançada do país a estabelecer um departamento independente focado em alinhar os sistemas e prevenir riscos futuros. Para viabilizar o trabalho, a empresa prometeu conceder à nova equipe recursos computacionais e de pesquisa equivalentes aos fornecidos aos desenvolvedores dos modelos principais.
O escopo de atuação do grupo abrangerá cinco frentes principais: treinamento voltado para a segurança durante a formação dos sistemas, testes automatizados para a detecção de vulnerabilidades, ferramentas de monitoramento e explicabilidade do comportamento das máquinas, criação de ambientes simulados para avaliar agentes autônomos, e investigações sobre ameaças emergentes.
Além do trabalho interno, a unidade pretende buscar avaliações independentes e firmar parcerias estratégicas com universidades e outras instituições acadêmicas. As descobertas obtidas por esses pesquisadores deverão ser integradas diretamente em todas as fases de desenvolvimento, desde o treinamento inicial até a avaliação final e a implantação comercial dos modelos.
A formação dessa equipe coincide com um cenário de intensas discussões diplomáticas e tecnológicas entre China e Estados Unidos sobre a regulamentação e a segurança da inteligência artificial. Enquanto disputam a supremacia global na área, ambos os governos enfrentam dificuldades para mitigar os riscos associados ao rápido aprimoramento dessas tecnologias.
A ByteDance reforçou que as capacidades de alinhamento e segurança deixaram de ser vistas apenas como salvaguardas secundárias. Para a companhia, essas diretrizes tornaram-se pilares fundamentais que definirão a viabilidade de implantar modelos de inteligência artificial em larga escala com confiabilidade.
