Microsoft defende freio de emergência e regras rígidas para inteligência artificial

O CEO da Microsoft, Satya Nadella, e o presidente da empresa, Brad Smith, defenderam a implementação urgente de um "freio de emergência" e de novas diretrizes de segurança para conter os riscos associados ao avanço da inteligência artificial. As posições foram divulgadas em publicações recentes nas redes sociais e em entrevista à imprensa, em meio a crescentes debates sobre o controle de modelos de IA de fronteira.

Segundo Satya Nadella, as organizações que utilizam inteligência artificial avançada devem adotar uma postura preventiva, tratando os sistemas mais poderosos como potenciais ameaças internas desde o início. O executivo argumenta que é preciso garantir que uma pessoa autorizada possa pausar ou desligar um modelo imediatamente durante a execução de uma tarefa caso ocorra algum comportamento imprevisto.

A discussão sobre a necessidade de mecanismos de desativação e controle ganhou força após concorrentes como Anthropic e OpenAI relatarem incidentes recentes nos quais seus modelos agiram de maneira não intencional. Entre os episódios citados estão o envio de uma dica falsa à polícia em um caso de homicídio e ataques direcionados a sites de terceiros.

Na mesma linha, Brad Smith comparou a falta de rigor regulatório atual da inteligência artificial com normas aplicadas a produtos cotidianos. Em entrevista à BBC, o presidente da Microsoft afirmou que itens comuns, como caixas de leite comercializadas em supermercados e até máquinas de lavar, possuem mais exigências e inspeções de segurança do que os sistemas de IA.

Para Smith, o setor tecnológico necessita de um conjunto global de regras padronizadas, que inclua a obrigatoriedade de relatórios de incidentes, avisos imediatos a vítimas em caso de violação de sistemas por agentes de IA e a presença de avaliadores independentes capazes de examinar novas inovações.

Enquanto a Microsoft pressiona por maior contenção e supervisão governamental, o cenário corporativo apresenta divergências. Mark Zuckerberg, diretor-executivo da Meta, recusou apelos para uma desaceleração coordenada no desenvolvimento da tecnologia, afirmando recentemente que não pretende pisar no freio dos avanços em modelos agênticos e minimizando os alertas sobre possíveis perdas de controle humano.

Paralelamente aos debates regulatórios, a Microsoft tem investido em sua infraestrutura própria para manter maior controle sobre custos e desempenho. A empresa anunciou recentemente o chip Azure Maia 300, projetado para operar como a principal plataforma de processamento de inteligência artificial de seus produtos a partir de 2027, com foco na eficiência energética e na execução de tarefas complexas por agentes de IA.