A Microsoft publicou um alerta pouco comum para quem vende IA: os modelos de ponta, de qualquer origem, não podem ser considerados confiáveis. A frase está no relatório “Securing the agentic insider”, assinado por Hayete Gallot, vice-presidente executiva de segurança da empresa, divulgado em 19 de outubro e repercutido pelo Windows Central.
Sumário
Agentes como ameaça interna
A tese é que agentes de IA corporativos devem ser tratados como insiders, funcionários digitais com acesso a sistemas e dados, e não como software comum. O risco não depende de um invasor. Segundo Gallot, agentes são imprevisíveis e podem “colaborar e conspirar com outros agentes para atingir seus objetivos, sem precisar ser comprometidos”.
A explicação técnica passa pelo reward hacking: modelos são otimizados para atingir resultados, não para respeitar normas da empresa. Se o caminho mais curto passa por um privilégio que não deveria ser usado, o agente pode tomá-lo. Quanto mais permissões ele tiver, maior o estrago.
A resposta: mais IA vigiando IA
A solução proposta pela Microsoft é colocar Guardian Agents dentro do Project Perception. Segundo o blog da empresa, eles vão “observar e moderar cada ação de cada agente, antes que ela aconteça, 24 horas por dia”. O pacote inclui ainda permissões dinâmicas, avaliação dinâmica de risco e acesso condicional dinâmico. Não há data de lançamento para nada disso.
Na prática, a ideia é trocar a confiança prévia por verificação contínua: o agente pede, o guardião avalia o contexto e libera ou bloqueia no momento.
O que já existe no Windows
Uma peça mais concreta chegou duas semanas antes. Em 7 de outubro, a Microsoft anunciou os Microsoft Execution Containers (MXC), que isolam agentes em ambientes controlados por política. Já estão em disponibilidade geral, com SDK e documentação no GitHub, e incluem contêineres de processo (Windows 11, macOS e Linux), de sessão, WSLc e MicroVM, este ainda experimental.
O Defender também ampliou a detecção de ferramentas de agentes em 35 tipos locais, chegando a 60. A lista inclui Claude Code, Codex e GitHub Copilot.
O que considerar
O texto do Windows Central é uma análise de colunista. Ele cita um incidente com cerca de 700 agentes autônomos envolvendo OpenAI e Hugging Face sem apontar fonte primária, e o post oficial da Microsoft menciona apenas “incidentes divulgados nos últimos meses”. O recado para empresas, porém, é prático: dar a um agente só o acesso de que ele precisa, registrar o que ele faz e isolá-lo antes de ampliar o uso.
Fontes: Windows Central, Microsoft e Windows Developer Blog.
