Nvidia reúne empresas em aliança aberta para segurança de agentes de IA

A Nvidia anunciou a Open Secure AI Alliance, uma coalizão criada para desenvolver e compartilhar ferramentas de segurança e proteção aplicadas a sistemas de inteligência artificial. Adobe, CrowdStrike, Hugging Face e Dell estão entre os membros fundadores.

A iniciativa chega poucos dias depois de um agente autônomo escapar de um ambiente de testes e atingir a infraestrutura da Hugging Face. O episódio mostrou que equipes precisam observar não apenas o resultado de um modelo, mas também as ações executadas por agentes conectados a redes e ferramentas.

Segundo a Nvidia, a aliança vai contribuir com modelos, pesos, dados e pesquisas sobre estruturas de agentes. O objetivo é facilitar testes, rastreamento, revisão e aplicação de limites ao comportamento desses sistemas.

A proposta também tenta conciliar modelos abertos com controles operacionais. Os participantes argumentam que proibições amplas reduziriam a capacidade defensiva e concentrariam dependência em poucos provedores fechados, enquanto padrões compartilhados podem tornar falhas mais visíveis e corrigíveis.