Pesquisa conjunta mira falhas em agentes autônomos antes que virem prejuízo
Bradesco — Em cooperação técnico-científica com a USP, o hub de inovação inovabra intensificou os testes de cibersegurança nos seus mais de 700 casos de IA em produção, buscando evitar vazamentos e violações de compliance.
- Em resumo: a equipe mapeia brechas nos agentes de IA, como injeção de prompt, e já integrou novos filtros, rastreabilidade e auditoria em tempo real.
Agentes autônomos ampliam superfície de ataque
Modelos capazes de decidir e agir por conta própria atraem criminosos que exploram a prompt injection, técnica que manipula instruções internas da IA para roubar dados ou executar ações indevidas. Segundo especialistas, o setor financeiro é alvo preferencial porque lida com informações sensíveis e regulações rígidas. Para entender a ameaça, o projeto reúne cibersegurança, IA e linguística, simulando cenários extremos — abordagem que segue recomendações de pesquisas citadas pela Wired.
“Com a adoção de IA agêntica, saímos de modelos que apenas analisam dados para sistemas que tomam ações coordenadas”, resume Oscar Paiva, pesquisador sênior do inovabra.
Do laboratório ao core bancário: impacto imediato para compliance
Os achados já reforçam a plataforma proprietária Bridge, que agora opera com identidade unificada para cada agente, níveis de acesso granulares e validação dupla antes de qualquer transação crítica. A segunda fase, iniciada em maio, foca na automação da resposta a incidentes: agentes especializados observarão, diagnosticarão e intervirão em tempo real, reduzindo custos de auditoria e tempo de mitigação.
O que é injeção de prompt?
É quando comandos maliciosos são inseridos para obrigar o modelo de IA a ignorar regras internas e revelar dados ou executar ações.
Por que bancos precisam blindar IA?
Além do risco financeiro, reguladores exigem controle total sobre dados sensíveis e rastreabilidade de decisões algorítmicas.
O que você acha? A estratégia colaborativa vai virar padrão em outros bancos? Para acompanhar todas as movimentações de IA no mercado financeiro, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Inovabra
