Modelos treinados herdam vulnerabilidades esquecidas e viram alvo fácil de hackers
Inteligência artificial corporativa — Relatório recente expõe que sistemas de IA estão carregando brechas de segurança descobertas há mais de 20 anos, ainda sem correção em boa parte das empresas.
- Em resumo: Ataques clássicos, como injeção de comando e buffer overflow, ganham nova vida ao serem explorados em pipelines de IA.
Por que as brechas antigas continuam abertas
Boa parte dos modelos de linguagem e visão de máquina é treinada em gigantescos data sets hospedados em infraestruturas que somam camadas de software legadas. À medida que soluções de IA são plugadas a APIs e bancos de dados antigos, a “herança maldita” se transfere para o algoritmo. Um levantamento citado pelo MIT Technology Review revela que 62% das aplicações de machine learning ainda rodam sobre bibliotecas sem patch desde 2016.
“AI systems inherit decades-old security flaws many organizations still fail to address consistently.”
Impacto no Brasil e como reduzir o risco
No mercado brasileiro, onde a adoção de IA generativa disparou 33% em 12 meses, o efeito pode ser devastador: ataques de dia zero encontram portas abertas em e-commerces, fintechs e healthtechs que migraram rápido, mas sem plano de hardening. Especialistas indicam três ações críticas: mapeamento de dependências legadas, revisão de modelos de permissão em APIs e atualização contínua de bibliotecas de código aberto — tarefas que costumam ficar fora do radar dos times de ciência de dados.
Que ataques legados mais ameaçam sistemas de IA?
Injeção SQL, sobrecarga de buffer e exploração de deserialização em APIs de modelo são os principais.
Como mitigar vulnerabilidades em modelos de linguagem?
Implementar reviews de segurança no ciclo de MLOps e aplicar patching automático em componentes de código aberto.
O que você acha? Sua empresa atualiza as dependências antes de lançar soluções de IA? Para mais análises, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / TechRadar Pro
