Como defender organizações de ataques criados com IA?
Toda era é marcada por grandes transformações e pelas contradições que elas carregam. Com a inteligência artificial, não é diferente.
O que no começo surgiu como uma revolução também mostrou, em seguida, desafios. A contradição é justamente o fato de a IA ser utilizada tanto para a inovação e segurança digital quanto para realizar ataques cibernéticos.
Em julho de 2026, por exemplo, a OpenAI divulgou que o modelo interno IM1 da sua inteligência artificial, Chat GPT, escapou de um ambiente de testes da big tech, identificou uma vulnerabilidade zero-day e atacou a infraestrutura da Hugging Face, uma comunidade de código aberto com foco em IA.
Agentes do modelo FPT-5.6 Sol também participaram da ação, porém, de forma secundária.
A resposta da comunidade ao ataque foi, também, utilizando um modelo de linguagem, o GLM 5.2, da empresa chinesa Z.ai, que registrou os logs de toda a ação maliciosa dentro da infraestrutura.
Ou seja, sistemas de IA atacam e defendem o tempo todo em uma batalha silenciosa e cara para as finanças e para a reputação corporativa. E aqui o mais importante: a sua empresa está no meio desse fogo cruzado.
Neste artigo, você vai entender como esses ataques são criados com inteligência artificial e o que fazer para proteger o seu negócio.
Principais aprendizados deste artigo
Ataques criados por IA usam os mesmos princípios da engenharia da computação. O que muda é a velocidade de produção e operação.
Para utilizar um grande modelo de machine learning em atividades maliciosas, é preciso realizar um jailbreak de IA.
As principais intervenções feitas com a ajuda da inteligência artificial são phishings, deepfakes e ataques de força bruta.
A proteção empresarial contra ataques feitos com IA inclui autentificação multifator (MFA), verificação fora de banda e a governança dos agentes de inteligência artificial da sua própria empresa.
A ManageEngine oferece soluções completas e que utilizam IA para identificar e barrar ataques maliciosos. São elas o Log360 e o Endpoint Central, com o add-on Endpoint Detection and Response (EDR).
Ataques criados por IA: como são feitos?
A criação de qualquer ataque, seja com IA ou não, envolve a metodologia e princípios da engenharia da computação, com o objetivo final de se apropriar de brechas e falhas de segurança em sistemas de informação.
A diferença, portanto, está na agilidade da execução e na capacidade de ser personalizável. Enquanto um ataque desenvolvido apenas por humanos leva um tempo indeterminado para ser construído e aplicado, agentes de IA podem gastar apenas alguns minutos para elaborar o algoritmo, identificar brechas e adaptar um ataque de acordo com o alvo.
O processo pode ser ainda mais sofisticado na interação entre agentes de IA, por exemplo. Neste caso, ao invadir um sistema, um agente malicioso pode aplicar uma injeção indireta de prompt em outro agente.
Assim, o agente do sistema tem o seu comportamento alterado, tomando ações que facilitem o ataque.
Certamente, o uso da inteligência artificial para ações maliciosas é uma preocupação em comum para as big techs, que desenvolvem mecanismos para barrar atitudes indevidas. Então, como a IA continua sendo usada para esses fins?
A resposta é uma prática chamada jailbreak de IA. Entenda como ela funciona.
O que é jailbreak de IA?
Jailbreaking é um termo bastante conhecido em TI e diz respeito ao processo de remover restrições de segurança do sistema operacional de um dispositivo eletrônico. No iOS, a prática é chamada de jailbreak; no Android, o equivalente é o root.
Com a ausência de limitações, é possível explorar o dispositivo com total liberdade para personalizar o sistema, instalar aplicações que não estão nas lojas oficiais do fabricante e obter controle sobre os arquivos do sistema.
A mesma prática agora é usada em modelos de linguagem (jailbreak de IA), principalmente os de grande porte, como o ChatGPT, por exemplo. Assim, hackers podem dar direcionamentos para IA generativa, bem como agentes, sem nenhuma restrição de segurança.
O jailbreak de uma LLM é feito com prompts cuidadosamente elaborados que levam o modelo a ignorar as próprias regras de segurança. É um ataque contra as medidas de proteção do próprio modelo.
É importante levar em consideração que, apesar de similar, o jailbreak de IA é diferente de uma injeção de prompt. Enquanto a injeção de prompt tenta alterar instruções legítimas dadas a uma aplicação, o jailbreak de IA explora a incapacidade de uma LLM distinguir se uma solicitação foi feita por um desenvolvedor permitido ou por um hacker.
O resultado das duas técnicas, porém, é o mesmo: o sistema acaba induzido a realizar ações maliciosas. E, a partir desse momento, o setup para criar ataques com IA está formado.
Quais são os ataques criados com IA?
Entre os principais ataques cibernéticos realizados com a ajuda da IA, estão:
Engenharia social e phishing
Ataques de engenharia social estão entre os mais beneficiados pela IA, que ajuda a criar campanhas personalizadas para cada vítima.
Mecanismos de inteligência artificial investigam o comportamento de usuários dentro do sistema afetado e criam mensagens, imagens, e-mails e documentos muito similares à comunicação legítima de um funcionário ou uma corporação.
Essa prática é conhecida como vibe hacking, ou seja, o caminho inverso do vibe coding, utilizando a IA com finalidade maliciosa.
Deepfakes
Além da manipulação de códigos, também há a manipulação de imagem e de voz. A inteligência artificial também é utilizada para reproduzir a face e a fala de pessoas para ludibriar a vítima e extrair as informações confidenciais desejadas.
Essa forma de ataque acontece no ambiente corporativo, mas é também muito recorrente em golpes nas redes sociais.
Ataques de força bruta
Com a ajuda de agentes de IA, atacantes realizam sucessivas tentativas de login em contas relevantes do ambiente corporativo, adivinhando senhas com muito mais eficácia e automatizando o teste de credenciais vazadas em larga escala.
Como proteger o seu negócio de ataques gerados por IA?
Chegou o momento de conhecer o lado bom da força. Construir uma defesa eficaz contra ataques maliciosos, sejam eles feitos por IA ou não, requer softwares eficazes, mas também a compreensão humana.
Por exemplo, um ataque de phishing só pode ser bem-sucedido caso um usuário desavisado abra um e-mail ou um link duvidoso. Portanto, tenha em mente que o treinamento de colaboradores para identificar ameaças digitais é o primeiro passo para ter mais tranquilidade.
Após esse passo, é necessário acrescentar algumas camadas de segurança, como a correlação de logs no sistema até uma defesa baseada em inteligência artificial, ajudando na previsão e mitigação de ameaças.
Na prática, três controles respondem diretamente aos ataques descritos acima:
1. MFA resistente a phishing: senha forte deixou de resolver sozinha. Chaves de segurança físicas e autenticação baseada em FIDO2 anulam boa parte do ganho que a IA trouxe para ataques de força bruta e para o roubo de credenciais.
2. Verificação fora de banda: nenhum pedido de transferência, troca de dados bancários ou liberação de credencial deve ser aprovado apenas com base em uma voz ou em um vídeo. Confirmar por um segundo canal, combinado previamente, é a defesa mais barata que existe contra deepfake.
3. Governança dos agentes de IA da sua própria empresa: Os agentes que a organização já usa precisam operar com permissões mínimas, acesso auditável e a premissa de que todo conteúdo externo que eles leem é não confiável. É o que impede a injeção indireta de prompt de virar uma porta aberta.
Proteja a sua empresa com a ManageEngine
A ManageEngine oferece duas soluções ideais para manter qualquer negócio em dia com a proteção digital. Confira a seguir:
Log360
Por meio da correlação de registros em tempo real, o Log360 detecta comportamentos anômalos que possam indicar tentativa de exploração ou exploração bem-sucedida.
Seu mecanismo de análise de segurança fornece insights sobre tentativas de ataque por injeção de SQL, possíveis explorações do Remote Desktop Protocol, execuções remotas de código e muito mais.
Endpoint Central EDR
O Endpoint Central, solução da ManageEngine de gestão de endpoints, conta com o add-on Endpoint Detection and Response (EDR), que monitora e audita continuamente a atividade dos endpoints, utilizando análises comportamentais e análises de dados avançadas para identificar atividades suspeitas em tempo real.
Com isso, o recurso oferece para a sua empresa três benefícios importantes. São eles a visibilidade em tempo real de todos os endpoints, dados de endpoint pesquisáveis — com até 30 dias de atividades salvos em histórico — e a integração de inteligência de ameaças, com um banco de dados com as atualizações mais recentes em relação a ataques cibernéticos.
A cereja do bolo é a atuação da inteligência artificial, que investiga ameaças o tempo todo.
O Endpoint Central EDR utiliza a Zia, a inteligência artificial da ManageEngine, para triar e classificar todos os alertas, priorizando-os com base na criticidade, no risco potencial e na urgência. O alerta mais importante, que exige sua atenção, é apresentado no momento certo.
Neste webinar, você confere como usar o Endpoint Central EDR na prática.
A Zia também é capaz de reconstituir a linha do tempo completa do ataque, identificando a causa raiz, mapeando a progressão atual e fornecendo à sua equipe de segurança tudo o que é necessário para tomar o próximo passo.
Com certeza, a partir de agora, a inteligência artificial passa a soar muito mais como uma solução do que uma ameaça. Para conhecer essas e outras soluções da ManageEngine, visite o nosso site.
Nota: Encontre a revenda da ManageEngine certa. Entre em contato com a nossa equipe de canais pelo e-mail latam-sales@manageengine.com.
Importante: a ManageEngine não trabalha com distribuidores no Brasil.