IA generativa na segurança: quais são os riscos e cuidados?
Não há dúvidas de que a Inteligência Artificial (IA) simplificou e facilitou atividades que antes eram demoradas e morosas. Desde responder simples perguntas ou até mesmo escrever dissertações complexas, ela se tornou parte do dia a dia da população.
Mas, infelizmente, nem tudo são flores. Ao mesmo tempo em que contribui para atividades benéficas, ela também auxilia criminosos a cometer crimes e burlar leis.
Quer entender melhor como isso acontece e as melhores maneiras de se manter seguro utilizando a tecnologia a seu favor? Continue lendo este artigo.
O que é a IA generativa?
Também chamada de GenAI, a inteligência artificial generativa caracteriza-se pela geração de novos conteúdos, podendo ser textos, áudios, vídeos ou imagens.
Dessa forma, utilizando prompts de comando adequados, a IA generativa consegue criar tudo o que lhe é pedido, contanto que haja qualquer tipo de informação parecida em sua base de dados.
Outro conceito além da IA generativa, é a IA preditiva, que possui algumas diferenças quando comparada à primeira.
Por ser um assunto amplo, indico a leitura deste artigo: Entenda a diferença entre IA generativa e preditiva.
Qual a relação entre IA generativa e segurança?
Criminosos em todo o mundo perceberam como o recurso pode ser facilmente usado para cometer diferentes tipos de crimes devido ao baixo custo e praticidade.
Um dos casos mais famosos do uso da IA generativa para aplicação de golpes aconteceu em Hong Kong, no ano de 2024. O episódio ficou amplamente conhecido após um funcionário de uma multinacional transferir US$ 25 milhões após participar de uma videochamada com o que parecia ser seu diretor financeiro. Infelizmente, tratava-se de um deepfake (saiba mais sobre o assunto nos próximos tópicos).
Porém, a IA generativa não tem apenas vieses negativos quando associada a segurança. Quando bem utilizada, é possível expandir e aprimorar recursos de segurança já existente, além de desenvolver novas técnicas.
Como a IA generativa afeta a segurança das informações
É difícil que exista uma pessoa que nunca fez uso da inteligência artificial atualmente. Suas aplicações são extensas, inimagináveis e muito prática. Ao mesmo tempo que isso pode ser extremamente benéfico para o público em geral, também pode acarretar em crimes.
Veja a seguir os principais impactos negativos que a IA generativa pode causar na segurança.
Deepfake
Este é um exemplo que já foi citado, porém que merece ser um pouco mais desenvolvido. Este tipo de mídia sintética trata-se da clonagem de voz e rosto de pessoas conhecidas.
Além do deepfake, também temos o vishing, um recurso parecido, mas que utiliza a clonagem apenas da voz.
Os golpistas utilizam dessa engenharia social para simular pessoas conhecidas da vítima, a fim de obter informações importantes e/ou dinheiro.
Vem se aperfeiçoando cada vez mais, tornando-se em alguns casos quase impossível de se identificar o que é real e o que é IA.
Paulo Silvestre, durante sua participação no podcast Server Room Brasil, explicou maneiras de identificar o que é deepfake e o que não é. Assista ao corte aqui.
Criação automatizada de malwares
O que antes era uma tarefa manual, após o advento da IA generativa, tornou-se uma atividade rápida, prática e acima de tudo: automatizada.
Com isso, criminosos se aproveitaram dos benefícios para criar malwares automatizados, que através de ML (Machine Learning - aprendizado autônomo a partir da análise de dados) podem driblar sistemas de segurança.
Desinformação
A IA generativa pode ser extremamente útil na hora de fazer pesquisas, mas ela não pode ser 100% confiada. Infelizmente, ainda existem diversos modelos que espalham informações falsas, aumentando a desinformação e disseminando a discriminação, preconceito, difamação e fobias.
Além disso, a própria tecnologia tem alucinações (termo utilizado para se referir a informações completamente incompatíveis com a realidade). Por exemplo, quando a plataforma diz que o habitat natural de uma baleia é na floresta.
Vazamento de dados
A capacidade da IA generativa se desenvolver tão rapidamente vem das informações que são fornecidas pelos desenvolvedores e também dos usuários.
Por isso, não é estranho que informações confidenciais de grandes organizações, ou mesmo ideias revolucionárias que eram mantidas em sigilo, se tornem públicas sem alguém ter vazado propositalmente.
Exploração automatizada de vulnerabilidades
O recurso de poder automatizar atividades com a IA generativa proporcionou cibercriminosos a praticarem golpes incansavelmente. Um deles é a exploração automatizada de vulnerabilidades em sistemas.
Além disso, é possível encontrar maneiras de contornar medidas de segurança, sem necessariamente burlar nenhuma delas.
Como fazer bom uso da IA generativa?
Apesar de ser utilizada para fins maliciosos, a IA generativa pode ser utilizada também como uma forma de proteção, tanto pessoal quanto organizacional. Alguns dos melhores recursos de segurança cibernética fazem uso de inteligência artificial.
Veja a seguir maneiras de utilizar a IA generativa na segurança sem comprometer dados sensíveis.
Faça uso de UEBA
O UEBA (User and Entity Behavior Analytics ou Análise de Comportamento de Entidades e Usuários) é uma abordagem da análise do comportamento dos usuários e entidades que identifica padrões anômalos que podem significar algum tipo de perigo.
Este recurso, apesar de parecer simples, ele tem um grande potencial para aprimorar a segurança no acesso dos colaboradores.
Verifique os relatórios
Fazer relatórios recorrentes ajuda a identificar mais facilmente quando algo sair do padrão. Além disso, ter um histórico também ajuda a observar quando atividades e comportamentos anômalos surgem.
Utilize plataformas confiáveis
Infelizmente, ainda estamos em um momento da história que nem todas plataformas e modelos possuem uma política de privacidade bem estruturada e que esteja em conformidade com leis, como a LGPD e a GDPR.
Por isso, leia sempre a política de privacidade, segurança, cookies e compliance para ter certeza que seus dados estão sendo utilizados e armazenados de forma adequada.
Faça verificações de segurança periódicas
As varreduras de segurança funcionam para identificar qualquer irregularidade dentro dos sistemas cibernéticos. Porém, fazer uma verificação aqui e ali não é suficiente, já que vimos que os cibercriminosos não tiram férias.
A constância entre uma varredura e outra é o diferencial para ter um sistema atualizado e saudável. Por isso, automatize as verificações de segurança para ter certeza de que não há nenhum agente malicioso.
Além disso, a observabilidade dentro do tráfego de rede pode ajudar a identificar quebras de segurança.
O OpManager Plus, uma ferramenta de observabilidade de rede, possui recursos que são extremamente úteis para a descoberta de perigos no tráfego de rede. Além disso, ele possui diversos recursos que podem te auxiliar a fortalecer sua segurança, como relatórios personalizáveis, diagnóstico de rede e mapeamento de topologia.
Utilize alertas
Além dos relatórios, que podem te ajudar a identificar e entender seu ambiente, os alertas em tempo real podem te ajudar com a identificação de ataques à segurança ou então a anormalidades dentro do seu ambiente.
Automatize respostas de segurança
Assim como em um incêndio, ter procedimentos para se prevenir é importante. Mas sabemos que nem sempre as coisas saem como o esperado. Por isso, ter condutas de respostas à quebras de segurança é tão importante quanto.
Um plano de reposta à incidentes pode salvar organizações em diferentes cenários, já que é possível desenvolver e planejar como agir em momentos de caos, evitando o desespero e ações equivocadas.
Utilize softwares robustos de segurança
Softwares de segurança ajudam gestores de TI a identificar, prevenir e agir nos momentos que a segurança é colocada à prova. Por isso, investir em um software completo, seguro e confiável pode poupar você de enormes problemas.
O Log360, uma solução SIEM (Segurança da Informação e Gestão de Eventos) possui recursos que vão auxiliar qualquer gestor de TI a identificar mais rapidamente eventos que possam ser perigos cibernéticos.
Alguns dos recursos são:
Análise de logs;
Detecção de anomalias baseado em regras e UEBA;
Filtro de conteúdo da web;
Resposta à incidentes automatizada;
Análise forense;
Auditoria do AD;
Relatórios;
Muito mais!
Conclusão
A IA generativa, quando bem usada, pode ser um auxílio incrível para ajudar gestores de TI em atividades diárias de segurança. Mas é importante lembrar que qualquer tipo de tecnologia exige supervisão humana, já que o discernimento de uma pessoa faz toda a diferença para que não existam falsos positivos.
Imagina um piloto automático de um avião: mesmo que tenha algo guiando e comandando o avião, ainda existe a presença humana para evitar desastres ou mesmo tomar decisões em momentos delicados.
Nota: Encontre a revenda da ManageEngine certa. Entre em contato com a nossa equipe de canais pelo e-mail latam-sales@manageengine.com.
Importante: a ManageEngine não trabalha com distribuidores no Brasil.