Igor Bederov: "A cibersegurança madura começa com um pensamento simples: somos um alvo"

As ameaças cibernéticas atuais visam cada vez mais não apenas a infraestrutura, mas também a gestão de uma organização. Um único incidente pode impactar simultaneamente a segurança da informação (SI), relações públicas, departamentos jurídicos, fornecedores, alta gerência e processos de negócios críticos. Um especialista em cibersegurança discute como utilizar Modelos de Linguagem Grandes (LLMs) sem perder o controle, como se proteger contra ataques de deepfake, onde a OSINT (Open-Source Intelligence) ajuda a tomar a iniciativa e por que as empresas precisam de exercícios de segurança que alteram não só a versão do software, mas o comportamento de todo o sistema.

Hoje, muitos discutem a aplicação de LLMs em Centros de Operações de Segurança (SOCs). Onde, na sua opinião, esta tecnologia já está a trazer benefícios reais?

Os LLMs já estão a ajudar os SOCs a operar de forma mais rápida e eficiente. Uma das tarefas mais trabalhosas num SOC é processar o vasto fluxo de alertas de sistemas SIEM, EDR, sensores de rede, etc. Muitos destes são falsos positivos, mas cada um exige verificação. Os LLMs auxiliam na classificação dos alertas por tipo de incidente; na identificação de Indicadores de Compromisso (IoCs) chave; e na elaboração de rascunhos de relatórios iniciais com base em logs brutos. Como resultado, o analista recebe não apenas dados brutos, mas um resumo estruturado com hipóteses, permitindo-lhe focar-se em casos genuinamente complexos. Os LLMs também automatizam relatórios para a gerência ou reguladores.

Uma segunda tarefa crucial resolvida pelos LLMs é a aceleração da investigação através da linguagem natural. Isto reduz a barreira de entrada para novos funcionários; permite a verificação mais rápida de hipóteses; e diminui o número de erros devido a erros de digitação na sintaxe. A análise de relatórios e fontes abertas com LLMs também se torna mais eficaz através da sumarização de dados e da identificação de menções a novas técnicas.

Os LLMs também são capazes de compor ou adaptar dinamicamente playbooks (algoritmos de resposta) para um incidente específico ou para treino de pessoal. Isto é especialmente valioso num cenário de escassez de analistas de SOC experientes, pois o modelo atua como um "assistente inteligente", sugerindo as melhores práticas.

E onde o uso de LLMs em SOCs está a criar mais riscos do que a ajudar na proteção?

Embora os LLMs possam processar solicitações e dados mais rapidamente do que os humanos, as suas conclusões nem sempre são precisas. LLMs treinados em dados gerais podem não compreender as nuances da cibersegurança. Consequentemente, os analistas podem perder a vigilância devido ao ruído constante ou começar a confiar cegamente nas conclusões do modelo – o que é ainda mais perigoso.

Para um funcionamento eficaz, os LLMs exigem treino contínuo com dados atualizados, incluindo fontes internas do SOC. No entanto, se o modelo for treinado com detalhes de ataques reais, os invasores podem extrair essas informações através de ataques de injeção de prompt ou outros métodos. Além disso, os adversários podem introduzir dados distorcidos no conjunto de treino para fazer com que o modelo ignore certos tipos de ataques.

Muitos LLMs comerciais operam como uma "caixa preta": a sua lógica de tomada de decisão não é transparente. Como resultado, o analista não consegue compreender porque o modelo classificou um evento como ameaça. Sem esta compreensão, é impossível verificar a conclusão e tomar uma decisão informada. Se uma decisão for baseada na "opinião" de um LLM, provar a sua justificação é quase impossível.

Os cibercriminosos já estão a utilizar LLMs. Se um SOC depende de LLMs sem considerar esta ameaça, corre o risco de ser superado: a velocidade e a escala dos ataques podem exceder as capacidades de defesa.

Se uma empresa integra a IA em processos de monitorização e resposta, como deve mudar a área de responsabilidade das pessoas que tomam as decisões?

Sistemas modernos baseados em IA são capazes de processar grandes volumes de dados em tempo real – por exemplo, analisar logs de centenas de servidores e equipamentos de rede; detetar anomalias que um analista humano poderia ignorar devido ao "ruído" dos dados; classificar incidentes por nível de criticidade usando algoritmos de machine learning; executar automaticamente ações típicas: isolar um nó infetado, bloquear um endereço IP suspeito, iniciar um backup; prever o desenvolvimento de ataques com base em dados históricos e Indicadores de Compromisso (IoCs).

Ao mesmo tempo, a área de responsabilidade dos gestores e especialistas não diminui – ela é redistribuída com ênfase em funções estratégicas e de controlo. Em última análise, mesmo o sistema mais inteligente é apenas uma ferramenta nas mãos de um capitão experiente, que escolhe o curso e é responsável pelo navio.

Deepfake já deixou de ser uma excentricidade. Que ameaças nesta área considera as mais perigosas para as empresas neste momento? O que as empresas precisam de mudar nos procedimentos internos para reduzir a vulnerabilidade a ataques que utilizam deepfake?

Há alguns anos, o deepfake era percebido como uma tecnologia divertida para criar vídeos virais. Hoje, é uma ferramenta poderosa para cibercriminosos, que deixou de ser uma excentricidade e se tornou uma ameaça real para as empresas. Esta ameaça inclui vários tipos de fraude que utilizam voz e vídeo; ataques à reputação, manipulações internas no mercado financeiro, engenharia social e phishing de nova geração; comprometer negociações e acordos.

Para mitigar os riscos, as empresas devem rever e fortalecer uma série de processos, como autenticação multifator, formação contínua dos funcionários em cibersegurança, medidas técnicas de proteção, monitorização, auditoria, planos de resposta a incidentes e regulamentação das comunicações internas.

Se olharmos para a IA como um objeto de ataque, que riscos são mais subestimados hoje em dia?

A segurança é frequentemente reduzida à proteção de servidores e redes, enquanto a lógica da IA é considerada uma "caixa preta" que não precisa de proteção adicional.

Um dos vetores de ataque mais insidiosos e subestimados é a adulteração ou distorção dos dados nos quais o modelo é treinado. O perigo é que as consequências podem manifestar-se meses depois, pois o modelo funcionará normalmente na maioria dos casos, mas falhará ou executará um comando malicioso em condições estritamente definidas. Detetar tal infeção é difícil – ela disfarça-se como ruído estatístico.

O segundo risco são os ataques de evasão. Aqui, o objetivo é enganar um modelo já treinado, alimentando-o com dados especialmente modificados. Um exemplo clássico são as alterações quase impercetíveis numa imagem, que fazem a rede neural confundir um panda com um gibão.

O terceiro é a extração de modelos. Aqui, o invasor "copia" um sistema de IA de terceiros, enviando repetidamente solicitações e analisando as respostas. Este risco aumenta com a proliferação do acesso via API a modelos. Além disso, os proprietários muitas vezes não monitorizam padrões de solicitação anómalos, assumindo que um ponto de acesso aberto é, por definição, seguro.

Entre os riscos também são mencionados a inversão de dados, ataques através de cadeias de suprimentos e as mais recentes formas de engenharia social.

Onde está hoje o perímetro de proteção dos sistemas de IA e ML, não em teoria, mas na prática?

O perímetro de proteção dos sistemas de IA e ML é hoje formado em vários níveis, abrangendo todo o ciclo de vida dos modelos – desde a recolha de dados até à operação em ambiente de produção. Estes incluem os próprios dados e a preparação de datasets; o desenvolvimento e treino de modelos; a sua implementação e operação; a infraestrutura e as cadeias de suprimentos. Finalmente, a resposta a incidentes.

As regulamentações modernas para a segurança de sistemas de IA, especialmente em setores críticos, incluem a proteção contra acesso não autorizado a dados; a prevenção de interferências no funcionamento dos sistemas; a proibição de uso de dados confidenciais para treino de modelos; e o controlo da interação do utilizador com a IA, incluindo a limitação da entrada e saída de dados, e a verificação da fiabilidade das respostas.

Por que sinais se pode perceber que um programa de Security Awareness realmente funciona e não existe apenas para cumprir requisitos?

É importante entender que o Security Awareness não é apenas uma formação única, mas um processo contínuo. Se após a implementação do programa a percentagem de funcionários que caem em golpes de phishing diminuiu significativamente (por exemplo, de 30% para 5%), este é um indicador direto de sucesso. Ao mesmo tempo, os funcionários começam a reportar ativamente e-mails, links ou chamadas suspeitas ao departamento de segurança da informação. As pessoas não apenas conhecem as regras, mas as seguem. A alta gerência participa na formação e dá o exemplo no cumprimento das regras de SI. Finalmente, os materiais do programa são atualizados tendo em conta novas ameaças.

Na sua experiência, como deve ser estruturada a interação entre SI, RP, advogados e a gerência quando uma empresa enfrenta um ataque de informação?

O sucesso nesta situação depende de um fator: a velocidade da tomada de decisões com base em dados verificados. A gerência deve delegar instantaneamente autoridade a um grupo restrito ou a uma pessoa específica (por exemplo, o diretor de comunicações ou o diretor de operações). Não se devem realizar reuniões com 10 pessoas, onde cada um puxa a brasa à sua sardinha. A melhor interação é algo como: SI apresenta os factos, os advogados delineiam as "linhas vermelhas", RP escreve o texto dentro desses limites, e a gerência assina a ordem para fazer exatamente assim e de mais nenhuma forma.

O que não pode ser permitido? Conflitos entre RP e advogados, ações independentes de SI e completa ignorância da opinião dos advogados. Quando há um ataque de informação, o caos surge precisamente pela desconexão entre essas três funções. Para evitá-lo, a interação deve ser estruturada como uma linha de montagem clara, e não como uma reunião de iguais.

Como avalia o valor prático real da OSINT para a segurança corporativa e a análise de ameaças cibernéticas?

Muitos ainda percebem a OSINT (Open-Source Intelligence) como algo do campo da inteligência ou da "prospecção". Na prática, para a segurança corporativa, a OSINT é, antes de tudo, uma ferramenta de autodiagnóstico. O seu valor prático é colossal, mas não reside na busca por vulnerabilidades de dia zero, mas na análise do perímetro de segurança do qual você mesmo não suspeita.

Consiste na capacidade de se ver com os olhos do atacante antes que ele comece a agir. Constantemente encontramos vazamentos de e-mails corporativos em bancos de dados públicos, repositórios de código esquecidos no GitHub, informações privilegiadas em fóruns ou, pior ainda, sessões ativas de funcionários expostas em mercados abertos na darknet.

Se o departamento de segurança não monitoriza estes vetores, não está apenas cego – está a ignorar o facto de que alguém já contornou o perímetro e está tranquilamente sentado lá dentro, à espera do momento oportuno. O valor prático da OSINT hoje é a capacidade de tomar a iniciativa. É um trabalho proativo, não a constatação de um facto já consumado.

O que distingue um pentest ou um exercício de Red Team realmente útil de uma verificação formal, após a qual quase nada muda na empresa?

O mercado está saturado de ofertas de "testes de penetração", e a maioria das empresas contenta-se com uma verificação formal. Um pentest formal é um exame onde o aluno conhece as perguntas. A empresa recebe um PDF, guarda-o e segue a vida até o ano seguinte.

Um pentest ou Red Team útil é um sparring. Não é uma verificação de vulnerabilidades, é uma verificação de pessoas e processos. Uma boa equipa não vai bater de frente num firewall. Começará com phishing direcionado à contabilidade, com a busca de sessões RDP abertas na internet obscura, com a análise de caixotes de lixo (físicos e digitais). Tentará não apenas derrubar uma parede, mas encontrar uma porta que foi esquecida aberta, ou convencer a secretária a abri-la.

Um relatório formal é apenas lido, mas após um bom exercício, o seu regulamento de interação com fornecedores muda, os funcionários param de abrir e-mails de "Serviços Públicos", e os administradores começam a usar autenticação de dois fatores para RDP. O comportamento do sistema muda, não apenas a versão do software.

Se for realizado um treino completo de resposta a incidentes envolvendo não apenas a SI, mas também as áreas de negócios, qual cenário daria hoje o máximo efeito prático?

Para abalar não só o departamento de SI, mas também os diretores de desenvolvimento, finanças e produção, o cenário deve atingir o dinheiro e a reputação. O máximo efeito prático hoje seria um cenário construído em torno de um incidente na cadeia de suprimentos ou de um comprometimento de um processo de negócio crítico, como um serviço terceirizado.

Por exemplo, os invasores não comprometeram a sua sede, mas o seu parceiro logístico, através do qual todas as entregas aos clientes são realizadas. Ou substituíram os desenhos num serviço em nuvem usado pelo seu departamento de engenharia. Os camiões ficam parados na fronteira, as máquinas na fábrica produzem defeitos, e o departamento de segurança nem sabe por onde começar a resolver o problema, porque não é o seu software, nem os seus servidores.

Isto leva os stakeholders de negócios a considerar pela primeira vez que os riscos de SI são os seus riscos. Tal cenário expõe instantaneamente todas as falhas na interação com fornecedores, na conformidade legal dos contratos e na recuperação de desastres real, quando não há acesso a um servidor "estranho" com os seus dados.

Qual é o autoengano mais perigoso que hoje impede as empresas de construir uma cibersegurança madura?

O autoengano mais perigoso que encontro nas empresas soa simples: "Isso não nos vai afetar, não somos interessantes para ninguém." Sob esta bandeira, as pessoas economizam na proteção, não atualizam software, não treinam funcionários e compram o antivírus mais barato.

No entanto, os ataques hoje são uma linha de produção. Os invasores não estão a caçar-lhe pessoalmente. Eles escaneiam automaticamente a Internet em busca de qualquer RDP aberto, qualquer servidor vulnerável não fechado, quaisquer palavras-passe vazadas. Torna-se uma vítima não porque é interessante, mas porque está acessível. A cibersegurança madura começa com um pensamento simples: "somos um alvo". Pelo menos porque estamos conectados à Internet.