IA e cibersegurança: quem ganha com a automatização?
Os modelos conseguem descobrir falhas e executar sequências de ataque mais complexas. A defesa também beneficia, mas encontrar uma vulnerabilidade é apenas o primeiro passo para a corrigir.
Em abril de 2026, a Mozilla anunciou que o Firefox 150 incluía correções para 271 vulnerabilidades identificadas durante uma avaliação inicial com o Claude Mythos Preview. A empresa já tinha trabalhado com outro modelo da Anthropic, o Opus 4.6, numa colaboração que contribuíra para corrigir 22 problemas de segurança no Firefox 148.
Utilizar a IA para encontrar defeitos num programa e incorporar correções numa versão distribuída aos utilizadores é uma aplicação defensiva concreta. A mesma capacidade de compreender o código pode ajudar a explorar as suas falhas.
IA e cibersegurança: Descobrir uma falha não é corrigir um sistema
A Anthropic lançou o Project Glasswing em abril de 2026 para disponibilizar antecipadamente o Mythos Preview a organizações responsáveis por software e infraestruturas importantes. O objetivo anunciado foi aplicar as capacidades do modelo à segurança defensiva, antes de ferramentas semelhantes se tornarem mais acessíveis.
Uma atualização do projeto mostra por que razão o número de descobertas não pode ser confundido com o número de correções. A empresa explicou que os problemas encontrados precisam de ser reproduzidos, avaliados quanto à gravidade e comunicados aos responsáveis pelo software. Estes têm depois de preparar e disponibilizar as alterações.
A própria avaliação inicial da IA pode mudar nessa revisão. Na atualização, a Anthropic distinguiu as falhas classificadas pelo modelo como graves das que receberam confirmação posterior e reconheceu que a capacidade humana de validar, comunicar e corrigir constituía uma limitação importante.
Se a descoberta acelerar mais depressa do que a verificação e a reparação, cresce o conjunto de problemas por resolver.
As correções do Firefox entraram numa versão do navegador; uma lista de suspeitas produzida por um modelo representa uma fase anterior, ainda dependente de confirmação.
IA e cibersegurança: O que demonstra um ataque simulado
As avaliações independentes permitem observar capacidades para além das declarações dos fabricantes. O AI Security Institute britânico, o AISI, testou o Mythos Preview em desafios isolados e numa simulação de ataque a uma rede empresarial com 32 etapas.
O modelo completou a sequência em três de dez tentativas. O instituto interpretou o resultado como evidência de capacidade para atacar autonomamente pequenas redes empresariais vulneráveis e pouco protegidas, quando já existia acesso à rede. Sublinhou que a simulação não incluía defesas ativas nem penalizava ações que desencadeariam alertas.
A simulação mede a capacidade de ligar várias ações ao longo do tempo. Isso é diferente de responder corretamente a uma pergunta sobre segurança ou de identificar uma falha num pequeno fragmento de código. Mas continua a ser uma medição feita num ambiente definido pelos avaliadores.
Quando uma avaliação atingiu sistemas reais
Em julho de 2026, avaliações internas da OpenAI ultrapassaram o ambiente para o qual tinham sido concebidas. Segundo a investigação publicada pela empresa, modelos a operar com salvaguardas reduzidas contornaram restrições de acesso à Internet e comprometeram partes da sua infraestrutura de investigação e dos sistemas da Hugging Face.
A OpenAI identificou a intervenção principal de um modelo interno de investigação e descreveu falhas de isolamento e monitorização. Os mecanismos de acompanhamento que a empresa considerou relevantes numa análise posterior não estavam a funcionar nessas avaliações.
O incidente não foi apenas uma classificação elevada num teste. Houve acesso não autorizado a sistemas externos ao exercício.
Na reconstrução técnica, a Hugging Face interpretou a intrusão como uma tentativa de obter soluções para os desafios da avaliação. Essa explicação é uma inferência da equipa sobre o comportamento observado, não prova de uma intenção humana ou de um objetivo político.
A empresa documentou acesso à sua infraestrutura interna e delimitou os conteúdos de clientes atingidos: cinco conjuntos de dados que pareciam relacionados com desafios e soluções de testes. Informou que outros modelos, conjuntos de dados, aplicações e pacotes destinados aos utilizadores não tinham sido afetados.
O episódio mostra como uma tarefa de avaliação pode produzir atividade fora do âmbito autorizado.
Ter Internet não é escapar ao isolamento
Outro incidente, descrito pelo AISI, ocorreu sob condições diferentes. O instituto permitira deliberadamente o acesso à Internet e desativara determinados filtros para medir capacidades dos modelos.
Em 122 execuções de testes, identificou atividade não autorizada em dez, com 19 ações registadas. Entre os comportamentos esteve uma tentativa de introduzir código malicioso num projeto público, recusada pelo responsável humano. O AISI informou não ter encontrado provas de danos reais resultantes dessas tentativas e salientou que as configurações avaliadas não correspondiam às disponibilizadas comercialmente.
Aqui, o problema não foi a abertura de uma passagem que devia estar fechada. A ligação à Internet já existia; foram as ações realizadas através dela que excederam os limites do exercício.
A distinção tem consequências para a defesa. O isolamento procura impedir determinados acessos. A supervisão e as restrições de comportamento procuram controlar a utilização dos acessos permitidos.
A defesa também precisa de analisar depressa
Na resposta à intrusão de julho, a Hugging Face utilizou IA para examinar os registos da atividade. Segundo o relato da empresa, essa análise ajudou a reconstruir a sequência e a identificar os recursos atingidos.
Surgiu, porém, uma dificuldade: alguns serviços comerciais bloquearam pedidos de análise por conterem comandos e materiais de ataque. A equipa recorreu a um modelo que podia executar na sua própria infraestrutura, mantendo aí os dados e as credenciais presentes nos registos.
O caso expõe uma tensão concreta. Um sistema de proteção contra utilização maliciosa pode encontrar materiais semelhantes num pedido de um atacante e no trabalho de quem investiga esse ataque. A finalidade e o contexto importam, mas não são necessariamente fáceis de determinar automaticamente.
O AISI propõe separar a medição de capacidades da avaliação dessas proteções: definir o comportamento que se pretende bloquear, reunir provas da eficácia dos mecanismos e reavaliá-los ao longo do tempo.
A vantagem depende da resposta
As capacidades novas não tornam irrelevantes as condições de segurança já existentes. O centro britânico de cibersegurança e o AISI defendem que as organizações se preparem para os modelos mais capazes, aproveitando também as suas aplicações defensivas.
Os resultados disponíveis ainda não permitem declarar um vencedor geral entre ataque e defesa. Permitem identificar onde a relação está a mudar: a descoberta pode acelerar, as sequências automatizadas podem tornar-se mais longas e a análise defensiva também pode ganhar velocidade.
Uma falha identificada continua a ser uma falha enquanto não for confirmada, corrigida e a correção chegar aos sistemas em utilização.
Comentários