O Centro Nacional de Segurança Cibernética (NCSC) do Reino Unido alerta que as ferramentas de inteligência artificial (IA) terão um impacto adverso no curto prazo na segurança cibernética. De acordo com o NCSC, a IA ajudará a aumentar a ameaça do ransomware, capacitando-o nos próximos dois anos.
O que é o NCSC do Reino Unido?
O Centro Nacional de Segurança Cibernética (NCSC) do Reino Unido é uma autoridade técnica estabelecida em 2016 para lidar com questões de segurança cibernética. O NCSC apoia o setor público, a indústria e a sociedade civil, com o objetivo de tornar o Reino Unido o lugar mais seguro para viver e trabalhar online. Eles fornecem alertas sobre atividades maliciosas e ajudam as organizações a resolver problemas de segurança rapidamente. Além disso, o NCSC oferece conselhos sobre como usar serviços online com segurança e como se proteger contra phishing, malware e violações de dados.
A IA e o seu uso na capacitação de ransomware
A agência afirma que os cibercriminosos já utilizam IA para diversos fins e que o fenômeno deverá piorar nos próximos dois anos, ajudando a aumentar o volume e a gravidade dos ataques cibernéticos. O NCSC acredita que a IA permitirá que atores de ameaças inexperientes, hackers de aluguel e hacktivistas pouco qualificados conduzam ataques mais eficazes e personalizados que, de outra forma, exigiriam tempo, conhecimento técnico e esforço operacional significativos.
A maioria das plataformas de grande modelo de aprendizagem (LLM) disponíveis, como ChatGPT e Bing Chat, possuem salvaguardas que impedem a plataforma de criar conteúdo malicioso. No entanto, o NCSC alerta que os cibercriminosos estão criando e comercializando serviços especializados de IA generativa, concebidos especificamente para reforçar atividades criminosas. Os exemplos incluem WormGPT, um serviço LLM pago que permite que agentes de ameaças gerem conteúdo malicioso, incluindo malware e iscas de phishing.
Essa manobra indica que a tecnologia já escapou dos limites de estruturas controladas e seguras, tornando-se acessível no ecossistema criminoso mais amplo.
Atores de ameaças, incluindo atores de ransomware, já estão usando IA para aumentar a eficiência e eficácia de aspectos de operações cibernéticas, como reconhecimento, phishing e codificação.
Essa tendência quase certamente continuará até 2025 e além.
NCSC
Relatório do NCSC
O relatório observa que se espera que o papel da IA no panorama do risco cibernético seja evolutivo, reforçando as ameaças existentes em vez de transformador. Os pontos-chave da avaliação do NCSC são os seguintes:
- A IA provavelmente intensificará os ataques cibernéticos nos próximos dois anos.
- Tanto os atores de ameaças cibernéticas qualificados como os menos qualificados, incluindo entidades estatais e não estatais, estão utilizando a IA ultimamente.
- A IA melhora o reconhecimento e a engenharia social, tornando-os mais eficazes e difíceis de detectar.
- A utilização sofisticada da IA em operações cibernéticas será limitada principalmente aos intervenientes com acesso a dados, conhecimentos especializados e recursos de qualidade até 2025.
- A IA tornará os ataques cibernéticos contra o Reino Unido mais impactantes, permitindo análises de dados e treinamento de modelos de IA mais rápidos e eficazes.
- A IA reduz as barreiras de entrada para cibercriminosos novatos, contribuindo para a ameaça global de ransomware.
- Até 2025, a mercantilização das capacidades de IA provavelmente expandirá o acesso a ferramentas avançadas tanto para criminosos cibernéticos como para intervenientes estatais.
A tabela abaixo resume os efeitos que se espera que a IA tenha em áreas de ameaça específicas para três níveis de habilidade.
Para APTs sofisticados, o NCSC acredita que a IA os ajudará a gerar malware evasivo personalizado com mais facilidade e rapidez. No geral, o NCSC alerta que a IA generativa e os grandes modelos de linguagem tornarão altamente desafiador para todos, independentemente da experiência e do nível de habilidade, identificar tentativas de phishing, spoofing e engenharia social.