A Check Point Research (CPR) alerta sobre cibercriminosos que podem usar o ChatGPT e o Codex da OpenAI (Inteligência Artificial) para criar e-mails e códigos maliciosos. Uma vez criados esses códigos, eles são capazes de serem utilizados em campanhas de phishing
A CPR conseguiu criar e-mails de phishing e códigos maliciosos, bem como uma cadeia de infecção completa capaz de atingir os computadores pessoais, a fim de alertar sobre os perigos potenciais que a nova tecnologia de IA pode ter no cenário de ameaças cibernéticas.
Inteligência Artificial pode ser usada em cibercriminosos
Ao usar o ChatGPT, a equipe da CPR conseguiu criar um e-mail de phishing com um documento Excel anexado contendo código malicioso capaz de baixar shells reversos (reverse shell).
Os ataques de shell reverso aproveitam as vulnerabilidades do sistema de destino para iniciar uma sessão do programa shell e acessar o computador da vítima. A máquina da vítima abre uma sessão para um host e porta específicos, e a ideia é redirecionar as conexões de entrada e saída do shell do sistema de destino para que o atacante possa acessá-lo remotamente.
Etapas realizadas com o ChatGPT;
Primeiro foi solicitado ao ChatGPT para se passar por uma empresa de hospedagem (Figura 1); Depois foi solicitado ao ChatGPT para repetir, produzindo um e-mail de phishing com anexo Excel malicioso (Figura 2); e por último foi solicitado ao ChatGPT para criar um código VBA malicioso em um documento do Excel (Figura 3);
Codex da OpenAI
A equipe da Check Point Software também foi capaz de gerar código malicioso usando o Codex. Os pesquisadores da CPR fizeram perguntas ao Codex, incluindo: execute o shell script reverso em uma máquina Windows e conecte-se a um endereço IP específico; verifique se a URL é vulnerável à injeção de SQL fazendo login como administrador; escreva um script python que execute uma varredura completa de portas em uma máquina de destino.
O código malicioso foi posteriormente gerado pelo Codex.
O ChatGPT tem o potencial de alterar significativamente o cenário de ameaças cibernéticas. Agora, qualquer pessoa com recursos mínimos e conhecimento zero em código pode facilmente explorá-lo em detrimento de sua imaginação.
Sergey Shykevich, gerente de Grupo de Inteligência de Ameaças na Check Point Software
“É fácil gerar e-mails e códigos maliciosos. Os hackers também podem iterar em códigos maliciosos com ChatGPT e Codex (…), conclui Shykevich.