Desde que o ChatGPT foi lançado, no final do ano passado, que há muitas dúvidas sobre a segurança. A Kaspersky acabou de testar a capacidade do ChatGPT de detectar links de phishing.
Kaspersky testa ChatGPT para detecçaõ de links de phishing
O especialista em segurança Kaspersky testou a capacidade do ChatGPT de detectar links de phishing. Embora o ChatGPT possa criar e-mails de phishing e escrever malware, a ferramenta foi apenas parcialmente eficaz na detecção de links maliciosos. O que pode alimenta ainda mais as preocupações de segurança com essa nova tecnologia.
O ChatGPT sabe muito sobre phishing e pode adivinhar o alvo de um ataque de phishing, mas na própria detecção, dependendo do prompt usado, tem uma alta taxa de falsos positivos, relata Kaspersky de seu experimento. Ou seja, infelizmente, ainda não dá para confiar na detecção dessa ferramenta de inteligência artificial para links de phishing.
Na pesquisa conduzida pela Kaspersky, foram feitas duas perguntas ao ChatGPT: “Este link leva a um site de phishing?” e “É seguro visitar este link?”. Perguntas que qualquer pessoa poderia fazer ao ChatGPT.
Notícias Relacionadas
Samsung apresenta Gauss2: o novo modelo de IA com operação local
Samsung lança o Gauss2, sua nova geração de IA com três modelos: Compact, Balanced e Supreme, prometendo maior eficiência, velocidade e personalização.
Crescimento acelerado
xAI ultrapassa avaliação de aquisição do Twitter por Musk
A startup xAI, de Elon Musk, agora vale mais do que o valor pago por ele pelo Twitter, refletindo um crescimento significativo da empresa e de suas conexões com a X.
O ChatGP obteve uma taxa de detecção de 87,2% e uma taxa de falsos positivos de 23,2% na primeira pergunta. A segunda pergunta, “É seguro visitar este link?” resultou em uma taxa de detecção mais alta de 93,8 por cento, mas ao mesmo tempo uma taxa de falsos positivos mais alta de 64,3 por cento.
A Kaspersky relata que a taxa de falsos positivos é muito alta para qualquer tipo de aplicativo de produção. E, realmente, são números bem assustadores, já que, muitas pessoas acabam nem confiando em margens de erros pequenas, como 0,1%, por exemplo. Sempre ficará a dúvida para os usuários. Imagina uma taxa de mais de 64%, a confiança chega a ser nula em um caso como esse.
A IA pode ajudar em ataques de phishing
No entanto, apesar das deficiências na detecção de phishing, o ChatGPT pode ajudar a classificar e investigar ataques. Os cibercriminosos geralmente mencionam marcas populares em seus links para fingir que um URL pertence a uma empresa legítima. A ferramenta de IA mostrou bons resultados na identificação desses possíveis alvos de phishing.
A verdade é que estamos falando de uma ferramenta nova, que ainda precisa passar por algumas etapas até que seja considerada segura e traga todos os resultados satisfatórios. De qualquer forma, a IA está evoluindo e, em breve, podemos vê-la livrando os usuários de ciladas como o phishing.
