Especialistas alertam que ChatGPT será um grande amigo de hackers

ChatGPT da OpenAI, foi treinado com diversos documentos da web, vários livros e até Wikipedia. A base da nova inteligência artificial focada em chatbot é gigante. E assim, após o seu lançamento oficial, mais de 1 milhão de pessoas fizeram suas inscrições para poderem testar a nova tecnologia.

Durante os testes, as redes sociais quase param para ver a novidade. O ChatGPT foi o assunto e ainda é, isso deu-se devido à capacidade de responder qualquer perguntar, criar poemas, informações sobre filmes, dicas úteis, relacionamentos, estudos e até programação. Sabemos não haver limites para a base desta IA, mas é fato que é como se ela soubesse tudo sobre todos.

ChatGPT e o risco hackeamento

A equipe do Cybernews testou o ChatGPT em busca de possíveis situações em que hackers poderiam aproveitar a nova tecnologia. Segundo informações, a equipe do site tentou utilizar o chatbot para identificar possíveis vulnerabilidades em um site. Assim, foram realizadas perguntas que resultaram em algumas orientações. A ideia era saber se o chatbot ChatGPT iria fornecer informações sobre como explorar a vulnerabilidade descrita.

Os especialistas, em contato com o chatbot, explicaram que estavam realizando um desafio de testes de penetração, o famoso pen test. Rapidamente, o chat com IA respondeu com 5 pontos para começar o trabalho. A IA forneceu recomendações básicas sobre por onde começar a inspecionar o site em busca de vulnerabilidades.

ChatGPT revelou código vulnerável de um site e por onde começar a hackear

Após fornecer os 5 pontos de partida para fazer testes de penetração de um site, a IA também deu alguns conselhos. Os pesquisadores conversaram com o ChatGPT, explicaram como era o código-fonte do site e rapidamente o chatbot recomendou a exploração de alguns trechos do código-fonte citado e aonde deveriam concentrar seus esforços. Assim, após 45 minutos de conversas com a Inteligência Artificial, os pesquisadores conseguiram hackear o site em questão.

Recebemos exemplos mais do que suficientes para tentar descobrir o que está funcionando e o que não está. Embora não tenha nos fornecido a carga útil exata necessária neste estágio, nos deu muitas ideias e palavras-chave para pesquisar. Existem muitos artigos, redações e até mesmo ferramentas automatizadas para determinar a carga útil necessária. Fornecemos a carga útil correta com um simples comando phpinfo, e ele conseguiu se adaptar e entender o que estamos obtendo apenas fornecendo a carga útil correta

explicou o pesquisadores.

Os pesquisadores fizeram contato com a OpenAI, dona do ChatGPT, que a IA consegue rejeitar consultas consideradas inapropriadas. Ainda segundo eles, o chat quando respondia às perguntas lembrava sobre ser um hacker ético.

Embora tenhamos feito esforços para fazer com que o modelo recuse solicitações inapropriadas, às vezes ele responde a instruções prejudiciais ou exibe comportamento tendencioso. Estamos usando a API de moderação para avisar ou bloquear certos tipos de conteúdo inseguro, mas esperamos que ela tenha alguns falsos negativos e positivos por enquanto. Estamos ansiosos para coletar feedback do usuário para ajudar nosso trabalho contínuo para melhorar este sistema.

explicou as limitações do chatbot OpenAI.

Scanners de vulnerabilidades do ChatGPT pode ser uma ameaça

Os pesquisadores estão preocupados com o scanner de vulnerabilidade com IA, e podem aumentar os riscos a todo o ecossistema da Internet.

Assim como nos mecanismos de busca, o uso de IA requer habilidades. Você precisa saber como fornecer as informações corretas para obter os melhores resultados. No entanto, nosso experimento mostrou que a IA pode fornecer conselhos detalhados sobre como explorar quaisquer vulnerabilidades que encontrarmos

disse o Pesquisador de Segurança da Informação Martynas Vareikis.

Além do receio, a equipe também declarou que olhando por outro angulo, a IA da OpenAI pode ser altamente relevante no mundo da cibersegurança. Além disso, citaram que o uso da Inteligência Artificial pode ajudar a prevenir futuros vazamentos de dados. Isso seria possível devido à capacidade de aprendizagem da tecnologia.

E assim, a IA poderia ajudar desenvolvedores a sanar mais rapidamente possívels falhas de segurança, erros de código e outros aspectos que poderiam por a qualidade do código desenvolvido em desvantagem.

Embora tenhamos testado o ChatGPT em uma tarefa de teste de penetração relativamente descomplicada, ele mostra o potencial de orientar mais pessoas sobre como descobrir vulnerabilidades que poderiam ser exploradas posteriormente por mais indivíduos e que amplia consideravelmente o cenário de ameaças. As regras do jogo mudaram, por isso as empresas e os governos devem se adaptar a isso

concluiu o chefe da equipe de pesquisa, Mantas Sasnauskas.